OGの画像

私たちは皆、映画でそのような光景を目にしてきた。ロボットが大混乱を引き起こし、文明の主導権を握ってしまうという展開だ。SFファンとして、私は人工知能が何らかの形で現れるという物語を数多く読んできた。興味深いことに、そうした物語のほとんどは、二極化した登場人物の二つの側面を描いている。一方は人類に進歩と繁栄をもたらす善意の存在であり、もう一方は社会の存続そのものを脅かす悪意のある勢力である。

ChatGPTやGoogleのBard、MicrosoftのBing AIなどが話題となる中、人工知能（AI）が世界にどのような影響を与えるかという議論が最前線に浮上しています。チェスでディープ・ブルーがカスパロフに勝利した当時を彷彿とさせるこの議論は、テクノロジーが情報化時代を「歩む」のではなく、「飛躍的に進歩する」ものであることを改めて思い起こさせてくれます。 しかし、最近のAIの進歩は、ここ数年、医療から金融に至るまでさまざまな業界を変革してきた機械学習や技術モデリングの、あくまで最新版に過ぎません。とはいえ、AIが大きな注目を集める一方で、その開発や導入には確かにリスクが伴っており、リスク管理の専門家たちはこうしたリスクをしっかりと注視しておく必要があります。

朗報としては、アプローチの定義に向けた動きが本格化していることです。NISTは3月30日、「信頼性と責任あるAIリソースセンター」を立ち上げました。この新たな取り組みは、今年1月に発表されたNISTの「AIリスク管理フレームワーク」の実装と、国際的な整合性を促進するものです。 もう一つの情報源は、米国エネルギー省が発行した『AIリスク管理プレイブック（AIRMMP）』です。これらは、AIリスクに関する新たなガイダンスのほんの一部に過ぎません。AIや機械学習におけるリスクというテーマは、これまで数多くの学術研究で取り上げられてきましたが、新しいモデルや技術が登場するにつれて、今後も引き続き研究の対象となるでしょう。

GRC／統合リスク管理（IRM）の観点から見ると、AIリスクにはいくつかの基本的な接点があります。例えば：

  • 方針と基準：ガバナンスとコンプライアンスの基盤となるのは、方針と基準です。あらゆる種類のAIの利用については、管理要件を確立するため、企業の方針に明記されなければなりません。
  • セキュリティ対策：AIシステムは、他のコンピュータシステムと同様に、サイバー攻撃に対して脆弱である可能性があります。AIシステムがハッキングされた場合、機密データが盗まれたり、改ざんされたり、さらには破壊されたりする恐れがあります。また、悪意のある攻撃者は、AIを利用して、ディープフェイクを作成して偽情報を拡散させたり、金融市場を操作したりといった攻撃を仕掛ける可能性もあります。
  • コンプライアンスおよび リスク評価：おそらく、貴社の評価プロセスは、規制要件から内部統制のコンプライアンスに至るまで、多岐にわたる項目を網羅していることでしょう。検討すべき課題のリストは増え続けています。前述のフレームワークは、機械学習やAIの活用可能性を特定するためのシンプルな質問を取り入れ、一歩先を行くための優れた出発点となります。
  • データガバナンス：IRMの一環として、組織内でデータがどのように流れるかを理解することが重要です。データガバナンスは、当初はプライバシー対策に影響を与えるものでしたが、現在ではあらゆる種類のデータや、そのデータの利用方法についても考慮する必要性が高まっています。また、バイアスなどのリスクについて適切な監視が行われていることを確保するため、機械学習やAIの利用についても、この対象に含めるべきです。

組織がAIをどのように活用してビジネス目標をさらに推進できるかを検討する中、リスク、コンプライアンス、セキュリティの各チームは、避けられない事態に備えなければならない。一方で、これは決して新しいことではない――これらの部門はこれまでにも技術の進歩に直面してきたからだ。他方で、これはまったく新しい存在である。AIの面白いところは、実際に「自分にはどのようなリスクがあるのか」と尋ねることができる点だ。「あなたはどのようなリスクをもたらすのか」という質問に答えられるリスクは、他に思い当たらない。

ChatGPTがこう教えてくれました：

AIには産業に革命をもたらし、人々の生活を向上させる可能性がありますが、その開発や導入にはリスクも伴います。こうしたリスクには、バイアス、セキュリティ、失業、自律性、説明責任の欠如などが挙げられます。AIの発展が進むにつれ、こうしたリスクを認識し、その軽減に向けた対策を講じることが重要です。これには、透明性があり、説明責任を果たし、倫理的なAIシステムを開発すること、そして人間がAIシステムを常に制御し続けることを確保することが含まれます。

これほど的確に言い表すことはできなかったでしょう。

詳細については、リスク管理における現代的なニーズに関するIDCのレポートをご覧ください。