企業は、サードパーティ製のアプリケーションから自社開発のツールに至るまで、ビジネス運営に人工知能（AI）を組み込み続けています。AIの導入が進むにつれ、その監督体制の必要性も高まっています。AIガバナンスに関する明確なアプローチがなければ、企業はコンプライアンス上の不備、評判の低下、業務上の失敗といったリスクにさらされることになります。
社内でAIモデルを構築する場合でも、ベンダーのソリューションを活用する場合でも、企業全体にわたるリスクを特定・管理・対処するためには、一貫性のあるガバナンスの枠組みが不可欠です。
社内向けAIソリューション：制御性が高まる一方で、リスクも増大する
企業では、ビジネス成果の加速、業務効率の向上、競争上の優位性につながる知見の獲得を目的として、カスタムAIソリューションの開発がますます進んでいます。こうした社内でのイノベーションは大きな価値を生み出す一方で、積極的な管理を必要とするガバナンス上の課題ももたらしています。
体系的な監督体制が整っていない場合、社内でAIを開発することで、リスクプロファイルに死角が生じる可能性があります。リスクには以下のようなものがあります：
- 結果を歪めたり、不平等を助長したりする意図しないバイアス
- 意思決定に影響を及ぼすデータ品質の問題の深刻化
- モデルが確立された枠組みの外で動作する場合のコンプライアンス上の不備
- AIがどのように構築、導入、監視されているかについて、可視性が欠如している
効果的な内部AIガバナンスがなければ、組織は以下のことができません：
- AIがどのように活用されているかを明確に把握しておく
- 事業部門ごとにAIの在庫を正確に管理する
- EU AI法など、新たに導入される規制要件への準拠を確保する
強力なAIシステムを構築することは、その一環に過ぎません。倫理的な実践を推進し、責任ある利用を確保することが、あらゆるAIイニシアチブの中心でなければなりません。
サードパーティ製のAIツール：責任は依然としてあなたにある
AIが組み込まれたベンダー製ソフトウェアを使用しても、責任が免除されるわけではありません。開発が自社外で行われた場合でも、これらのツールが自社の環境内でどのように動作するかについては、依然として貴社が責任を負うことになります。
多くのベンダーは、自社のAIモデルがどのように学習されているか、あるいは出力がどのように生成されているかについて、完全な透明性を提供していません。こうした可視性の欠如があるため、外部のAIツールを導入する前と導入後に評価を行うことが不可欠となります。以下のような項目を含む、標準的な評価基準を策定してください：
- データの収集、保存、および保護の方法
- モデルの監視と更新の方法
- 出力の説明と検証方法
EUのAI法は、この共同責任をさらに強化しています。AIの開発者や提供者に義務が課される一方で、組織もシステムの導入や利用方法について同等の責任を負います。外部モデルの構築方法については制御できない場合でも、その成果を監視し、その利用が規制要件に準拠していることを確保する責任があります。
これはAIを避けることではありません。責任を持ってAIを活用し、自らの義務を明確に理解した上で利用することなのです。
AIガバナンス：政策からプログラムへ
効果的なガバナンスは、その場しのぎの取り組みでは実現できません。AIが企業全体に拡大する中、組織には、プロセス、責任の所在、説明責任を確立する体系的なアプローチが必要です。これには、単なるポリシー以上のものが求められます。部門横断的な関与、明確な役割分担、そして明確な責任の所在が不可欠です。
AIガバナンスの目的は、不確実性を低減することにあります。適切なプログラムを導入することで、組織は、AIが責任を持って、倫理的に、かつ適用される法令や規制に準拠して管理されていることを確信し、自信を持ってAIを導入することができます。
詳細はこちら
ArcherとEYは共同で、「EU AI法に焦点を当てて：責任あるAIのためのエコシステム全体にわたる戦略」と題した、示唆に富むウェブキャストを開催します。本セッションでは、AIガバナンスがなぜEU AI法の要件を満たすだけにとどまらず、組織内の中核をなす持続可能なプロセスとならなければならないのかについて考察します。本セッションは、組織のニーズに合わせて適応し、成長し続けるAIガバナンス戦略を策定するための重要な議論の場となるでしょう。
アーチャーとEYが、企業がAIを責任を持って活用できるようどのように支援しているかをご覧ください。ウェブキャストはこちらでご覧いただけます。
