イメージ（写真：Adobe Stock）

人工知能（AI）およびこれに関連する最新技術を活用することは、企業の競争力を維持・向上させるためには不可欠となっている。それゆえに、それらを活用するときには法的そして規制上の課題を検討して、陥りやすい落とし穴を回避しなければならない。そうしたリスクを回避するためには、少なくとも3つの包括的な原則に焦点を当てて、リスクマネジメントを実行する必要がある。

ビジネス目標と実践に合わせる

一つ目の原則はAIをビジネス目標と実践に合わせることである。ビジネス目標を達成するためにAIをどのように活用するのかを定義することで、消費者や取引先といった顧客に対してAIツールを提供するのか、既存または新たなサービスを提供するためにAIを活用するのかなど、ビジネスとの関連性を明確にする。AI活用のロードマップをビジネス目標やそれに関連するリスクマネジメントと整合性を持たせることである。AI活用では多くの投資を必要とするにもかかわらず、こうした視点を欠くことは無駄な投資に終わったり、余分な追加投資を必要とさせたりすることになる。

リスクの優先順位をつける

二つ目の原則は関連するリスクを明らかにし、それらに優先順位をつけることである。AI活用に関わる法的、倫理的なリスク、さらに運用上のリスクを特定するためにリスク評価を実施することが求められる。その際には、次のようなリスクを評価することを忘れてはならない。すなわちプライバシーとセキュリティは当然として、誤って偏向学習する可能性から起こりうる倫理的影響、活用するデータとAIを決定することから生じる組織としての責任、データ所有権やライセンス契約などの知的財産にかかわる所有権と使用権、そしてAIからのアウトプットの正確性と安全性の確保である。こうしたリスクを特定し、対応すべき優先順位を確定する。

AIモデルへの信頼性を確立する

最後はAIモデルへの信頼性を確立することである。具体的には、AIの導入に関わる従業員に対して、適用される法律や規制、その下での義務などについて、包括的に教育訓練を実施することである。また、どのようなデータを入力して、どのように出力を導き出すのか、AIツールの活用に関する説明可能性を強化することも、信頼性を高める。さらにはAIツールの活用プロセルにおいて重要な決定には人間を関与させ、組織の価値観や倫理的な検討事項と一致していることを確保する体制を整えていることも必須である。

AI活用が高まる中、改めて、AIを活用するための組織的な基盤が整っているかを確認し、整備・強化することは、リスクマネジメントとして求められている。

参考：RIMSホームページ, 訳はRIMS日本支部サイト