イメージ：写真AC

AIの進化はビジネスのあり方を根底から変えつつあるが、使い方を誤れば企業が重大なリスクに晒される可能性もある。潜在的に抱える可能性のあるリスクと注意すべきポイント、そして法規制の動向について見ていく。

AIが企業をリスクに晒すのか？

AI（人工知能）の進化と普及は、ビジネスのあり方を根底から変えつつあるということを否定することは困難だろう。効率化、コスト削減、意思決定の最適化、顧客体験の向上などなど、その利点は計り知れない。実際、ソフトウェア開発の現場では、7割のプログラマーがより良い仕事をすることにAIが役立っていると回答する調査報告[1] などもある。AIが既に役立つアシスタントのように機能しているのだ。もちろん、良いことばかりではない。同じ調査報告では、プログラマーが現在使用しているスキルが急速に陳腐化していくことを懸念する声や、自分自身の仕事がどのように変化するのか不安を抱いているプログラマーも多くいることも指摘されている。そして、この革新的なテクノロジーを取り入れる際に、サイバーリスクや法規制の遵守など新たな課題に直面することも避けられない。AIの使い方を誤れば、企業は重大なリスクに晒される可能性があるということだ。

AIを用いたシステムでは、膨大なデータを処理し学習する能力を持っているため、データ保護とプライバシー管理が重要となる。不適切なデータ管理は、情報漏えいやプライバシー侵害のリスクを高め、企業の信頼を損なうことにも発展しかねない。また、AIの技術が急速に発展することで既存の法規制の枠組みを超える可能性もある。例えば、AIが生成するデータやAIの意思決定の過程がGDPR（EU一般データ保護規則）にどのように適合するのか依然として明確ではない。当然、企業がAIを活用する際には、これらの法規制を遵守することが求められるが、遵守そのものが困難な可能性もある。

このようにAIによるビジネスへの影響は、新たなリスクを生み出すというよりも、既存のリスクを拡張する形で現れると考えることができる。AIを用いた自動化により生産性は向上するが、同時に仕事の質やバリエーションにより多くのエラーをもたらす可能性もある。

では、AIを用いたサイバー攻撃はどうなのか？

NCSC（英国家サイバーセキュリティセンター）が1月に公開した報告書では、AIがサイバーセキュリティに与える影響について詳細に分析している。[2] AIに関連するリスクを理解し、適切な対策を講じるための貴重な資料だろう。この報告書によると、人間の心理を巧みに操り、セキュリティシステムを迂回するソーシャルエンジニアリングで特に、大きな変化が訪れることに言及している。AIを用いたソーシャルエンジニアリングは、従来の手法よりもはるかに洗練され、個人や企業を狙った精密な攻撃を可能にするため、企業や組織ではこれまで以上の対策を講じる必要がある。

AIの導入を検討する際にはこれらのリスクを十分に理解し、適切な対策が不可欠となるが、危なそうだから使わないということではなく、リスクを最小限に抑えて活用するバランスを見つけ、恩恵を享受していきたい。

責任ある利用が求められる

2024年は米国大統領選挙があるが、ここでも AIのもたらすリスクに注目が集まっている。ディープフェイクと呼ばれるAIで作成された偽の映像や音声のことだ。実際には存在しない人物の言動をリアルに再現することで、情報の真偽を見極めることの難しさが増し、政治的な文脈では特に深刻な問題を引き起こす可能性がある。選挙期間中、候補者に関する偽の動画や音声がSNSを通じて拡散されれば、大衆の意見が操作される恐れもあり、選挙の公正性や民主主義の根幹を揺るがすリスクさえもあるのだ。実際に、過去の選挙ではディープフェイクを使った明確な事例が報告されており、技術の進歩と共にこの種の攻撃はより洗練され、検出が困難になっている。

ところで、ディープフェイクではなくAIが生成したコンテンツの著作権は、誰に帰属するのだろうか？

法律家、クリエイター、技術開発者の間で活発な議論が行われているが、現時点では多くの法域で、AIによって生成された作品の著作権はAI自体ではなく、AIシステムの開発者またはそのユーザーに帰属すると考えられている。欧州委員会が公開した報告書においても、AIによる創造物の著作権に関しては、開発者かユーザーに帰属させる方向で議論が進んでいることが確認できる。[3] 一方でAIの自律性が高まれば、人間からは独立した創作主体とみなすべきだとの意見もあり、今後の法制度の在り方が問われることになりそうだ。

また、AI技術の進化は、ディープフェイクや著作権の問題にとどまらず、労働市場、プライバシー保護、倫理的な問題など、社会のさまざまな側面に影響を及ぼしていく。例えば、AIによる自動化が進むことで多くの職種が変化または消滅する可能性が議論されることは多い。同時に、新たな職種やビジネスチャンスも生まれている。AIの責任ある利用と発展に向けて、これらの技術のポテンシャルを最大限に生かしつつ社会的なリスクを最小限に抑えるために、継続的な研究や法的枠組みの整備、そして公衆の意識向上が不可欠である。