（イメージ：写真AC）

AIの進化によって、AIが発見した脆弱性を狙うサイバー攻撃と、AIが発見した脆弱性を防御するサイバーセキュリティとの攻防が近い将来に繰り広げられることだろう。AIの得意領域とは？ サイバーセキュリティでAIを活用するためには？

サイバーリスクは増大するのか？

ChatGPTと呼ばれるチャットボットを2022年11月30日、人工知能に関する非営利団体OpenAI Inc.が公開した。*1

このチャットボットはAIによってリアルな会話を生成し、従来までのAIよりも一層自然な人間との対話を実現可能にした。リアルな会話と言っても単に気の利いたセリフを吐くだけでなく、利用者からの要求に応じて技術論文や科学的概念の要約、詩や歌詞の創作から、初歩的な財務分析や基本的なソフトウェアコードまで書いてくれる。なんと公開から最初の五日間で100万人が利用し、2022年も押し迫る季節に世界中で大きな注目を集めた。

ニューヨーク大学コンピューターサイエンス・エンジニアリング学部のBrendan Dolan-Gavitt助教授は、このチャットボットに悪意のあるコードを書かせることができるのかという疑問を感じ、その試みをソーシャルメディア上で公開*2している。そこではなんとチャットボットが、提示されたコードからセキュリティ上の欠陥である脆弱性を正しく認識し、さらにその脆弱性を悪用するためのコードまでも書き出してしまっている。

近い将来において、AIが発見した脆弱性を狙うサイバー攻撃と、AIが発見した脆弱性を防御するサイバーセキュリティとの攻防が繰り広げられることだろう。はたしてサイバーリスクは増大するのだろうか。それとも、軽減するのだろうか。

AIの得意領域

サイバーリスクをAIによって軽減できるのか考えてみるために、筆者はAIについてAIに尋ねてみることにした。なお、ChatGPTでは日本語での会話も可能であるが、裏付ける仕様は公表されていないものの言語ごとに回答の精度に差異があるとする見解もある。そのため、今回は英語で尋ねている。そして、英語で得た回答を基に意訳や要約も含む形でその見解をまとめた。

まず、サイバーリスクをAIによって軽減できた、AIの有効性を知ることのできる事例を紹介してほしいと尋ねてみたところ、企業名は匿名としながらも３つの事例を提示してくれた。

オーストラリアの企業では、AIを活用したサイバーセキュリティによってランサムウェア攻撃から身を守ることに成功した。攻撃者の攻撃パターンを機械学習で分析して、ランサムウェア攻撃の兆候を検知し、被害が発生する前にブロックすることに成功したそうだ。

スペインの企業では、顧客データを持ち出そうとしている攻撃者の特定にAIが貢献したとのことである。また、米国の企業では、悪意のあるメールが受信箱に届く前にAIが検知してブロックしているそうだ。

AIは学習を繰り返すことで、いつもとは異なる行動や動作を検知するために有効であることが垣間見える。

では、AIがどのようにしてランサムウェア攻撃の兆候を検知しているのかを尋ねてみた。

それはさまざまな方法を複合的に行なっているが、例えば、メールの内容を分析したり、悪意のあるコードが含まれているファイルをスキャンしたりしている。また、疑わしい行動がないかネットワークアクティビティを監視したり、機械学習を用いることで攻撃が進行していることを示すパターンを特定したりもしている。さらに、AIはログをスキャンすることで異常な動作や、疑わしい動作の検出も試みている。

ちなみに、異常な動作や、不審な動作が行われている可能性がある時のログには、大量のデータ転送、予期せぬ発信元から発信されているアクティビティ、サーバへのリクエスト数の急増といったことが現れてくる。異常や不審な動作を見つけ出すことはAIの得意領域であるため、サイバーリスクをAIによって軽減するための有効な活用法の一つである。