2024/11/10
定例セミナーダイジェスト
AIをめぐるセキュリティの攻防
―その現在地と検討ポイント
テクノロジーリスク勉強会 10月2日
ISF Business Account Manager
小原浩之氏

攻撃AI×防御AIで何が起きるかは未知数
テクノロジーリスク勉強会は10月2日、オンラインで開催。「AIをめぐるセキュリティの攻防―その現在地と検討ポイント」をテーマに、情報セキュリティのグローバルネットワーク・ISF(InformationSecurity Forum)の日本窓口を務める小原浩之氏が、AIを使ったサイバー攻撃と防御の関係性などを解説した。
小原氏は、AIがサイバーセキュリティに与える影響を解説。攻撃面においてはディープラーニングによるマルウェアの進化、ディープフェイクによるフィッシングメールやソーシャルエンジニアリング(心理的隙をついて情報を詐取する手法)の巧妙化など「悪用が進んでいる」とした。
AIはシステムへの侵入と侵入後の活動を自動化・最適化し、また機械学習と自然言語処理によって脆弱箇所を精度よく発見、攻撃すると指摘。「いまや技術力の低い犯罪者でもインパクトの強い効果的な攻撃ができるうえ、特定も困難になっている。インシデント対応は非常に難しい」と話した。
一方でAIによる防御についても、脅威の検出・分析の強化・自動化によりダイナミックなセキュリティ戦術が可能になったと説明。将来起き得る攻撃を予測したタイムリーな行動支援やインシデントの迅速な検知に加え、潜在的インシデントも特定した的確な意思決定など「新たな脅威にスピードで対応できる」とした。
が、過去の攻撃データの継続学習で検知能力が上がり、さまざまなアプローチの最適化ができる半面、AIは「サイバーの専門家でも理解が及ばない未熟なテクノロジーであることをわきまえる必要がある」とも発言。例えば、攻撃AIのプロセスと防御AIのプロセスが対抗した場合、何が起きるかわからないという。
「今後、深掘りして検討していかないといけない。そしてそれを、自社の問題として整理していかないといけない。これが一番大きな課題になる」と述べた。
PRO会員(ライトは除く)のアーカイブ視聴はこちら。12月31日まで。
- keyword
- ITセキュリティ
- サイバーセキュリティ
- AI
- 人権DD
- 人権デューデリジェンス
- サプライチェーン
- 一斉帰宅抑制
- 滞在訓練
防災・危機管理ニュースの他の記事
おすすめ記事
-
リスク対策.PROライト会員用ダウンロードページ
リスク対策.PROライト会員はこちらのページから最新号をダウンロードできます。
2025/07/05
-
-
-
-
中澤・木村が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2025/07/01
-
-
-
「ビジネスイネーブラー」へ進化するセキュリティ組織
昨年、累計出品数が40億を突破し、流通取引総額が1兆円を超えたフリマアプリ「メルカリ」。オンラインサービス上では日々膨大な数の取引が行われています。顧客の利便性や従業員の生産性を落とさず、安全と信頼を高めるセキュリティ戦略について、執行役員CISOの市原尚久氏に聞きました。
2025/06/29
-
-
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方