第11回:「生成AI」って何?-part2-
生成AIの悪用事例と気をつけたいポイント
警視庁サイバーセキュリティ対策本部
2016年4月、複雑多様化するサイバー空間の脅威に対処することを目的に設置された警視庁の組織。その業務の一つに、都民及び都内に所在する事業者等に対するサイバーセキュリティ対策や広報啓発活動を実施して、都民生活及び社会経済活動の安全・安心を確保するものがある。
2026/01/21
5分でわかるサイバーセキュリティー教室
警視庁サイバーセキュリティ対策本部
2016年4月、複雑多様化するサイバー空間の脅威に対処することを目的に設置された警視庁の組織。その業務の一つに、都民及び都内に所在する事業者等に対するサイバーセキュリティ対策や広報啓発活動を実施して、都民生活及び社会経済活動の安全・安心を確保するものがある。
「生成AI」は便利な反面、犯罪などに悪用されてしまう場合もあります。今回は「生成AI」が悪用される事例と、気をつけたいポイントについて説明します。
メディアやSNS等で、本当ではない記事が公開されることがありますが、これらの記事をフェイクニュースなどと呼びます。
生成AIにより、もっともらしい偽画像・偽映像・偽ニュース記事等を簡単に作成し、発信できるようになり、インターネットに流れるフェイクニュースが問題となっています。令和6年能登半島地震の発災直後には、フェイクニュースが流通・拡散され、救命・救助活動に支障が出るなどの悪影響が生じました。
詐欺犯人が、生成AIで著名人が投資を勧める詐欺広告を作成してSNSで投資を勧誘し、グループチャット(複数人でメッセージ等をやり取りし、インターネット上で会話を行える場)などで信用させて、金銭等をだまし取る詐欺も発生しています。
ニセ警察詐欺という手口には、
➊ニセの警察官から電話が来て「逮捕状が出ている」などと脅されトークアプリに誘導される。
➋トークアプリのビデオ通話で、偽の警察手帳や逮捕状を画像で見せられる。
➌ニセの警察官から、あなたの口座のお金を調査するので、全額指定口座にお金を振り込むよう指示される。
➍犯人にお金を振り込んでしまい、被害に遭う。
といったものがあります。
そして、➋の際に生成AIを悪用して自分の顔に実在する警察官の顔を合成し、警察官になりすましてビデオ通話を行った可能性がある詐欺も発生しています。
警察官をかたる者とのビデオ通話などついて、動画でわかりやすく説明しています。
リンク:特殊詐欺根絶アクションプログラム・東京
https://action.digipolice.jp/
サイバーセキュリティに関する動画をYouTube警視庁公式チャンネル内で公開しています。
警視庁サイバーセキュリティ対策本部X(旧Twitter)公式アカウントでも情報発信を行っています!
警視庁サイバーセキュリティ対策本部X(旧ツイッター)公式アカウント
防犯アプリ「デジポリス」
お近くの犯罪発生状況や防犯ブザーなどの防犯機能を提供しています。
5分でわかるサイバーセキュリティー教室の他の記事
おすすめ記事
中澤・木村が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2026/03/31
ドンロー主義の顕在化に揺れる世界
アメリカとイスラエルが2月28日、イランへ大規模な軍事作戦を開始。イランは徹底抗戦する構えで、中東全体を巻き込む紛争に発展しました。早期停戦が待たれるも、長期化の可能性も依然濃厚。アメリカ政治に詳しい上智大学教授の前嶋和弘氏に、トランプ政権の思惑と今後の軍事行動に影響を与える要因を聞きました。(インタビューは3月16日)
2026/03/30
引き合い急増する「セキュリティソムリエ」
ソフトバンクのグループ企業でIT商社のSB C&Sは2021年から、サイバーセキュリティ市場の多様化に対応するため販売パートナーへの支援活動を展開。商社の情報力・目利き力を生かしてSIerやベンダーの提案力を補強し、その先のユーザー企業へ最適なソリューションを届けています。「セキュリティソムリエ」と銘打った活動のねらいを聞きました。
2026/03/30
火事・水害の被災設備に復旧という選択肢
災害復旧専門サービスのベルフォアジャパンは昨年、独自営業による顧客開拓に乗り出しました。これまでは共同出資者の東京海上日動火災保険を窓口としてきましたが、体制変更を機に直接の市場アプローチを開始。BCPの実効性を確保する手段として自社のサービスを訴求する考えです。代表取締役社長の加藤道久氏に今後の市場戦略を聞きました。
2026/03/18
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方