2018/10/11
AIブームとリスクのあれこれ
■誰でも入手できるAIアルゴリズム
このビデオはどのようにして作るのでしょうか。まず複雑な命令コード一式をコンピューターにインストールし、次にビデオ加工する人物の様々なイメージと音声を読み込みます。この後コンピュータープログラムは、その人物の顔の表情や動きだけでなく、声や話し方のパターンまで含め、そっくり真似できるように学習します。対象とする人物のビデオ画像や音声がたくさんあればあるほど、ディープフェイクは自由自在に偽の発言を作り出すことができるそうです。
こうしたビデオは、インターネットからプログラムコードを有料または無償でダウンロードして作れるというから驚きです。以前、この連載で述べた「3Dプリンターによる銃製造マニュアルのダウンロード」とほとんど同じでしょう。
考えてみれば、ネット上には政治家やタレント、セレブなどを撮ったビデオ映像があふれています。こうした素材に興味を持つ者はだれでも簡単にインターネットからソースコードをダウンロードし、手軽にフェイクビデオが作れる。これだけでも、なんとなく嫌な予感がするではありませんか。
米国のある専門家はこう指摘します。「私たちが観ている人物が本人なのか、本人が話していることなのか、それともフェイクなのか区別できない時代に入りつつあります。これは大きな問題です」と。アメリカ国防高等研究計画局(DARPA)は、すでにこうしたフェイク画像や映像を見破るための技術の開発に着手しているそうですが、今のところ、フェイクを特定するためのプロセスがとても複雑で、かつ時間もかかると言われています。
しかし仮に世の中にディープフェイクが広まっても、ユーザーはそれを危険なものとは見做さないでしょう。むしろ面白がって繰り返し観るに違いない。過激なYoutube映像ほど数えきれないほどの人が閲覧している現状からもそれは明らかです。しかし、それに慣れ親しんで感覚が麻痺してしまうとやっかいです。自分が観ている映像の真偽の判断がつかず、リテラシーが崩壊してしまうのですから。
■ディープフェイク・ビデオがもたらすさらなるリスク
筆者が観た限りでは、フェイクビデオにはパロディやウケをねらって一目で加工したことがわかるようなものから、先ほどのオバマ前大統領のような真偽の区別がつかないリアルなものまでいろいろあります。一般にこの種のフェイクビデオは、今現在はコメディなどで使われていて、あまり害はなさそうにも見えます。とは言え、その延長上に犯罪リスクの危険性を考えないわけにはいきません。
例えば映画俳優や実業界のセレブなどは世間から注目と賞賛を浴びる一方で、彼ら彼女らを心よく思わない人々もいる。そんな人たちが悪意をもって、いやがらせとか報復のために俳優やセレブを貶めるようなディープフェイク・ビデオを作り、ネットに拡散させるかもしれません。
しかし実のところ、ディープフェイクの拡散をもっとも警戒しているのは米国の政治家や情報当局なのです。最悪の場合、例えば次のような国家レベルの脅威となり得るようなケースが考えられると言います。
(1)大統領や議員選挙などで相手候補者に「トンデモ発言」を言わせたビデオを流して足を引っ張る。
(2)証拠映像をきっかけに告訴された政治家や実業家が、「それはディープフェイク映像だ。私は一言もそんなことは口にしていない」と弁解し、言い逃れの手段に利用する。
(3)国民を分断したり、良好な国家間の関係を破たんさせる目的で、だれかがトランプ大統領のような国のトップにとんでもない発言をさせた映像を流す。とうてい容認できないような人種差別的発言とか、相手国を挑発して戦闘態勢をとらせるような発言です。こんなことが起これば世界は大混乱するでしょう。
さて、これらは米国の話ではありますが、日本はどうなんでしょうか? 国内でディープフェイク・ビデオがネット上にアップされるのは時間の問題かもしれません(いや、どこかでもう映像が流れているかも?)。もしそうなったら、私たちはどう対処すればよいのでしょうか。あまり先行きのことを懸念するのは健康によくありません。けれども今後、まったく気づかないうちにこの種のビデオのとりこになったり、完全に騙されて誤った認識を持つリスクを抱えていることを、私たちは心の隅にとどめておく必要があるのではないでしょうか。
(了)
AIブームとリスクのあれこれの他の記事
おすすめ記事
-
リスク対策.com編集長が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2025/04/01
-
-
-
-
-
全社員が「リスクオーナー」リーダーに実践教育
エイブルホールディングス(東京都港区、平田竜史代表取締役社長)は、組織的なリスクマネジメント文化を育むために、土台となる組織風土の構築を進める。全役職員をリスクオーナーに位置づけてリスクマネジメントの自覚を高め、多彩な研修で役職に合致したレベルアップを目指す。
2025/03/18
-
ソリューションを提示しても経営には響かない
企業を取り巻くデジタルリスクはますます多様化。サイバー攻撃や内部からの情報漏えいのような従来型リスクが進展の様相を見せる一方で、生成 AI のような最新テクノロジーの登場や、国際政治の再編による世界的なパワーバランスの変動への対応が求められている。2025 年のデジタルリスク管理における重要ポイントはどこか。ガートナージャパンでセキュリティーとプライバシー領域の調査、分析を担当する礒田優一氏に聞いた。
2025/03/17
-
-
-
なぜ下請法の勧告が急増しているのか?公取委が注視する金型の無料保管と下請代金の減額
2024年度は下請法の勧告件数が17件と、直近10年で最多を昨年に続き更新している。急増しているのが金型の保管に関する勧告だ。大手ポンプメーカーの荏原製作所、自動車メーカーのトヨタや日産の子会社などへの勧告が相次いだ。また、家電量販店のビックカメラは支払代金の不当な減額で、出版ではKADOKAWAが買いたたきで勧告を受けた。なぜ、下請法による勧告が増えているのか。独占禁止法と下請法に詳しい日比谷総合法律事務所の多田敏明弁護士に聞いた。
2025/03/14
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方