台風15号が記録的な豪雨を静岡県にもたらしました。気象庁によると静岡市駿河区では12時間雨量が観測史上最多となる404.5ミリを観測。これは平年の9月降水量の約1.5倍に当たる量とのことです。この大雨により、静岡県各所では広範囲で冠水・浸水や土砂災害、大規模な停電・断水の被害が発生しました。特に断水については静岡市清水区を中心に6万軒以上で発生し、29日から段階的に解消するものの、完全復旧は10月まで持ち越しになる見込みです。

3名がお亡くなりになり、ライフラインの途絶をもたらす深刻な災害となってしまった今回の豪雨ですが、災害自体とは別に残念な事象が起こりました。それはフェイク画像の拡散です。

下の画像は、9月26日の午前4:39にツイッター上に投稿された画像になります。住宅群が完全に水に浸かってしまっている、非常に衝撃的な画像で、これを見て慌ててリツイートしてしまった方もおられたのではないでしょうか。SNSへの投稿を含む災害に関する情報を収集・解析・配信しているスペクティでは、これらがAIによって作成された画像である可能性を見抜き、「これはデマである」と顧客に対して明確に注意喚起させていただきました。

 

フェイク画像を技術的に判定をするポイントは複数ありますが、一方で弊社のオペレーションを担うスタッフのように、普段からよく災害の情報に接している人間であれば、よく見ると画像に不自然な点が多々あることがわかります。例示しますと：

◆水の流れが激しいところと穏やかなところの境目がおかしい
◆木と家が融合してしまっているようなところが複数ある
◆水面への映り込みが不自然
◆水面の高さの方が冠水していないエリアの地面よりも上にある
◆電柱が見当たらない
◆マスメディアの報道において、ここまで広範囲に深く浸水してしまっている場所はない

しかし、慣れていない人が瞬時に見抜くことは難しい、よくできたフェイク画像だと言うことができます。これはどのように作成されたのでしょうか。この画像を投稿した方がその後のツイートで「Q. 写真の入所元は。A. Stable Diffusion。”flood damage, shizuoka”のキーワードで出しました」と明かしています。

「Stable Diffusion」とは、ロンドン拠点の企業Stability AI社が先月（2022年8月）に公開した画像生成AIです。画像生成AIの進化はこのところ大きく加速しており、特にテキストを入力することで画像を生成する「text to image」という分野については、人工知能を研究する非営利団体Open AIが2021年1月に発表した「DALL-E」、その後今年7月に公開された「DALL-E2」や「Midjourney」など次々と新しいものが登場しています。「Stable Diffusion」もその系譜に連なるものではありますが、大きな特徴は膨大なデータで学習したAIモデルをオープンソースで公開しており、誰でも使える形で提供している点で、実際にこれをベースとした多くのサービスやアプリが一気に登場しています。