2018/11/08
AIブームとリスクのあれこれ
■人間がAIの標的になる可能性
AIロボットが人間を殺傷する。このような飛躍した懸念は以前から一部の人々の間でささやかれてきましたが、多くはSF映画の素材に転嫁されることがもっぱらで、それ以上に現実的な脅威として問題視されることはありませんでした。
ところが、テスラのCEOである著名なイーロン・マスク氏が「テクノロジー(AIのこと)は第三次世界大戦を引き起こす」と述べてからは、なんとなくあちこちで現実味を帯び始めました。もっとも彼はAIについてはあけすけな、あるいは誇張した意見を述べることもしばしばで、彼自身がどこまで確かな根拠に基づいて語っているのか疑問視する声も少なくありません。しかし専門家たちにしてみれば、意外に聞き捨てならないことのようです。例えばCNBCの次の1文。
「無人殺傷兵器を開発したり軍の意思決定にAIを使用したりすれば、多くの倫理的ジレンマを生み出し、引いてはAIによる戦争への扉を開くことになる、と専門家や活動家は強く主張している」。
あるNGOは、「ストップ殺人ロボットキャンペーン」を掲げ、AIを搭載したドローンや乗り物の開発を禁止するよう政府に働きかけているといいます。
目や耳の錯覚、体調の善し悪し、あるいは恐怖や怒り、油断といった感情が生じて判断を誤りやすい人間に比べると、AIは究極的に冷静な判断力を備えた精緻な存在であるといえるでしょう。その意味でAI自体は危険などころかとても頼りになる存在なわけですが、問題なのはそれが人間の手を離れて完全に自律的に歩き回ったり、走行あるいは飛行したりする「監視ロボット」や「兵器」となったとき、限りなく恐ろしい存在に思えてくる。なにしろ「話せばわかる」相手ではないですから。
■核のボタンを押すのは?
ちなみに映画「ターミネーター」では、スカイネットと呼ばれる戦略防衛コンピュータシステムが自我に目覚め、全世界に核ミサイルを発射して人類の半数を死滅させるというコワい設定でした。今ではスカイネットは究極の軍事AIと呼んでもよいでしょう。この映画に触発されたわけではないとは思いますが、AIを軍事に応用すれば2040年までに核戦争が起きる可能性があることを米国防省傘下のシンクタンクであるランド研究所が警告しているのです。
この過激な予測は、軍事目的のAIが誤った判断を下す可能性があることを示唆しています。AI自身が核のボタンを押さずとも、AIの判断が絶対的に正しいと信ずる軍部の意思決定者あるいは一国のリーダーが、その「ご宣託」を受けて慌てて核のボタンを押してしまうかもしれないのです。
この背景には、1983年に旧ソビエト連邦の軍当局で、コンピュータがうっかり「米国が核ミサイルを発射した」との誤認アラートを出し、あやうく核戦争が起こりかけたという事実があります。「当時のコンピュータは性能が低かったからね」で済まされる話ではありません。人間をはるかに凌駕した記憶量と計算速度を持つ今日のAIは、人手ならば何十年もかかる作業を、ものの数分(あるいは数十秒)で処理してしまうでしょう。そのはかりしれない記憶量と処理速度、そして結論が導き出されるまでの複雑な過程は、人間から見れば完全に不可視あるいは不可知の領域にあるわけです。AIが人間の倫理的直感に反する究極の結論を出したとき、あなたはその結論を「なぜ?」を問うことなく正しいこととして受け入れられますか?
(続く)
AIブームとリスクのあれこれの他の記事
おすすめ記事
-
自社の危機管理の進捗管理表を公開
食品スーパーの西友では、危機管理の進捗を独自に制作したテンプレートで管理している。人事総務本部 リスク・コンプライアンス部リスクマネジメントダイレクターの村上邦彦氏らが中心となってつくったもので、現状の危機管理上の課題に対して、いつまでに誰が何をするのか、どこまで進んだのかが一目で確認できる。
2025/04/24
-
-
常識をくつがえす山火事世界各地で増える森林火災
2025年、日本各地で発生した大規模な山火事は、これまでの常識をくつがえした。山火事に詳しい日本大学の串田圭司教授は「かつてないほどの面積が燃え、被害が拡大した」と語る。なぜ、山火事は広がったのだろうか。
2025/04/23
-
リスク対策.com編集長が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2025/04/22
-
帰宅困難者へ寄り添い安心を提供する
BCPを「非常時だけの取り組み」ととらえると、対策もコストも必要最小限になりがち。しかし「企業価値向上の取り組み」ととらえると、可能性は大きく広がります。西武鉄道は2025年度、災害直後に帰宅困難者・滞留者に駅のスペースを開放。立ち寄りサービスや一時待機場所を提供する「駅まちレジリエンス」プロジェクトを本格化します。
2025/04/21
-
-
大阪・関西万博 多難なスタート会場外のリスクにも注視
4月13日、大阪・関西万博が開幕した。約14万1000人が訪れた初日は、通信障害により入場チケットであるQRコード表示に手間取り、入場のために長蛇の列が続いた。インドなど5カ国のパビリオンは工事の遅れで未完成のまま。雨にも見舞われる、多難なスタートとなった。東京オリンピックに続くこの大規模イベントは、開催期間が半年間にもおよぶ。大阪・関西万博のリスクについて、テロ対策や危機管理が専門の板橋功氏に聞いた。
2025/04/15
-
BCMSで社会的供給責任を果たせる体制づくり能登半島地震を機に見直し図り新規訓練を導入
日本精工(東京都品川区、市井明俊代表執行役社長・CEO)は、2024年元日に発生した能登半島地震で、直接的な被害を受けたわけではない。しかし、増加した製品ニーズに応え、社会的供給責任を果たした。また、被害がなくとも明らかになった課題を直視し、対策を進めている。
2025/04/15
-
-
生コン・アスファルト工場の早期再稼働を支援
能登半島地震では、初動や支援における道路の重要性が再認識されました。寸断箇所の啓開にあたる建設業者の尽力はもちろんですが、その後の応急復旧には補修資材が欠かせません。大手プラントメーカーの日工は2025年度、取引先の生コン・アスファルト工場が資材供給を継続するための支援強化に乗り出します。
2025/04/14
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方