2018/11/08
AIブームとリスクのあれこれ
■人間がAIの標的になる可能性
AIロボットが人間を殺傷する。このような飛躍した懸念は以前から一部の人々の間でささやかれてきましたが、多くはSF映画の素材に転嫁されることがもっぱらで、それ以上に現実的な脅威として問題視されることはありませんでした。
ところが、テスラのCEOである著名なイーロン・マスク氏が「テクノロジー(AIのこと)は第三次世界大戦を引き起こす」と述べてからは、なんとなくあちこちで現実味を帯び始めました。もっとも彼はAIについてはあけすけな、あるいは誇張した意見を述べることもしばしばで、彼自身がどこまで確かな根拠に基づいて語っているのか疑問視する声も少なくありません。しかし専門家たちにしてみれば、意外に聞き捨てならないことのようです。例えばCNBCの次の1文。
「無人殺傷兵器を開発したり軍の意思決定にAIを使用したりすれば、多くの倫理的ジレンマを生み出し、引いてはAIによる戦争への扉を開くことになる、と専門家や活動家は強く主張している」。
あるNGOは、「ストップ殺人ロボットキャンペーン」を掲げ、AIを搭載したドローンや乗り物の開発を禁止するよう政府に働きかけているといいます。
目や耳の錯覚、体調の善し悪し、あるいは恐怖や怒り、油断といった感情が生じて判断を誤りやすい人間に比べると、AIは究極的に冷静な判断力を備えた精緻な存在であるといえるでしょう。その意味でAI自体は危険などころかとても頼りになる存在なわけですが、問題なのはそれが人間の手を離れて完全に自律的に歩き回ったり、走行あるいは飛行したりする「監視ロボット」や「兵器」となったとき、限りなく恐ろしい存在に思えてくる。なにしろ「話せばわかる」相手ではないですから。
■核のボタンを押すのは?
ちなみに映画「ターミネーター」では、スカイネットと呼ばれる戦略防衛コンピュータシステムが自我に目覚め、全世界に核ミサイルを発射して人類の半数を死滅させるというコワい設定でした。今ではスカイネットは究極の軍事AIと呼んでもよいでしょう。この映画に触発されたわけではないとは思いますが、AIを軍事に応用すれば2040年までに核戦争が起きる可能性があることを米国防省傘下のシンクタンクであるランド研究所が警告しているのです。
この過激な予測は、軍事目的のAIが誤った判断を下す可能性があることを示唆しています。AI自身が核のボタンを押さずとも、AIの判断が絶対的に正しいと信ずる軍部の意思決定者あるいは一国のリーダーが、その「ご宣託」を受けて慌てて核のボタンを押してしまうかもしれないのです。
この背景には、1983年に旧ソビエト連邦の軍当局で、コンピュータがうっかり「米国が核ミサイルを発射した」との誤認アラートを出し、あやうく核戦争が起こりかけたという事実があります。「当時のコンピュータは性能が低かったからね」で済まされる話ではありません。人間をはるかに凌駕した記憶量と計算速度を持つ今日のAIは、人手ならば何十年もかかる作業を、ものの数分(あるいは数十秒)で処理してしまうでしょう。そのはかりしれない記憶量と処理速度、そして結論が導き出されるまでの複雑な過程は、人間から見れば完全に不可視あるいは不可知の領域にあるわけです。AIが人間の倫理的直感に反する究極の結論を出したとき、あなたはその結論を「なぜ?」を問うことなく正しいこととして受け入れられますか?
(続く)
AIブームとリスクのあれこれの他の記事
おすすめ記事
-
リスク対策.com編集長が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2025/04/01
-
-
-
-
-
全社員が「リスクオーナー」リーダーに実践教育
エイブルホールディングス(東京都港区、平田竜史代表取締役社長)は、組織的なリスクマネジメント文化を育むために、土台となる組織風土の構築を進める。全役職員をリスクオーナーに位置づけてリスクマネジメントの自覚を高め、多彩な研修で役職に合致したレベルアップを目指す。
2025/03/18
-
ソリューションを提示しても経営には響かない
企業を取り巻くデジタルリスクはますます多様化。サイバー攻撃や内部からの情報漏えいのような従来型リスクが進展の様相を見せる一方で、生成 AI のような最新テクノロジーの登場や、国際政治の再編による世界的なパワーバランスの変動への対応が求められている。2025 年のデジタルリスク管理における重要ポイントはどこか。ガートナージャパンでセキュリティーとプライバシー領域の調査、分析を担当する礒田優一氏に聞いた。
2025/03/17
-
-
-
なぜ下請法の勧告が急増しているのか?公取委が注視する金型の無料保管と下請代金の減額
2024年度は下請法の勧告件数が17件と、直近10年で最多を昨年に続き更新している。急増しているのが金型の保管に関する勧告だ。大手ポンプメーカーの荏原製作所、自動車メーカーのトヨタや日産の子会社などへの勧告が相次いだ。また、家電量販店のビックカメラは支払代金の不当な減額で、出版ではKADOKAWAが買いたたきで勧告を受けた。なぜ、下請法による勧告が増えているのか。独占禁止法と下請法に詳しい日比谷総合法律事務所の多田敏明弁護士に聞いた。
2025/03/14
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方