2018/11/22
AIブームとリスクのあれこれ
■AIが生む偏見や差別
AIを使ったディープフェイクビデオ(「第4回:証拠映像ですら「証拠」と見なされなくなる時代」を参照)が、個人だけでなく国家にも脅威を与える可能性があることを以前この連載で書きましたが、AIを使えばSNSでも何やらインパクトのあることができてしまうようです。
マイクロソフトが考案したAIプログラムがその好例です。このプログラム(ボットと呼ばれている)にツイッターのアカウントを与えたところ、ヒトラーや白人至上主義の支持者による不快な投稿を学習するのに1日もかからなかったというのです。もっとも寛容な目で見れば、AIならこんなこともできてしまうんだ…とちょっとしたエピソードで終わってしまう話ではありますが。
しかし研究者や開発者たちから見れば、AIが偏見を持つようにふるまうことがわかった以上、これは看過できない問題でしょう。とりわけ顔認証や言語理解などを目的としたAI技術のクオリティに大きく関わることでもあるからです。黒人や東洋人よりも白人の顔の方をより好ましいと判断したり、日本語よりも英語を話す市民の方がサービスを受けやすくなるといったこと。考えればきりがありませんが、とても不快なことではあります。
AIを、偏見を持たない客観的で理性的な存在にするにはどうすればよいのでしょうか。専門家は、それは特定の人種や性別やセクシュアリティを支持するバイアスをなくすことだと指摘します。大手IT企業の中には、AIによる差別や偏見を取り除く研究をしているところもあります。AIベースの顔認証システムにおける肌その他の顔の属性をできる限りたくさん集めたデータセットを実装してバイアス(偏見)を低減するのだそうですが、果たしてどこまで可能になるのでしょうか。
AIブームとリスクのあれこれの他の記事
おすすめ記事
-
リスク対策.com編集長が斬る!今週のニュース解説
毎週火曜日(平日のみ)朝9時~、リスク対策.com編集長 中澤幸介と兵庫県立大学教授 木村玲欧氏(心理学・危機管理学)が今週注目のニュースを短く、わかりやすく解説します。
2025/04/01
-
-
-
-
-
全社員が「リスクオーナー」リーダーに実践教育
エイブルホールディングス(東京都港区、平田竜史代表取締役社長)は、組織的なリスクマネジメント文化を育むために、土台となる組織風土の構築を進める。全役職員をリスクオーナーに位置づけてリスクマネジメントの自覚を高め、多彩な研修で役職に合致したレベルアップを目指す。
2025/03/18
-
ソリューションを提示しても経営には響かない
企業を取り巻くデジタルリスクはますます多様化。サイバー攻撃や内部からの情報漏えいのような従来型リスクが進展の様相を見せる一方で、生成 AI のような最新テクノロジーの登場や、国際政治の再編による世界的なパワーバランスの変動への対応が求められている。2025 年のデジタルリスク管理における重要ポイントはどこか。ガートナージャパンでセキュリティーとプライバシー領域の調査、分析を担当する礒田優一氏に聞いた。
2025/03/17
-
-
-
なぜ下請法の勧告が急増しているのか?公取委が注視する金型の無料保管と下請代金の減額
2024年度は下請法の勧告件数が17件と、直近10年で最多を昨年に続き更新している。急増しているのが金型の保管に関する勧告だ。大手ポンプメーカーの荏原製作所、自動車メーカーのトヨタや日産の子会社などへの勧告が相次いだ。また、家電量販店のビックカメラは支払代金の不当な減額で、出版ではKADOKAWAが買いたたきで勧告を受けた。なぜ、下請法による勧告が増えているのか。独占禁止法と下請法に詳しい日比谷総合法律事務所の多田敏明弁護士に聞いた。
2025/03/14
※スパム投稿防止のためコメントは編集部の承認制となっておりますが、いただいたコメントは原則、すべて掲載いたします。
※個人情報は入力しないようご注意ください。
» パスワードをお忘れの方