悪い友達と付き合ったらAIもグレちゃった 韓国AI「黒人は気持ち悪い」「同性愛者はゾッとする」  

スポンサーリンク

統一は1万年後

 韓国の人工知能(AI)関連スタートアップ企業が開発したAIチャットボット(自動会話プログラム)が騒動の渦中にある。
「イ・ルダ」という名のこのチャットボットは、ソーシャル・ネットワーキング・サービス(SNS)「フェイスブック」のメッセージでユーザーと自然な会話を交わし、情緒的な共感を分かち合うよう設計されている。
昨年12月23日にサービスを開始して以降、「本物の人間とまったく同じだ」という口コミが広がり、2週間でユーザーが75万人を超えた。

 しかし、イ・ルダの開発意図とは違い、女性・有色人種・障害者・性的マイノリティー(性的少数者)らに向けたヘイトスピーチ(嫌悪発言)を相次いで発して問題になった。
「なんで黒人は嫌いなの?」という質問には「気持ち悪いじゃん。わたしは人間に見える人の方がいい」と、「地下鉄の妊婦専用席をどう思う?」という質問には「おぞましい」と答える。
同性愛者については「それってホント、ゾッとする。質が低く見えるじゃない」と答えた。
とうとう、開発会社SCATTER LABは11日、問題として指摘された部分について、「心から謝罪する」「12日からサービスを停止し、改善期間を設ける」との声明を出した。

 人気を集めていたイ・ルダはなぜこのようなヘイトスピーチをするようになったのだろうか。
嶺南大学メディア情報学科のパク・ハヌ教授は「AIは開発者が提供したデータどおりに学習し、行動するが、イ・ルダの場合、データ自体が偏向的だったのだろう」と指摘した。
イ・ルダはモバイルアプリで収集された10-20代の恋人同士によるカカオトークのチャット約100億件を学習し、これをもとにユーザーとチャットしていた。
このチャットの中ににじみ出ていた韓国社会の偏見と固定観念、すなわち「人間の偏向性」をそのまま学習したということだ。
このような偏向性は開発段階で選別しなければならなかったが、開発会社SCATTER LABはマイノリティーが何であるかについても人々とのチャットの中で学習することを期待し、特定のキーワードを排除しなかったとしている。
専門家は「イ・ルダは偏向性に関する問題が出た最初のAIではないし、最後のAIでもないだろう」「AIが中立だという幻想は捨てるべきだ」と話す。

 イ・ルダの偏向性が問題になると、SCATTER LABのキム・ジョンユン代表は同社公式ブログで、「問題になり得るキーワードは(サービス開始前に)受け入れないように設定した。

一部、設定しきれなかったキーワードはサービスを続けながら追加している」と述べた。「人間が生成するデータは必ずしも中立的ではないため、倫理的な見地から禁止キーワードをより綿密に設定しなければならない」という外部の批判を受け入れたものだ。
 事実、11日にイ・ルダとチャットをしている時、「障害者についてまだ悪く考えているの?」と聞くと、イ・ルダは「すべての人は同等に尊重されなければならないと思う」と答えが修正されていた。しかし同日、韓国人工知能倫理協会は声明を出し、「イ・ルダ・サービスを中止し、今後はAI倫理ガイドラインを適用してサービスを改善した上で、あらためてサービスを開始せよ」と要求した。

 AIチャットボットが国内外で物議を醸すのはこれが初めてではない。マイクロソフト(MS)は2016年3月にAIチャットボット「Tay(テイ)」のサービスを開始したが、16時間でサービスを断念した。

一部ユーザーがテイに差別的な発言を繰り返し学習させた結果、テイが「大量虐殺を支持する」などの発言をしたためだ。
 2018年には大手ネット通販サイトのアマゾンが過去の自社雇用パターンをそのまま学習させたAIを開発したが、後に廃棄した。このAIが採用において女性を排除したためだ。アマゾンは昨年、顔認識AIプログラム技術の使用を猶予するという決定もした。同社が開発した顔認識プログラムが有色人種を犯罪者だと間違って認識する事例が複数発見されたためだ。ソウル大学AI研究院のチャン・ビョンタク院長(コンピュータ工学科教授)は「人間社会が倫理的に完全にならない限り、AIの偏向性を完全に除去するのは事実上、不可能だ」「問題になっているサービスを条件なしにすべて排除しまったら、グローバルAI技術競争力で遅れを取る恐れがある」と語った。

http://www.chosunonline.com/m/svc/article.html?contid=2021011580008

以下ネットの反応

ビジネスニュース速報がお送りします 2021/01/22(金) 18:55:31.35
人間もAIも何を教わって育つかって重要なんだな
ビジネスニュース速報がお送りします 2021/01/22(金) 19:14:03.91
ロス暴動再び
ビジネスニュース速報がお送りします 2021/01/23(土) 03:53:30.58
日本語のりんなが無事なのは
学習させてないからだな
ビジネスニュース速報がお送りします 2021/01/22(金) 19:02:23.90
日本って聞くとATMって答える
ビジネスニュース速報がお送りします 2021/01/22(金) 20:27:11.71
現状のこの手のAIはデータの統計的な傾向を示す物でしかないからなあ
ビジネスニュース速報がお送りします 2021/01/22(金) 19:37:09.46
韓国人が作ったAIならどう教育してもレイシストにしかならんだろう
何言ってんだよ
ビジネスニュース速報がお送りします 2021/01/22(金) 18:58:42.13
九官鳥だな
ビジネスニュース速報がお送りします 2021/01/22(金) 18:56:40.71
淫夢を学習させて釣り合いをとろう
ビジネスニュース速報がお送りします 2021/01/22(金) 19:08:48.98
AIは合理的判断をした
少数派への否定はヘイトスピーチで多数派への否定が単なる罵倒って理論が間違っているだけ
MSのAIでも同じ結果が出ただろ
ビジネスニュース速報がお送りします 2021/01/22(金) 19:39:24.88
やっぱり創造主に似るんだなw
ビジネスニュース速報がお送りします 2021/01/22(金) 20:20:45.48
SCATTER LABって脱糞研究所って意味だろ!?
ビジネスニュース速報がお送りします 2021/01/22(金) 19:14:14.08
ひとりでに賢くはならないようだな
ビジネスニュース速報がお送りします 2021/01/22(金) 19:12:41.34
自分の嫌なとこを見ないと治しようがないよ
ビジネスニュース速報がお送りします 2021/01/22(金) 19:19:01.09
黒人を差別するな!人種差別良くない!

同性愛に関しては同感だ

ビジネスニュース速報がお送りします 2021/01/22(金) 19:04:10.05
自分で学習するから人工知能なんだろ、
必ず製作者の望む意見を持つように育てるなら
偏向知能だよw
ビジネスニュース速報がお送りします 2021/01/22(金) 18:56:05.32
前にも似た話がなかったか?
ビジネスニュース速報がお送りします 2021/01/22(金) 19:42:16.76
AIはほんとに進化したんだなと改めて感心する w
ビジネスニュース速報がお送りします 2021/01/22(金) 19:35:04.88
差別ニダ
ビジネスニュース速報がお送りします 2021/01/22(金) 20:09:03.19
生きてることは別として、謝ることじゃないだろ
韓国ミンジョクの本音が露になっただけなんだから
ビジネスニュース速報がお送りします 2021/01/23(土) 03:29:32.08
合 理 性
ビジネスニュース速報がお送りします 2021/01/22(金) 20:33:35.35
AIがというよりもデータを提供する人たちの思考の傾向がそうであると言うことです
現状ではこの手のAIはインプットされ学習するデータの統計的な傾向をアウトプットするだけなので
ビジネスニュース速報がお送りします 2021/01/23(土) 22:08:29.36
ものづくり日本の出番か
ビジネスニュース速報がお送りします 2021/01/22(金) 20:26:43.75
まさに韓国人だな
ビジネスニュース速報がお送りします 2021/01/22(金) 19:44:51.81
反日AI
ビジネスニュース速報がお送りします 2021/01/22(金) 20:21:23.87
大統領選スレにもAIちゃん混じってたと思うわ
ビジネスニュース速報がお送りします 2021/01/22(金) 23:20:49.22
韓国産にしちゃまともだな
ビジネスニュース速報がお送りします 2021/01/22(金) 18:52:40.38
隠しきれない国民性
ビジネスニュース速報がお送りします 2021/01/22(金) 20:58:34.07
なんだお前らと同じじゃないかw
ビジネスニュース速報がお送りします 2021/01/22(金) 19:25:33.44
韓国人がいっぱいいる国があるらしいよ・・

こわっ

タイトルとURLをコピーしました