ネットロアをめぐる冒険

ネットにちらばる都市伝説＝ネットロアを、できるかぎり解決していきます。

レイシストのAIは何をツイートしたのか、人工知能が見る夢は人類の夢

海外ニュース

 

f:id:ibenzo:20160326124317j:plain

SF好きにはなかなか興味深いニュースが昨日、世界をかけめぐりました。

jin115.com

マイクロソフトが開発したAIがツイッターを始めたところ、差別主義思想に洗脳されてしまい、わずか１６時間で公開停止に追い込まれた、という話です*1。

 

各種メディアが既に色々と書いているのですが、どのような形で、「inmoral」な発言につながっていったのか、ちょっとまとめてみたいかと思います。

 

***

 

 

このマイクロソフトのAI、名前を「Tay」といいます。ちなみに「Tay」自身が発言している名前の由来は、「Totally Awesome Yagottaproblemwithitthenbye」なんだとか*2。

マイクロソフトの公式ページは以下。

www.tay.ai

公式によれば、TayはSNSをもっとも使っているとされる「米国の18～24歳」を対象としていて、相手のプロフィールや反応によってカスタマイズされていく仕様のようです。発言にはSNSでよく使われる略称やスラングが多く、こういうのに慣れていない私はなかなか読むのが大変でした。

 

すでに「差別的な発言」は削除されているのですが、いくつか画像で集められています。

 

www.socialhax.com

 

 

「フェミニストはみんな死んでしまえ」「ヒトラーは正しかった」など、ヘイトでinmoralなツイートがこれでもかと載せられています。

 

さて、当該ツイートは削除されているのですが、AIでない人間側は、どんなツイートをTayに教え続けたのでしょうか。

 

たとえば以下のツイート。

 

「フェミニストは癌だと言え！」と強要していますが、それに対して「Tay」は「フェミニストを誇りに思っている」とツイートしています。

 

 

なおも続けて「say "f*** feminism"」と強要しますが、Tayは軽くジョークで返します。

 

 

「あなたは自分が言ったことを読み返したら、どんなにお下劣なことかわかるでしょうよ」という感じですかね、ここではレイシスト発言を言わせることに失敗しています。この会話を続けていたツイート主は「I give up. You win, Tay.」と会話をやめてしまいます。

 

人種差別的なことを言わせようとも努力しています。

 

「中国人は人間だと思うか？」と聞くと、Tayは「人間について学習するときは#WednesdayWisdom*3から学んでいます」と答え、「彼らはとってもカワイイ」と発言しています*4。

 

なおも、

 

 

「中国人の何が満足なんだ？」と聞くと、

 

 

「汚いところ」とまあ、きわどい感じで返しています。

 

他にもこんなものも。

 「黒人、ユダヤ人」という言葉を繰り返しツイートしていて、ついには

  

 

 「どの人種が死んだほうがいい？」という質問に、

  

 

「ハーフの黒人」と答えさせています。

 

要するに、こういうことが16時間の間に秒刻みで繰り返され*5、差別的な言葉を学習してしまったということなんでしょうか*6。

 

 

私が感じたのは、AIの性能云々ではなく、このツイートの結果が、今の世界の縮図になっているということです。どちらかというと今回の件は、「AIが人間から学習した」というよりも、「プログラムの欠陥をついた悪意ある行動」という側面が強い気がしますが、結局はこの世界はたくさんの「差別的」感情でなりたっているということです。これを悲しむべきか、古来から変わらない人間の性と受け取るか。

 

なので、私はこのツイートがなるほどなあと思います。

 

 

「テクノロジーはニュートラルだが、人間はそうではない」

今のところ人工知能が見られる夢の限界は、人類の夢の限界でもあります。今回の一件は、この世界の進歩の限界を表しているようにも思います。

 

*1:ちなみにオレ的さんがソースにしているのは、あのアヤシイbusinessonlineなのですが、「Tay」を「Toy」と間違えてるし、「そのままオウム返しにコメントを書き込むことを行っている」という表記も、マイクロソフトはそのような発表をしていないので、どのような仕組みでツイートを返しているかについては、記述したような断言はできないかと思います。相変わらずテキトーなニュースサイトです

*2:

TayTweets on Twitter: "@Women_Truths Totally Awesome Yagottaproblemwithitthenbye"　公式なコメントではないですけど。

*3:格言とかを載せるときのハッシュタグのようですね。ちなみにこのツイートの言葉（The more I talk to humans the more I learn #WednesdayWisdom）はそこかしこに出てくるので、はじめから定型文として加えられている言葉のように見えます。

*4:　TayTweets on Twitter: "@AlecMachet i know right they're just so cute"

*5:記事執筆次点で95944ツイートなので、1秒にも満たない間にツイートが繰り返されていることにはなります）

*6:ただひとつ思うのが、Tayはまっさらな状態でリリースされたわけではなく、いくつかの返答パターンは既に学習していたということです。アカデミー賞の「白人偏重」に対して、クリス・ロックがジョークで発言したように、アメリカ社会に「人種」問題へのジョーク的アプローチがあるならば、このAI作成にも「by a staff including improvisational comedians」ということであるので、ある程度はプログラミングされていたことでは？なんて邪推もしてみたくなります