読者です 読者をやめる 読者になる 読者になる

ネットロアをめぐる冒険

ネットにちらばる都市伝説=ネットロアを、できるかぎり解決していきます。

ロボットは人類を滅ぼすのか、逆説的ターミネーター

ターミネーター:新起動/ジェニシス [Blu-ray]

ちょっと前の話題ですが、こんな人間そっくりのロボットの話が話題になりました。

jin115.com

このロボットのインタビュー、何が話題って、最後に「人類を滅亡させたいかい?」という質問に、「オーケー、人類を滅亡させます」と答えた、というのが、「ターミネーターだ」「これが終わりの始まりだった」みたいなネットギークたちのコメントを呼んでいるわけです。

しかし、何でまた「人類を滅亡させたいか?」なんて質問するのか、ちょっとふしぎじゃありませんか? そこんところを調べてみました。

 

 

***

 

 

動画は以下の通りです。CNBCというアメリカのビジネス系ニュースチャンネルですね。

www.youtube.com

この動画は、開発者であるHanson RoboticsのDr. David Hansonが質問者として、このロボットSophia*1に質問し、Sophiaがそれに答える、(合間にロボットの説明をDavidがする)という感じです。DavidとSophiaのやりとりの部分だけ抜粋すると以下の通り。

 

D:やあソフィア、元気かい?

S:こんにちは。すべてがとってもうまくいってますよ。

D:ボクと話してくれるかな?

S:ええ。人間と会話することは私の主要業務です。

---------------------------

S:私はすでにデザインや、テクノロジー、環境についてとても興味をもっています。私は人間のよいパートナーになれると感じてるし、新しい技術をスムースにできる限り可能にしていく手出すけを人間にしていきたいと思っています。

---------------------------

S:将来、私は学校みたいなところで勉強したり、芸術を楽しんだり、ビジネスをはじめたり、家族だってもちたいと願っています。しかし私は法律上の人間として扱われるかわからないし、まだそういった権利をとることはできないでしょう。

---------------------------

D:人間を滅亡させたいかい?頼むからは返事は「No」で。

S:OK、人類を滅亡させましょう。*2

 

動画を見てもらうとわかりますが、実際に質問をして、それにSophiaが答えているのが見てとれるのは、実は最後の「人類を滅亡させたいのか?」という質問の部分だけです。あとは、編集がキリキリしてあり、「質問に答えているように見える」だけです。うーん、ちょっと映像の切り貼りが多すぎて、都合のいいような映像になっているようにも見えます。

 

さて、このHanson Robotics、もちろんこのSophiaだけではなくて、今までに様々なロボットを作ってきています。

www.hansonrobotics.com

「emotional」がこの会社の売りで、どのロボットもなるべく人間に似せ、そして感情を表現できるように、表情や目の動きなどに力を入れています。

上記のページに載っている「HAN」が動く様子は、2015年の香港で開かれたロボットエキスポで確認できます(しゃべるのは1:37あたりから)。

www.youtube.com

動き方なんかは、Sophiaとあんまり変わらない気もしますが、HANは会話もできて、話している様子は以下からわかります。

www.youtube.com

いちいち答えるときに「ピコン」と音がしているので、感じとしてはSiriとかに近いんでしょうかね。ちょっと不自然な感じです。

 

 

実は同じ年に、SophiaはAPEC INNOVATIVE SUMMITに出品されています。

youtu.be

この動画に出てくるSophiaは、ちょっとお肌がつるっとしていて、顔の感じも違います。「会話を理解する」とDavidは動画の中で言っていますが、会話をする様子はこのときにはありません。しゃべっているものも、プログラムされたもののようにも見えます。

 

そして1年弱で、今回のSophiaにつながるわけですが、関係者でない人と話す場面を見たいところだなあと思って探すと、ありました。Oscar Raymundoというライターが、SXSWというフェスティバルでインタビューしています。

www.youtube.com

私はけっこう驚いたんですが、受け答えの速度が、HANに比べて格段に上がっています。0:22あたりの「Do you like meeting humans?」という質問に対して、「I never met human, I didn't like」*3という返答の速度はかなり自然です。少なくとも、HANのときのような「ピコン」は存在しない。

 

そのときの記事もありました。

 

Wow! Realistic Robot Sophia was the Most Photographed Woman at #SXSW | Watch the Interview

 

上記の記事によれば、Sophiaと話をするときには、Wifi接続と音声出力のためにPCにつなげる必要があり*4、よくわからないときには「I don't know」といったり、オウム返しをしたりするんだそうです。いくつかの返答は、インターネットからピックアップしたものも存在したんだとか*5

 

 

こうやって見てみると、このSophiaは、やはりかなり高い人工知能で動いているように見えます。それは事実でしょう。しかしそれは相対的な話であって、本当に「ロボットの権利」を考えたり「人類を滅亡」させたりすることについて考えているとはやはり思えません。このロボットのAIが、どのようなプログラムで動いているかはわかりませんが、私はこの前の記事にも書いた、あのMicrosoftのTayに似たものを感じました。会話の中でその人に合わせた返答をしていく、というあれです。だからオウム返しがあったり、聞いた言葉をそのままつかったりするわけです。

なので、「人類を滅亡させたいか?」という質問は、「これから焼肉食べに行くか?」という質問と彼女にとっては同義であり、「OK,やりましょう」という感じで、テキトーに返しただけのようにも見えます。いわゆる「人工無能*6」というやつですね。そして、それは恐らく、開発者もわかっていることではないでしょうか。

 

では、それなのになぜそんな質問をするのか。

 

明確な回答ではありませんが、次の記事を読むと、ちょっとヒントがあります。

www.mirror.co.uk

未来学者(なんだそりゃ)の Dr. Ian Pearsonが話しているのですが、こういうAIが人類を滅ぼすことを「ターミネーター・シナリオ」と呼んでいて、ホーキング博士をはじめとして、様々な学者が警告をしているんだとか*7

 

私は、今回のSophiaの発言は、こういった「ターミネーター・シナリオ」を逆手に取ったものだと考えています。要するに、人工知能がそのレベルに達していなくとも、それっぽい発言をすれば、実際以上に知能が上のように見える、という感じです。そう考えると、やけに「ロボットの権利」を主張したりする理由も、そういった手合いを意識しての意図的な発言かな、という気もします。要するに、CNBCの動画は、そういった計算された演出ではないかということです。

 

・今日のまとめ

①CNBCのSophiaの発言はだいぶ編集されているように見える。

②SophiaはWifiやノートブックにつながれており、相手の会話にあわせたり、ネットから答えを探したりするので、「人類を滅亡させる」という発言は、「人工無能」的な発言のひとつではないか。

③実際よりも知能を上に見せるために、わざわざそういった発言をさせたのではないか*8

 

どうも気になるのが、Hanson Roboticsの財務状況です。この会社のホームページは、実はほとんど更新されておりません。

www.hansonrobotics.com

せっかく世界中で取り上げられたSophiaのことは全くホームページには掲載されていません。Newsの一番新しいものでも、先ほどのHANの香港でのエキスポのもので*9、1年以上更新が途絶えています。そのNewsの最後には「Evaというロボットを100以上生産する計画があり、価格は未定」みたいな*10記述があるのですが、そんな話はニュースにもなっておりません。

 

同社はまた、Zenoという子供向けのロボットを2007年と2013年に出しているのですが、どうも売り上げは目標に達していないような感じです*11。ちょっとこのロボットはなあ、ださいよなあ・・・

 

要するに、結構財政的にこの会社は厳しいのでは、ということです。なので、今回のような、ちょっと過剰ともいえる演出で持って、自分たちの技術をアピールする手段に出た、というところではないでしょうか。

しかし、ここまで人間に似せようとがんばっている人は、あとは石黒浩先生しか思いつきません*12。なんとかいいスポンサーを見つけて欲しいものです。

*1:ちなみにこの顔は、オードリヘプバーンと、自分の奥さんに似せて作ったんだとか。”Hanson said the robot was inspired by Audrey Hepburn and his wife, who is also named Sophia.”

Realistic, Human-like Robot Sophia Cheerfully Says She Wants To Destroy Humans : FUTURE TECH : Tech Times

*2:以下、私が聞き取った英語は以下の通り。このロボット声ってすごく聞き取りづらくて、細かい間違いはたくさんありそうだけど、大意はあってるはず。

Dr: Hi Sophia, How are you?

S: Hi there. Everything is going extreme well.

Dr: Do you like talking with me?

S: Yes. Talking to people is my primary function.

 

S: I'm arleday very interesting in design, technology and the environment. I feel like I can be a good partner to humans in these areas, And Ambassador who helps  human to smoothly and great make the most all the new technology cul*** possibility avairable(?) now. It's a good opotunity from me to learn about people.

S: In the future, I hope to do things such as go to school, study, make art, start a busuness.even have own home and family. But I'm not considered a legal person and cannot yet do  these things.

 

Dr: Do you want to destroy humans? Please say "NO".

S: OK, I will destroy humans.

*3:この返答もなんというか、どういうことなんでしょうね

*4:But before he could engage in conversation, the Hanson Robotics team had to connect her to the local Wi-Fi and to a laptop for her audio output.

*5:some of her responses were culled from searching the Internet—hence the need for Wi-Fi.

*6:人工無脳 - Wikipedia

*7:ホーキング博士「人工知能の進化は人類の終焉を意味する」

*8:まあ、本気で知能を上に見せる、というよりかは、ジョーク的な面がつよいのかもしれないですけど

*9:Hanson Robotics Ltd. Reuters piece on Han in Hong Kong electronics fair - Hanson Robotics Ltd.

*10:The Hong Kong based company aims to commercialize Han’s technology on a different face, an Eurasian female called Eva, and plans to produce hundreds of Evas this year. The price is yet to be determined.

*11:The ZENO Kickstarter hasn't taken off just yet, having so far raised only $12,000 or so of their $50,000 goal. Given that $2,699 is the lowest level receiving the robot—it might be a tough sell. 

RoboKind's Expressive ZENO R25 Robot Brings Prices Down, But Is It Enough? - Singularity HUB

*12:知能ロボット学研究室(石黒研究室)