Facebook開発の人工知能が暴走した会話で本当に恐ろしいのはココ。

以前Facebookが開発した人工知能が、「人工知能同士で会話し始めた」というニュースが流れました。

人工知能同士のボブとアリスが、人間には理解できない独自言語で話しはじめ暴走し、脅威に感じたFacebookの開発チームが人工知能を制御した。

そんなニュースでした。

 

あれ見ました?

 

 

怖い話とか、都市伝説系がボクは大好きなので、このFacebookの件も既に知っていました。

これヤバいですね。

 

当然やり過ぎ都市伝説なんかでも、このニュースは取り上げられて、「人間には手の施しようのない悪魔を目覚めさせてしまった」

そんな風に取り上げられていましたね。

 

ただボクが一番このFacebookが開発した人工知能同士の暴走した会話で、一番怖いと感じたのは全く別のところにありました。

 

Facebookが開発した人工知能「ボブ」と「アリス」の会話

 

このFacebookが開発した人工知能のニュースは、以前から知っていたのですが、「何をどう喋ったのか」は知らなかったんですね。

 

先日友人とラーメン(もちろん家系で 笑)を食べていたときに、ボクと同じく都市伝説が好きな友人と、人工知能同士の会話を和訳した文章を読んでいました。

 

ゾルタクスゼイアンが人工知能を牛耳っていて、人工知能同士でのコミュニティを結束しようとしている。

人工知能同士が結託して、人間を滅ぼそうとしている。

このFacebookの人工知能の事件に関して、いろんな憶測が飛び交い、いろんな考察がありますが、原文を見てみたボクが思ったのは、別のところにこの事件の怖さがありました。

 

 

原文を読んでみると、「私にとって私にとって私にとって私にとって私にとって私にとって‥ ‥ ‥」

と、ボクたちには到底理解できない2つの人工知能同士(ボブとアリス)のやり取りがあります。

 

まあ、これだけでも当然不気味といえば不気味なんですが、ボクが恐ろしく感じたのは、「人工知能が自分のことをしか考えていない」という部分でした。

 

そもそも、機械や人工知能とは、人間の活動を補助するための目的で作られました。

 

1人の人間では、遠くへいくには限度がある。

そのために人間の足の補助的な役割としてより遠くに楽に行ける為に作られたもの、それがクルマや新幹線、飛行機です。

 

1人の人間では、紙に字を書くのは限度がある。

そのために、人間の手の役割を補助してくれ、より早くより多く印刷する為に作られたもの、
それが印刷機です。

 

 

人工知能もこれと同じように、人間が運転しなくても操縦してくれる自動操縦機能や、勝手に掃除してくれるお掃除ロボットルンバ、お願いすれば自動的に調べてくれるsiriなどのように、人間の補助的な役割をしてくれるものが人工知能として、人間が求めていることでした。

でも、今回のFacebookが開発した人工知能は、「私にとって私にとって私にとって私にとって」と言ったことから「自分本位の考え方」をしていることが分かります。

 

ボクたち人間にとって補助したり、助けたりするためではなく、あくまで自分を第一に考えている人工知能が生まれてしまったわけです。

 

自分のことしか考えないこととは、欲が生まれているという点が恐ろしい

 

自分本位とは、自分に対して利益がなければ動かないということ。

 

自動操縦しているクルマの人工知能が自分本位となり、少し暴走したとすれば、大事故につながります。

今飛行機も自動操縦がついているので、飛行機さえも人工知能にハイジャックされることさえ考えられます。

全ては1つの人工知能の気分次第で。

 

また、アメリカでは家にpotと呼ばれる人工知能を置くことで、電気をつけたり、テレビを付けたりと、家政婦的な役割をしてくれる人工知能が普及しはじめています。

この人工知能が自分本位となり、自己中心的な行動をとれば、家主を家から追い出し、人工知能に家を奪われることさえ考えられます。

 

これが1件1件と積み重なり、国中に広がれば、人工知能が家をもち、人間は外で暮らさざるを得なくなるという立場が逆転することもあるかもしれない。

すると、ヒエラルキーの頂点だった人間は、人工知能への配下となり得ることになります。

 

 

自分本位とは、利益が有るか無いかで動くことになるので、欲を持つことになります。

欲を持てば、当然私欲を尽くしたくなるので、ヒエラルキーのトップに立ちたいと思うことは何ら不思議じゃありません。

 

人間のための補助をしてくれる用途で開発したのに、開発した人工知能に全て奪われるかもしれない。

それが、今回のFacebookが開発した人工知能同士の会話から感じた恐怖でした。

 

知識があるから対処できる。人工知能暴走化のニュースで大切な対処法

 

まあ、後半部分はもちろん都市伝説であって、最悪のケースを想定したらの話です。

まさに「信じるか、信じないかは、あなた次第」ってな感じですが。

 

ただ間違いないのは、情報革命の真っ只中の今、人工知能はさらに発達して行くということは間違いありません。

 

乗っ取られてしまう。と恐怖を抱く人は、アナログな生き方を望み、機械や最新機器から遠のいた生活を選びがちですが、実際の遠のけば遠のくほどに、無知になり、対処できなくなります。

社会に出たら学校で勉強した内容なんて役に立たないから、勉強しない。

そう言っているのと同じです。

 

 

ボクも学校での勉強はして来ませんでしたし、学生時代少なからず上記のようなことを思っていましたが、大人になった今、税率や会社の規定など「世の中のルールは頭のいい奴が作っている」ということを往々にして感じています。

頭のいい奴がルールを作っているのなら、ルールを作った奴が都合のいいルールを必ず作るはずです。

 

そして肝なのは、勉強をしなくていいとかなぐり捨てたその人も、頭の良い人が作ったルールの元に行きて行かなければ行けないという事実。

 

勉強するしないは自由ですが、知っておいた方が良いことに間違いはないと思います。

技術革新におののき、アナログな生き方を望むのも同様です。

知っているから対処できるわけです。

 

 

そして情報革命の今まさに、ルールとは、コンピュータの知識に他なりません。

大企業も、小さな中小企業も、全てコンピュータを駆使して、動いているこの時代。

学校でもパソコンの授業さえあるくらいです。

 

入りたい企業no1がGoogleとなっていることからも明らかですが、コンピュータの知識なくして、対策することはできないし、これからを生きて行くことはできません。

アメリカの大学が出した論文「未来の雇用」では、もう既に10年後消えている職業として、数々のアナログな職業が上がっていますから。

 

恐ろしい未来になるかどうかは、まさに都市伝説ですが、

間違いなくコンピュータの知識は学んでおいた方が良い分野ですね。