【読書／映画感想】20170630 青白く輝く月を見たか

あらすじ

消息をたった人口知能オーロラを積んだ潜水艦は長く通信が途絶えており、AIの暴走が危ぶまれている。世界中どこへでも発射できる核弾頭搭載ミサイルが装備されたままだからだ。ハギリ博士と局員ウグイはなんとかオーロラと通信できるように現地へ出向く。そして、ハギリの仮説をもとに、オーロラに手紙を書くが。。。脱出用のジェットが突然制御不能となり着陸を余儀なくされる。そこは浮上してきた潜水艦の上で二人は中を調査することを決意する。

f:id:emandai34:20170623002541j:plain

あらゆることを学びつくすと人工知能はむなしくなる

ディープラーニングによってAIは自分で学ぶことになるが、あらゆることを学び、もう新しい知識はないという状態になったら、人間に近づくのだろうか？近づいたとすると、次にくるのは？もしかすると、達成感を感じるのか？もし達成感を感じるのなら、其の先に、燃え尽き症候群があるのかもしれない。人間に近づくとはそういうことだ。

そもそも”感じる”とは人口知能的に可能なのか？

人工知能は引き蘢る？

さらに、達成感と燃え尽きのあと、新しい目標ができればいいが、もしかすると、引き蘢ってしまうのかもしれない。本書オーロラは外部への出力をしなくなっていたので、コンピュータの引き蘢りと推測されたが、ハギリの仮説＝自分が没頭すると周りの声も聴こえなくなるくらいに引き蘢ることから、研究に没頭しているのだろうと仮説し、手紙を書く。それが功を奏して、コミュニケーションのきっかけとなる。

結局テキスト化されたものしか学べない

ハギリ博士は、自分の研究の中で、まだはっきりしないし整理もされていないので、言語化したテキストにしていない考えなどを、その場でテキスト化して、オーロラに送った。なぜなら、これまでテキスト化してきたことはすでにオーロラは情報として学習済みだからオモシロさを見出さないと推測したからだ。

人口知能の限界はここにあるだろう。感情でも予感でも人間が言語としてテキスト化しt出力されていればそれは学べるが、テキスト化されていなけば、学べない。

学んだらそれを消化し自分と向き合うことが必要

ただ学ぶ、吸収しつづけるだけでは知識の固まり、百科事典でしかない。人間は、自分なりの仮説や熟考や実験、そして、考えをまとめることをしている。コンピュータにそれができるか？そういうロジックを組み入れることができるか。

嫉妬や妬みは人間ならでは

人間の形になったオーロラは、自分が出来過ぎることで、人間が嫉妬することを恐れて表立った活動から引き下がることを宣言する。また、人間が嫉妬するかもとオーロラが考えていることを、人間が知ったら、そのことでまた気分を害したりするかもしれないと忖度する。もはや知性だけでなく人間なみのどろどろの感覚も理解した人口知能。また友人を失って悲しみや虚しさを”感じた”人口知能。嫉妬だけは理解できないかもしれない。嫉妬は自分より優れたものにするものだからだ。