読書記録 アイザック・アシモフ『われはロボット』
勉強の合間に、アイザック アシモフの「われはロボット（原題：I, Robot)」を30年ぶりに読み直してみた。
最初に読んだころは高校生で、いろいろSFを読み漁る中で当然のようにアシモフの本は読んでいた。「ファウンデーション」シリーズを読み終えたのは大学生になってからでしたが。
昨今のAIの発展がいろいろと議論を呼ぶ中でもう一度読んでみたいと思って手に取ったわけだが、この本が1950年に出版された（短編自体は第２次世界対戦中から書かれていた）ということを考えると改めてアシモフの想像力というか、未来への洞察力に驚かされた。
その後のSFやアニメなどでも繰り返し使われてきた「ロボット三原則」が初めて世に出されたのもこの本なので、その点では有名かもしれない。
目次は以下のようになっている。一人のロボットに関する心理学者へのインタビューを通して、人類とロボットの関係を描いていく短編集のような形になっている。
序章
Introduction
１ ロビイ Robbie
２ 堂々めぐり Runaround
３ われ思う、ゆえに…… Reason
４ 野うさぎを追って Catch That Rabbit
５ うそつき Liar!
６ 迷子のロボット Little Lost Robot
７ 逃避 Escape!
８ 証拠 Evidence
９ 災厄のとき The Evitable Conflict
内容に触れるのはネタバレになってしまうので詳細は書かないことにするが、愛玩用ロボットに対する人々の反応（作中では1996年発売となっている。ちなみに現実世界でAIBOがSONYから発売されたのは1998年のことだ）から話は始まる。ロボットものといっても話の大半は「陽電子頭脳」と呼ばれるAIについての話になる。その陽電子頭脳は、ときに哲学的思考を獲得し、あるときには自分の与えられたミッションを神に仕える修道士のように遂行していく。かと思えば、「人類を傷つけてはならない」というロボット三原則第1条に従って、質問者の気持ちを害さないように「忖度」するAIも登場する。それをただの「模倣」「擬似的」と考えるのか、AIが知性を獲得したと考えるのか。
話の最後の2話は、ロボットあるいはAIが人類社会の運営に関わるときどのような反応が起こり、どのような社会になるのか、ということについての洞察で終わる。少しだけネタバレしてしまうが、この2話に共通してくる人物は初代の地球統監になるわけだが、この人物が果たして人間なのか、ロボットなのか。経済計画をAIに任せた世界は人間にとって幸せなのか。ぜひ、実際に読んで考えてみてほしいと思います。
さて、ここに出てくる陽電子頭脳＝AIについていくつか考察をしたい。
現在のAIはロボット三原則を実装できるか？
まずは「ロボット三原則」について。これの内容についてはいろいろなところで触れられていると思うので詳しくは書かないが、実際にAIに対してこのような制約を課すことができるのか？というのはなかなかに難しい課題のように思う。たとえば、「人間に危害を加える」ということの判断をどこまでできるのか、という判定自体が問題になるだろう。それに加えて、いま私たちが実用化しつつある「深層学習」タイプのAIに、こうした強い制約を与えることができるのだろうか。学習ベースのAIだと「なるべくそうする」以上のものにならないような気がするし、その制約が守られていることをどう検証するのか、というのも問題になりそうだ。
「外挿」で人間の理解を超えたAIを作ることは可能か？
2つ目は、この陽電子頭脳が「外挿」によって作られている、ということについて。AIを設計を行うAIを作り、それに自身を超えるAIを設計させる。それを繰り返すことで高性能なAIにたどり着いたことになっている。外挿というのはそれが妥当な結果をもたらすのかということについて確実性はない。しかし、人間が自分に理解不能なAIを作るとしたらそういう方法しかないのかもしれない、とも思う。なかなかにうまく考えられた設定だと思った。
AIの動作原理は連続関数なのか？
3つ目は、このAIの動作方法について。作中で、AIが行動を選択する際に「ポテンシャルエネルギー」のような、行動の「適合度」の関数が与えられ、その中で最適な解を求めるということになっている。「そういう関数が作れるのか？」という問いももちろんあるのだが、ニューラルネットワークもある種の最適な関数を探し出すという意味で同じなのかもしれない。複雑な状況や社会ルール、未来の予測、そうしたものを一つの関数に落とし込めるのかかなり疑問だが、当時の科学から考えたらそういったAIを構想したのも無理もないと思う。
いまAIが急速に発展して世の中に導入されつつあるいまこそ、この70年以上前に書かれた本に込められた想像力をヒントに、いまの社会を考えてみるのも面白いと思います。
時間があったら、ネタバレ含めた考察をもう少し詳しく書いてみたい。