発売からもう15年以上経過しているが、その間この本は眉唾な宗教だとかこれは確定した予言であるとかいろいろ言われてきたが、その途中の声達は無意味なので、忘れてよかろう. 大規模言語モデルが登場した2023年現在からすると割といい線いってる予想なんだなぁと改めて思う。近未来を妄想するのに良い材料になるので、改めてこの本を読んでみるのは面白いと思う。

著者によると、技術の進歩は指数関数的、加速度的で、近い将来、「特異点」に達するらしい。 「特異点」では、人間の脳とコンピューターが結合され、それによって多くの問題が短時間に解決される。 著者の予想では、「特異点」は2040年代。 特に、Genome, Nanatech, Robot(AIを含む)が相補的に進化する。 これらによって、人間の寿命も飛躍的に伸ばすことができる。 第８章では、これらの技術が持たらすであろうリスクをどう防ぐかを議論している。 著者の予想のように、技術の進歩が加速するのは間違いないだろう。 実際、2023年現在、AIの発展が大きなニュースになっている。 しかし、これらの強力な技術を人類はどのように使うのだろうか？ 一部の資本家や支配者が戦争やお金儲けのために使うのではないか？ 異なる価値観を持った世界中の人々の幸福のためにうまく使うことができるだろうか？ これを予想するには、これまでの人類の歴史、政治、経済学を学び、考える必要がある。

「シンギュラリティ」とはなにか？ 最近バズってるシンギュラリティだが、議論を少し読んでみても、どうもピンボケという印象しか残らない。考えてみると、AIという言葉でなにを示しているのかコンセンサスがない上、さらにシンギュラリティについてはもっと不明確な感じ。私自身もディープラーニングの現状についてはだいたい把握できたが、シンギュラリティはどんなものかはわかってない。新聞や雑誌の醸し出す「シンギュラリティという雰囲気」から自分が感じ取ったモノを基になにかを判断するのは非常に危険だ。やっぱり原典とも言うべきカーツワイル の本を読むしかない。しかし、厚い、厚すぎる！ 勝手な要約: ・収穫加速の法則 (情報技術は勿論だが)技術・文明の進歩(量・質・パラダイムシフト)は、直感とは違っていて指数関数的な成長をする。実績データを基に提示。 ・今後GNRの進歩がキーとなり、知能が指数関数的に成長する。 G: 遺伝子工学 N: ナノテクノロジー(ナノボット) ← ※人間の脳の動きを調べる手段および脳とのコミュニケーションI／Fとして非常に有効！ R: ロボット(強いAI) ・人間の知能をコンピュータ上に実装でき、人間の知能との接続から融合へと進み、2030年代には全人類の能力と同程度になる。知能がソフトウェアで実現でき、自分自身を改良(進化)できるようになると加速が進み人間だけとはレベルが違う進化となる。2040年代中頃には全人類の10億倍になりシンギュラリティに到達。(2045年問題)と呼ばれる所以) ・この時の指数関数的に進化した知能は、現時点の人間のレベルの知能では見通すことができない。ブラックホール内の特異点(シンギュラリティ)を事象の地平の外から見ることができないのと同じ。← ※ココが肝か。 ・この未来には、バラ色の面だけでなく、(核兵器、コンピュータウィルスなどから想像できるように) 大きなリスクも潜んでいる。今から対策を講じていくことが大事。 ・注意点: カーツワイルの進歩時期の見積り方法は、知能の進歩を単純に計算力(cps)の進化で測ることに基づいており、質の進化はあまり考慮されていないようだ。 読んだ感想: ・あり得る未来を記述していると思った。 ・私が一番興味を持っているコンピュータが意識を持てるようになるのか(意識の本質とはなにか)という問題とは関係なく、ソフトウェア自身が人間と同様な研究開発能力を持てるならばこのシンギュラリティの予測は成り立つように思える。 ・次の二つのブレークスルーが重要だと思った。 ① ナノボットの実用化 ← これについては現在の実力がどの程度なのかも知らない。 ② ①の成果を利用して、未来のAIが研究開発までできるようになる。← 現時点でも単一対象に関しては判断は人間以上にできるところまで来ているので、可能性は高そうに感じる。 結局、今バズってるシンギュラリティについての議論は、見通せないはずのものについて、あーだこーだ言ってるということなのか。