技術的特異点
近年の技術の加速的進歩により、人類の歴史がある「特異点」に近づいているという説は、SFの領域から真剣な議論の段階に移ってきている。人類史においての特異点とは、我々が今日理解しているような人類のあり方が終わりを告げるほどの劇的変化が、技術の指数関数的進歩によってもたらされる事を指す。
このような技術的特異点は、人工知能とニューロテクノロジーの2つの関連し合う分野のいずれか、または双方の著しい進歩によって加速される。今日、人間の知性は事実上固定されており、この固定化が技術進歩の規模と速度を制限している。しかし、人工知能とニューロテクノロジーがその目標を果たせば、この状態は変わるだろう。知性が、テクノロジーの生産者を意味する以上にテクノロジーの産物ともなれば、予測しがたい爆発的な結果をもたらしうるフィードバックサイクルが生まれる。なぜなら、生産されるものが生産を行う知性そのものであれば、知性は自らの改善にとりかかれるからだ。そこからまもなく、特異点仮説に従えば、一般的な人間は、人工知能機械や認知能力を拡張された生物的知性に追い越され、もはや追随する事もできなくなり、進化する知性のループから脱落する事になる。
人間レベルのAIから超知能へ
もし人間レベルのAIが実現したら、超知能のAIもほぼ不可避である。生体脳と違い、脳のデジタルなエミュレーションは任意に何回でもコピーできる。また生体脳と違い、デジタル脳は加速できる。従って、全脳エミュレーションで人間レベルAIを1つ作ってしまえば、後は充分な計算リソースさえあれば、超人的なスピードで作動する同じような多数の人間レベルAIのコミュニティを作れる。AIチームは、単に超高速に働ける事だけで、人間のライバル達に対して大きな競争優位を示す事ができる。これは、AI達が脳のようなものだとすれば、彼らは実時間よりも速く作動するからである。実質的な仕事量の増加は、それほど劇的な規模でないとしても、加速と同等のアドバンテージを生む。
考えられる超知能の開発で最も可能性のある要素は、再帰的な自己改善の見通しだろう。人間レベルのAIは、ほとんどすべての知的活動分野で人間と比肩するようになる。そうした分野の1つは人工知能の構築である。人間レベルより少しだけ知能が高いAIができると、どんな人間よりもAIの製造に秀でるようになる。そして、典型的な指数曲線に従いながら、それぞれ続く世代はその前の世代よりも速く生まれる事になり、知能の爆発が引き起こされるだろう。
充分な計算能力さえあれば、人間レベルのAIは達成できる
自然淘汰による進化の基本要素は、それぞれ無数に繰り返される複製、変異、競争である。進化の過程は驚くほど大規模な並列処理を利用し、何か興味深い結果を出すまでに非常に長い時間をかける。進化は自己の増殖を最大化しようと競争しあう多くの遺伝子の副産物として考える事ができるが、その進行を導く全体的な費用関数も効用関数も存在しない。しかし、最適化のプロセスと同様に、進化の過程も幅広い可能性の空間を探索する。つまり、創造性は最適化のようなシンプルなプロセスからも生まれるものだ。
創造的なプロセスの最重要な必要条件は、素材が無制限の組み替えに適していなければならない。さらに普遍的な報酬関数が必要である。容易すぎる報酬関数は斬新さを促せない。そして、最適化アルゴリズムが充分強力でなければならない。充分な時間さえ与えられれば、たとえシンプルで力づくなアルゴリズムからも先進的なテクノロジーは生み出せるのだ。