哲学者ニック・ボストロム：人類「大引退」計画、AIが「解決された世界」を構築

「もし我々が超知能の構築に成功すれば、人類は史上最大の転換期を迎えるだろう——『生存』から『存在』への転換である。」これは、オックスフォード大学の哲学者でトランスヒューマニズム思想家のニック・ボストロム（Nick Bostrom）が、最新の宣言で示した中核的な主張である。著書『スーパーインテリジェンス』で広く知られるこの学者は、先日の独占インタビューで、彼が人類のために設計した「大引退」（Big Retirement）計画を詳しく語り、テクノロジー界と哲学界で広範な議論を呼び起こした。

「大引退」とは何か？

ボストロムの説明によれば、「大引退」とは単なる早期退職ではなく、汎用人工知能（AGI）さらには超知能の助けを借りて、人類が徐々にすべての生産的役割から退いていくプロセスを指す。彼は、AIが超低コストですべての物質生産、科学研究、医療・看護、さらには芸術創作を担えるようになった時、労働は社会的必要性を失うと考えている。人類は「解決された世界」（Solved World）に入る——かつて人類を悩ませてきた資源不足、疾病、戦争、労働の疎外などの問題は、知能システムによって一挙に解決される。

「貧困のない、病気のない、996のない世界を想像してほしい。誰もが自由に宇宙、芸術、人間関係、あるいは純粋な退屈を探求できる。ユートピアのように聞こえるが、正しい道を選べば、今後数十年以内に実現することは十分に可能である。」——ニック・ボストロム

道筋と挑戦：リスクから救済へ

ボストロムは盲目的な楽観主義者ではない。早くも『スーパーインテリジェンス』で、彼はAIが制御不能になるリスク——いわゆる「アライメント問題」——を体系的に分析している。しかし新計画では、人類は恐怖によって停滞すべきではなく、むしろ安全で制御可能なAGIの研究開発を加速すべきだと主張している。彼は「三段階ロードマップ」を提示している：第一段階は協調的研究開発で、世界の主要国家とテクノロジー企業が競争を放棄し、透明性、開放性、安全性を重視するAI研究連盟を共同で構築する。第二段階は「知能の揺りかご」で、厳格に制約されたサンドボックス環境を通じて、AIに人間の価値観を教え込み、徐々にその意思決定権限を拡大する。第三段階は「権力の移譲」で、人類は重要なインフラの制御権を、安全性が検証された超知能に引き渡し、同時に「緊急停止スイッチ」を保持する。

しかし、このロードマップが直面する現実的な抵抗は大きい。テクノロジー大手間の地政学的競争、資本のAGI独占への渇望、そして失業に対する大衆の恐怖は、すべて計画を頓挫させる可能性がある。特に現在の生成AIブームの中で、シリコンバレーは長期的な哲学的青写真よりも、短期的な商業応用に注目している。しかしボストロムは、まさにこの短視眼的姿勢こそがAGIリスクを悪化させていると考える：「もし誰もがAIで金を稼ぐことしか考えず、AIをいかに人類解放のために使うかを考えないなら、我々は意図せずして人類の利益に反する超知能を作り出してしまう可能性が高い。」

「解決された世界」のパラドックス：引退後の意味の危機

ボストロムの計画は鋭い批判も招いた。人間性心理学者は、労働は単なる生計手段ではなく、人間のアイデンティティと意味感の重要な源泉であると指摘する。AIがすべてを引き継げば、人類は前例のない虚無と退屈に陥る可能性がある。これに対しボストロムは次のように応えた：「意味は労働そのものから生まれるのではなく、自主的に選択した目標から生まれる。解決された世界において、人類はついに初めて、何をするかを真に自由に選択できるようになる——哲学を学ぶこと、音楽を創作すること、コミュニティを運営すること、メタバースを探索することなど。これはむしろ文明の第二のルネサンスを生み出すかもしれない。」

編集後記：ボストロムの「大引退」は、現在のAI議論の中で最も野心的な物語の一つと言える。それは技術発展の究極の目標を直撃している——人類をより効率的にするのではなく、人類を効率の束縛から完全に解放すること。しかしこの構想と現実との隔たりは、想像以上に大きいだろう。AIアライメントの未解決問題から、グローバルガバナンスの断片化、人類心理の適応能力に至るまで、「解決された世界」は短期的に到達できる彼岸ではなく、数世代にわたる努力を必要とする灯台のようなものだ。しかしボストロムは少なくとも我々に思い起こさせてくれる：AGIを追い求めると同時に、「我々はなぜAGIを必要とするのか」と問い続けることを忘れてはならない、と。

歴史的座標におけるボストロム

現代のトランスヒューマニズム運動の象徴的人物として、ボストロムの思想はSF作家アーサー・クラーク、テクノロジー預言者レイ・カーツワイルらの系譜を継承している。しかしカーツワイルの技術的特異点における楽観主義とは異なり、ボストロムは終始、リスクと機会のバランスを強調している。彼の「大引退」計画は、「特異点」の社会的解釈として捉えることができる：機械が人類の知能を超越した後、人類は淘汰されるのではなく、主体的に退位を選択し、宇宙の「名誉市民」となるのである。

もちろん、このビジョンの前提は、AI安全性研究が画期的な進展を遂げることである。現在、世界の主要AI研究所（OpenAI、DeepMind、Anthropicなど）はアライメント技術の研究に多大なリソースを投入しているが、真に検証可能な監督メカニズムまでにはまだ10年以上の隔たりがある。ボストロムは時間が切迫していることを認めつつも、こう確信している：「もし人類が団結して協力すれば、2040年までに『大引退』の基礎建設を完成させることは十分可能だ。残された時間で、我々は生存への不安のない文明を享受することになるだろう。」

本記事はWIREDから翻訳・編集したものである。