心を保存する6つの奇抜な構想とオープンAIのリスク評価

テクノロジーが急速に進化する今日、私たちは生命の継続をどのように定義するのか？AIモデルの開放が進む中、リスクはどのように評価されるべきか？今号のMIT Technology Review『The Download』は、興味深い2つのテーマを取り上げる。心を保存する6つの奇抜な構想と、オープンAIのリスク評価だ。

一、心の保存：冷凍保存からデジタル不死へ

年齢を重ねると、私たちは多くの経験を忘れていく。しかし、否定しがたい連続性は残る。30歳でも、50歳でも、70歳でも、あなたは依然として「あなた」だ。では、この連続性は保存・複製・延続できるのか？MIT Technology Reviewは、神経科学、低温生物学、人工知能にまたがる6つの大胆な構想を列挙し、「心は永続できるか」という問いに答えようとしている。

第一は冷凍保存だ。脳または全身を極低温で保存し、将来の技術による蘇生を待つ。現時点では成功例はないものの、人体冷凍機関はすでに数十年にわたって運営されており、シナプス結合が可逆的かどうかが議論の焦点となっている。

第二はブレイン・マシン・インターフェースと意識のバックアップだ。高帯域幅の神経インターフェースによってニューロンの活動を記録し、心の「コピー」を段階的に構築する。Neuralinkなどの企業が植込み型デバイスを推進しているが、完全な意識のアップロードはいまだ遠い先の話だ。

第三はデジタル不死だ。個人データを用いてAIチャットボットを訓練し、故人の言動を模倣する。すでに「グリーフテック（grief tech）」サービスを提供するスタートアップも存在するが、倫理的論争は絶えない。これは慰めなのか、それとも自己欺瞞なのか？

第四は意識のクローンだ。将来、脳のコネクトームをスキャン・複製し、コンピュータ上で「あなた」のコピーを動作させることを想定する。哲学的には同一性の問題が生じる。そのコピーはあなたなのか、それともあなたの複製品なのか？

第五はバイオプリンティングと再生だ。幹細胞で新しい脳を培養して記憶を移植するもので、現時点では動物実験においていくつかの断片的な探索にとどまっている。

第六は集合的な心のネットワークだ。人間の心とAIを融合させて超知性を形成し、個の意識をより大きなネットワークへと溶け込ませる。これはSFに近いが、ブレイン・マシン・インターフェースの進歩により、一部の研究者がその可能性を真剣に議論し始めている。

「私たちはいずれ根本的な問いに直面するだろう。心が複製できるとしたら、『私』とは一体何を意味するのか？」——MIT Technology Review

これらの構想の多くは理論段階にとどまるが、神経科学・倫理学・法律にまたがる学際的議論を促進している。心の保存は技術的な挑戦であるだけでなく、人間性の定義そのものへの問いかけでもある。

二、オープンAIのリスク：オープンソースという諸刃の剣

一方、AIコミュニティではオープンモデルのリスクをめぐる議論が白熱している。「オープンAI」とは、モデルの重み・コード・学習データを公開し、誰でも使用・改変・再配布できる状態を指す。支持者はオープンソース化が技術革新の加速・透明性の向上・権力の集中防止につながると主張する一方、反対者は悪意ある利用・安全性の制御不能・規制の欠如を懸念する。

近年、MetaのLlamaシリーズやMistralなど、複数のオープンソース大規模言語モデルの能力がクローズドな商用モデルに近づいている。これによりAI活用のハードルは下がったが、現実のリスクも生じている。ディープフェイク、サイバー攻撃、生物兵器の設計といった悪用シナリオは監視が困難だ。2023年には数十名のAI専門家が公開書簡に署名し、高度なモデルのオープンソース化に慎重な姿勢を求めた。

規制面では、欧州連合の「AI法」がオープンソースモデルに一部の免除を設けつつも、高リスクなユースケースには引き続きコンプライアンスを求めている。米国は業界の自主規制を重視する立場をとっている。しかしオープンソースコミュニティは、リスクは禁止令ではなく技術的なガードレール（安全性を考慮したファインチューニングや利用許諾など）によって管理されるべきだと強調する。

編集後記：オープンAIのリスクは単純に白黒つけられるものではない。完全なクローズドソースは独占につながりかねず、完全なオープンソースは害を増幅させる恐れがある。より現実的な道筋は段階的な公開だ。基盤モデルには利用規約を設け、高リスクな能力（生化学的知識など）にはフィルタリングを施す。同時に国際的な監視ネットワークを構築し、オープンソースモデルの悪用の兆候を追跡する。イノベーションと安全性の間に動的なバランスを見出すことが求められる。

心の保存からオープンAIまで、テクノロジーは人間の認知の境界に挑み続けている。真のリスクは技術そのものではなく、私たちがいまだ根本的な問いに答える準備ができていないことなのかもしれない。

本稿はMIT Technology Reviewより編訳。