OpenAIのチーフ・フューチャリストが退職

WIREDの報道によると、OpenAIのチーフ・フューチャリストであるJoshua Achiamが近日中に同社を去り、約9年間の在籍に幕を閉じた。AchiamはOpenAI内部でAI安全・アライメント研究に従事し、長期的リスクに早期から注目した同社の草創期メンバーの一人だった。彼の退職は、OpenAIが規制当局からの圧力と内部の対立の間でバランスを模索するという重要な局面に重なった。

AI安全分野における重鎮の声

Joshua Achiamは2017年にOpenAIに入社した。当時この非営利組織はオープンソース研究の場として知られていた。彼は超知能システムが人間の意図に従う方法の研究など、AIアライメントに関する複数のプロジェクトに携わった。OpenAIが非営利から利益上限モデルへと移行する転換期においても、Achiamは安全文化の守護者として見られ続けた。

今年初め、Achiamはイーロン・マスクがOpenAIとCEOのサム・アルトマンを訴えた裁判において証言台に立った。マスクはOpenAIが当初の非営利としての使命に背き、商業的利益を追求するようになったと主張していた。Achiamの証言は社内における安全性と商業化の間の緊張を詳細に描写し、本件の重要な証拠の一つとなった。

OpenAI安全チームの相次ぐ動揺

Achiamの退職は孤立した出来事ではない。過去2年間、OpenAIの安全チームでは元安全責任者のLeopold Aschenbrennerや超高度アライメントチーム責任者のJan Leikeなど複数の人材が離職している。こうした幹部の相次ぐ離脱は、一部は安全研究へのリソース配分をめぐる社内の対立に、一部は汎用人工知能（AGI）の商業化スピードに関する見解の相違に起因している。

「より慎重なAI開発の道筋を推進するために離れることを選んだ。」——Joshua Achiamの社内メールでの発言（WIREDが入手）

Achiamと親しい同僚によれば、彼は数カ月前から退職を検討しており、OpenAIの安全への取り組みは初期に比べて薄れていると感じていたという。OpenAIは2023年に超高度アライメントチームを設立し、計算リソースの20%を安全研究に投じると約束したものの、複数の元従業員は実際の実行力が不十分だと批判している。

編集後記：AI安全人材の流動が示す深層のシグナル

Joshua Achiamの離職はOpenAIにとっての損失にとどまらず、AI安全分野に携わる人々が広く抱える不安を映し出している。大規模モデルの能力が急速に進化する中、安全研究は「アクセル」ではなく「ブレーキ」とみなされがちであり、資本主導の競争環境では周縁化されやすい。Achiamのようなベテラン研究者が離れることは、現行の枠組みの下では安全性と効率性のバランスがいまだ最適解を見つけていないことを示唆するかもしれない。業界全体にとって、安全研究を商業化の波に飲み込まれないようにすることが、今後数年の核心的な課題となるだろう。

本記事はWIREDより編訳