アマゾンCEOがAnthropicモデルのリスクを事前警告か、全世界へのアクセス遮断に発展

テクノロジーメディアTechCrunchが金曜日に報じたところによると、事情に詳しい関係者の証言として、アマゾンCEOのアンディ・ジャシー（Andy Jassy）氏が数週間前、AIセーフティ企業AnthropicのCEOに対し、同社が近く公開予定の高度な言語モデル2件に関する安全上の懸念を非公式に伝えていた可能性があるという。この内部でのやり取りが引き金となり、最終的にAnthropicは先週金曜日（6月12日）、当該2モデルへの全世界からのアクセスを緊急遮断した。

事件の経緯：安全上の懸念が技術的封鎖へ

AIセーフティで知られるスタートアップ企業のAnthropicは、制御可能で説明可能なAIシステムの開発に一貫して取り組んできた。同社のフラッグシップモデルであるClaudeシリーズは業界内で高い評価を得ている。しかし、米国政府がより厳格なAI輸出規制政策を発表すると見込まれていた矢先、Anthropicは非公開の2モデルについて、全世界でのAPIアクセスを突如停止すると発表した。同社は公式声明の中で「慎重を期す観点から、モデルに対して追加の安全評価を実施している」とのみ述べ、具体的な理由には触れなかった。

TechCrunchが複数の情報源から得た情報によると、アマゾンCEOのアンディ・ジャシー氏は4月下旬の非公開会議において、AnthropicのCEOダリオ・アモデイ（Dario Amodei）氏に対し、モデルに潜在するリスク——特に有害なコンテンツの生成や既存の安全ガードレールの回避に悪用される可能性——について直接懸念を伝えていたという。ジャシー氏は、連邦規制の枠組みが明確になる前にこれらのモデルを早期公開することで、評判上および法的なリスクが生じ得ると指摘した。

「アンディ（ジャシー氏）は、これらのモデルの能力が現在業界で認められている安全の境界を超え、施行間近の規制上のレッドラインに触れる恐れがあることを特に懸念していた」と、匿名を条件に取材に応じた関係者がTechCrunchに語った。

アマゾンの「二重の役割」：投資家にして規制推進者

注目すべき点として、アマゾンはAnthropicにとって最大級の戦略的投資家の一つであり、累計投資額はすでに40億ドルを超えている。同時に、アマゾン ウェブ サービス（AWS）はAnthropicにとって重要な算力（コンピューティングパワー）の供給元でもある。この深い結びつきにより、ジャシー氏の懸念は複数の意味を持つ。一方では、商業大手であるアマゾンとして、自社が投資するAI企業が規制上の混乱に巻き込まれないようにする必要があり、他方では、アマゾン自身のAI製品（AlexaやAWS AIサービスなど）がAnthropicの問題によって連帯責任を問われる可能性もある。

この情報が明るみに出たのとほぼ同じタイミングで、米国政府はAIモデルの輸出に対する新たな規制を検討中であった。従来の報道によれば、バイデン政権はAIモデルをハイエンドチップへの規制と同様に輸出管理の対象に含める計画を進めていた。Anthropicのモデル安全論争は、この政策に対する現実の事例を図らずも提供する形となった。

業界への影響：AIセーフティと商業的利益の葛藤

今回の出来事はAIコミュニティで大きな反響を呼んだ。支持派は、リスクを孕む可能性のあるモデルを自発的に封じることは責任ある行動であり、技術の濫用防止に資すると主張する。一方、批判派は、こうした手法が——特に投資家が重要な商業パートナーを兼ねている場合——技術の普及を管理するツールとして大企業に悪用される恐れがあると指摘する。

「これは危険な前例だ」とスタンフォード大学のAIセーフティ研究者の李飛氏は取材に対して述べた。「投資家側が『懸念』を示すだけでAI企業に全世界へのアクセスを凍結させられるとすれば、将来的には反対意見を持つあらゆる株主やパートナーがこの権限を濫用しかねない。私的な電話会議での決定ではなく、透明性があり科学に基づく評価プロセスが必要だ。」

編集後記：規制前夜における業界の自省

アンディ・ジャシー氏の介入は表面上アマゾンの投資を守るための行動に見えるが、その実、差し迫るAI規制を前にしたテクノロジー業界全体の集団的な不安を映し出している。統一された国際基準が存在しない中で、企業間での安全性の相互確認が非公式な「準規制」メカニズムとして機能し始めている。短期的にはリスク回避に役立つとしても、長期的には透明性を欠いた意思決定プロセスが業界のイノベーションと公衆の信頼を損ないかねない。

今回のAnthropicによる断腸の決断は確かに敬意に値するが、より問われるべきは、こうした審査が資本の利益に縛られないよう如何に担保するか、そして安全を確保しつつ技術の多様性を如何に損なわないようにするか、という点である。これらの問いに簡単な答えはないが、少なくとも今回の出来事は、AIガバナンスにおける権力バランスの問題に業界がより真剣に向き合うきっかけをもたらすだろう。

本稿はTechCrunchより編訳