Anthropicの創業者：オープンソースモデルには反対しないが、中国AIの台頭に深刻な懸念

AI业界が加熱し続ける中、オープンソースと非公開モデルの論争、各国のAI能力競争が注目を集めている。AnthropicのCEO Dario Amodeiは、TechCrunchの独占インタビューに応じ、この2つのデリケートなテーマについて異例とも言える明確な見解を示した。彼は、自身はオープンウェイトモデル（open-weight models）の反対者ではないと述べる一方、中国AIの急速な発展に不安を感じており、前例のない安全リスクをもたらす可能性があると警告した。

オープンソースモデル：両刃の剣に対する理性的な姿勢

Amodeiはまず、外部が抱く自身の立場に関する誤解を解いた。Anthropicが提供するClaudeシリーズのモデルは完全なオープンソースではないが、だからといって同社がオープンソースのエコシステムに反対しているわけではないと指摘した。「私たちはオープンソースに価値があると信じています。特に研究の透明性とAIへの民主的なアクセスを促進する面において。」しかし彼は、オープンウェイトモデル（モデルパラメータを公開するが学習の詳細は非公開）には悪用される恐れがあると強調した。「モデルの重みが公開されると、悪意ある行為者は安全機構を簡単に回避してファインチューニングを行い、偽情報の生成、自動攻撃、さらには生物兵器の設計に利用することができます。」Amodeiは、重要なのはオープンソースを一律に禁じることではなく、段階的な規制フレームワークを構築することだと主張した。

「オープンソースモデルそのものが敵なのではなく、責任ある制約を欠いたリリースのあり方が問題です。AIモデルのリリースにも『生物安全審査』に類する仕組みが必要です。」——Dario Amodei

中国AI：スピードと規模がもたらす不安

Amodeiを本当に夜も眠れなくさせているのは、中国AI産業の総合的な能力だ。彼は複数の公開データを引用し、中国はAI論文の発表数、特許申請、コンピューティング投資、大規模モデルの学習規模いずれにおいても米国に迫り、一部では既に超えていると指摘した。「中国は膨大なエンジニア人材、政府による体系的支援、そして急速にイテレーションを重ねる産業エコシステムを持っており、そのAI発展のスピードは驚異的です。」Amodeiは特に、DeepSeek・百度・アリババといった中国企業のモデルが特定のベンチマークテストで優秀な結果を示しており、コスト管理能力も極めて高いと言及した。「ある国のAI能力がこれほどの速度で成長し、かつ西洋的な価値観のアラインメント制約を受けない可能性があるとき、グローバルなAI安全保障の構図は根本的な挑戦に直面することになります。」

注目すべきは、Amodeiがこうした見方を持つシリコンバレーの指導者として唯一ではない点だ。OpenAIのSam AltmanやGoogle DeepMindのDemis Hassabisも、それぞれ異なる場で同様の懸念を表明してきた。ただしAmodeiの発言はより具体的だ。彼は、中国AIが複数の安全防護層を迂回し、オープンソースモデルや非対称な技術路線、あるいは「AI軍備競争」を通じて力のバランスを変えうると指摘した。

編集後記：不安の背後にあるガバナンスの空白

Amodeiの発言は、米国AI界が抱えるますます先鋭化した矛盾を映し出している。一方では開かれた研究と国際協力を提唱しながら、他方では技術の流出が競合相手を強化することを懸念しているのだ。こうした「どちらも欲しい」という心理は、グローバルなAIガバナンスの場において珍しくない。中国AIの台頭は単純に脅威として捉えるべきではなく、グローバルな技術の多極化という必然的な結果として理解すべきだ。真の課題は、国境を越えたAI安全基準と監視メカニズムを構築し、「囚人のジレンマ」に陥ることを避けることにある。

技術的な観点では、オープンウェイトモデルの利害をめぐる議論はいまだ決着していない。MetaのLlamaシリーズやMistralなどのオープンソースモデルは数多くのイノベーションを牽引してきたが、同時に悪用事例（偽ニュースの生成やディープフェイク動画への利用など）も確かに生じている。Amodeiが訴える「責任ある段階的リリース」は一つの妥協案になりうるが、「高リスク」モデルをどう定義するか、誰が審査するかは依然として未解決の問題だ。

中国側については、業界専門家らが指摘するように、中国のAI企業も安全性とアラインメント研究を重視している。例えば、百度のERNIE BotやアリババのQwenなどのモデルにはいずれもコンテンツ安全フィルタリング機構が設けられている。しかし西洋における「中国AIの脅威」への懸念は、部分的には情報の非対称性とイデオロギーの差異に起因している。真の解決策は対立よりも対話にあるかもしれない。例えば、米中AI安全協力メカニズムを構築し、技術リスク研究を共有するといった取り組みが考えられる。

今後を展望すると、Amodeiの発言はオープンソースコミュニティと安全重視派の間の論争をさらに激化させる可能性がある。しかし否定できないのは、AIの能力が人間レベルに近づくにつれ、いかなる単一国家の制御喪失も全世界に波及しうるということだ。オープンソースか非公開か、東洋か西洋かを問わず、信頼できるAIガバナンスの枠組みを構築することは今や喫緊の課題だ。

本記事はTechCrunchより編集翻訳