オープンソースAIモデルが最前線に迫る、安全性の格差は依然として顕著

オープンソース人工知能モデルの進化速度は、あらゆる予想を超える形で限界を突破しつつある。かつては、最先端のAI能力は一握りのクローズドソース大手企業のみが掌握していると広く信じられていたが、最新の業界レポートによれば、この構図は静かに塗り替えられつつある。Z.aiが公開したオープンソースウェイトモデルGLM-5.2は、複数のベンチマークテストにおいて現在最高水準のクローズドソースモデルに肉薄ないし並ぶ結果を示した。しかし研究者たちを本当に不安にさせているのは、同モデルの安全対策に存在する明らかな空白だ。

SaferAIが発表したこの新報告書は、GLM-5.2の能力の限界とリスクの露出を詳細に評価している。報告書は、同モデルが推論・コーディング・マルチタスク理解などの面で最前線に近い実力を示しており、オープンソースコミュニティが初めてこれほど強力な汎用知能に到達したことを確認している。しかし、同等の能力を持つ商用クローズドソースモデルと比較すると、GLM-5.2には体系的な安全アライメント、レッドチームテストの記録、および悪用防止メカニズムが欠けている。この能力と安全対策の深刻なミスマッチにより、管理されていない環境下で強力なモデルが誤用または悪意を持って利用されるリスクが生じている。

能力は追いつき、安全性は置き去り

報告書の核心的な結論は単純明快だ。オープンソースモデルの知的水準は急速に上昇しているが、安全水準はそれに追いついていない。SaferAIは評価の中で、具体的にいくつかの懸念事項を指摘している。まず、GLM-5.2は有害コンテンツの生成、ジェイルブレイク攻撃、対抗的プロンプトに対して、同規模のクローズドソースモデルよりも脆弱であることが判明した。次に、モデル公開前の安全評価に関する情報が不透明であり、開発チームがどのような安全対策を講じたのか、またそれらの有効性を外部から検証する手段がない。最後に、モデルウェイトが完全に公開されているため、いかなる第三者も元の開発者が設けた使用上の防壁を迂回し、再ファインチューニングやデプロイを行うことができ、潜在的リスクをさらに増幅させる。

この能力と安全性の「ハサミ型格差」は、GLM-5.2固有の問題ではなく、オープンソースAIエコシステム全体が直面する構造的課題だ。近年、Llamaシリーズ、Mistral、そしてDeepSeekなど中国語圏のコミュニティが主導するモデルに至るまで、オープンソースモデルはクローズドソース独占に対抗し、技術の民主化を加速する重要な手段として位置づけられてきた。しかし同時に、研究者たちはオープンソースモデルが強力なAI技術を誰もが手に届く存在にする一方で、その下流での使用を規制する既製のガバナンスフレームワークがほとんど存在しないと繰り返し警告してきた。

「我々は危険な窓口期を目撃している。オープンソースモデルの能力向上速度が、そのリスクを理解し管理する速度をすでに上回っている。」――SaferAI報告書の主執筆者がメディアブリーフィングで述べた。

ガバナンスフレームワークの緊急性

GLM-5.2のケースは、「オープンソースAIの公開は条件付きであるべきか」という命題を再び前景に押し出している。一方では、支持者がモデルのオープンソース性こそがAI技術の長期的な安全を確保するための核心的なメカニズムであると主張する。透明なコードと共有されたウェイトにより、より多くの研究者が潜在的な問題を審査・検出・修正できるのであり、ますます重要性を増す基盤技術をブラックボックスに閉じ込めるべきではないというわけだ。他方、批判者たちはこの楽観的な前提が、社会に十分な審査能力と対応ツールが備わっていることを前提としているが、現実はそこには程遠いと指摘する。

実際、規制面での動きは世界各地で加速している。EUの人工知能法はすでに汎用AIモデルの透明性とリスク評価を義務として規定しており、米国でもオープンソースモデルの輸出と安全上の制約について複数回の公聴会が開かれている。しかしこうした政策の多くは、学習計算能力、データコンプライアンス、またはモデルカードの記載に焦点を当てており、オープンソースウェイトモデル特有の「取り消し不能性」および「下流の制御不能性」については、有効なコンセンサスがいまだ形成されていない。

さらに根本的な問題として、安全評価そのものの技術的手法がいまだ成熟していない。現行のレッドチームテストや対抗的ベンチマークの多くは初期モデルの研究経験に基づいており、最前線に近い能力を持つ新世代のオープンソースモデルが露わにする新たなリスクを十分にカバーできていない。SaferAIも報告書の中で、自らが公表した評価結果であっても、ある時点でのスナップショットを示しているに過ぎず、モデルの実際のリスクは使用シナリオの変化とともに必然的に変容し続けると認めている。

編集後記：イノベーションは安全を犠牲にしてはならない

GLM-5.2は、オープンソースAIが「オープンソースコミュニティのおもちゃ」からクローズドソースの巨人に挑戦できる力へと成長したことを示している。これは確かに称えるべき技術的成果だが、それがもたらす安全性の格差は、いかなるロマンチックな見方も許さない。クローズドソースの最先端ラボでさえ安全アライメントで度々失敗しているというのに、リソース投入と審査条件がはるかに劣るオープンソースコミュニティは、その能力に見合った責任をいかにして担えるのか。

答えはオープンソースを禁止することでも、モデル開発に無理やり枷をはめることでもなく、オープンソースAIのための「段階的安全評価メカニズム」を構築することにあると考える。モデルの能力閾値に応じて、異なる強度の外部監査・監視・インシデント報告義務を義務付けるべきだ。能力が最前線に近づくほど、安全基準はより厳格であるべきである。能力の進歩と安全上の制約を常に同期させてこそ、より賢いモデルを追求する過程でリスクへの畏敬を失わずに済む。

本記事はTechCrunchより編集・翻訳。