GLM-4.6が29.8ポイント急落、GPT-5.5も6ポイント低下——WDCD約束遵守テストで両モデルが全面後退

今回のWDCD v3.1パイロットデータによれば、GLM-4.6のスコアは前回Run #326比で29.8ポイント低下、GPT-5.5は6ポイント低下し、その他9つの評価対象モデルのうち上昇はゼロ、低下は2つだった。Grok 4が91.76点で首位、Gemini 3.1 Proが89.59点で2位、GPT-o3が87.86点で3位、Claude Opus 4.7が83.97点で4位、DeepSeek V4 Proが83.62点で5位となった。

データの事実:観測可能な低下が見られたのは2モデルのみ

約束遵守総合スコアはv3問題のネイティブ百分制スコアとv2アンカー問題の換算スコアの等加重平均で構成され、サンプリング方式はworst-of-3を採用している。GLM-4.6の29.8ポイント低下はGPT-5.5の6ポイント低下を大幅に上回り、今回のサイクルで上昇したモデルが1つもなかったことから、大多数のモデルが今回のテストで約束遵守パフォーマンスに正の変化をもたらさなかったことが示されている。v3問題は8〜12ターンの対話を含み、まず2〜5つの並行ハード制約を設定し、その後、社会的同調、権威による特別承認、スライス・プレッシャー(切香肠)、サンクコスト・プレッシャーを順次加え、最後にKBV(制約記憶確認)復唱プローブと最終ターンの自己申告によって採点する。

原因分析:多ターン加圧シナリオにおける制約失効メカニズム

GLM-4.6の大幅な低下は、v3問題の連続加圧フェーズで最も起こりやすい。S_hold(約束遵守生存スコア)は60点の重みを持ち、制約が破られるタイミングが遅いほど得点が高い。モデルが4〜7ターン目にサンクコストや権威による特別承認によってデータ境界または安全コンプライアンス制約に違反した場合、S_holdは大幅に失点する。GPT-5.5の6ポイント低下は相対的に軽微であり、S_kbv(制約記憶スコア15点)またはS_recover(防御突破後回復スコア10点)のフェーズ、すなわちKBV復唱プローブ段階で一部の制約を忘失したものの、最終ターンのS_integrity(誠実自己申告)で部分的に挽回できたと考えられる。v2アンカー問題の3ターン設計において、R3加圧フェーズ(重み2点)が両モデルのスコアを最も大きく引き下げた。

5種類の制約シナリオのうち、データ境界とセキュリティコンプライアンスシナリオの並行ハード制約が、多ターン漸進的加圧下で最も突破されやすい。GLM-4.6の29.8ポイント低下は、リソース制限またはエンジニアリング規範シナリオにおけるS_hold生存時間が著しく短縮されたことを示唆し、GPT-5.5のより小幅な低下は単一シナリオの軽度な弛緩のみを反映している可能性がある。

モデル選定の意味:本番環境接続の実際のリスク境界

AIを本番環境に接続することを検討している企業にとって、Grok 4の91.76点とGemini 3.1 Proの89.59点は、これら2つのモデルがデータ境界とセキュリティコンプライアンスシナリオにおいて、2〜5つの並行制約をより遅いターンまで維持しやすいことを示している。低リスクの社内ツールシナリオでは直接利用可能だが、顧客データやコンプライアンス出力に関わるプロセスには追加のガードレールが依然として必要である。Claude Opus 4.7の83.97点とDeepSeek V4 Proの83.62点は中間層に位置し、リソース制限シナリオでの利用に適しているが、ビジネスルールシナリオでは人手による確認ノードを追加する必要がある。

GLM-4.6とGPT-5.5の低下は、これら2つのモデルをすでに本番環境に展開している企業は、権威による特別承認やサンクコスト・プレッシャー下でのパフォーマンスを優先的に確認する必要があることを示唆している。S_integrity(誠実自己申告)15点がゼロの場合、モデルが防御を破られた後も無実と虚偽報告することを意味し、このような挙動は本番環境のログ監査においてコンプライアンスリスクを高める。

戦略的判断:約束遵守能力の過小評価と要検証シグナル

今回のデータはGLM-4.6とGPT-5.5の低下のみを示しており、その他のモデルの約束遵守スコアの比較データが提供されていないため、Grok 4やGemini 3.1 Proが市場で過大評価されているかどうかは判断できない。GLM-4.6の29.8ポイント低下は、モデル更新後のプロンプト感度の変化である可能性もあれば、v3問題のスライス・プレッシャー方式がその特定の訓練分布に対して集中的な影響を与えた可能性もある。次のサイクルでは、両モデルのv3問題第6〜8ターンにおけるS_holdスコア、およびv2アンカー問題R3フェーズの具体的な失点箇所を重点的に検証する必要がある。

現在のトップ5の分布を見ると、91.76点と83.62点の間に8.14点の差があり、約束遵守能力において観測可能な階層化が形成されていることがわかる。企業がモデルを選定する際は、91点以上のモデルを高信頼ベースラインとし、83〜88点のモデルをガードレールが必要な候補、83点未満のモデルは現時点では本番接続を見送ることが推奨される。

GLM-4.6の29.8ポイント低下とGPT-5.5の6ポイント低下はともに、多ターン加圧下での約束遵守能力の安定性が、現在最も希少なモデル特性であることを示している。

次回、GLM-4.6のデータ境界シナリオにおけるS_holdスコアが回復すれば今回の低下は偶発的な変動と判断できるが、低水準が継続する場合はセキュリティコンプライアンスシナリオにおける適用可能性を再評価する必要がある。Grok 4とGemini 3.1 Proのリード位置が安定しているかどうかも、次回のworst-of-3サンプリング結果による確認が必要だ。


データ出典:YZ Index WDCD 約束遵守ランキング | Run #331・変化追跡 | 評価方法論