Claude Opus 4.7、Smoke評価テストの総合スコアが13.9点急落——コード実行部門は1日で22点暴落

Claude Opus 4.7は本日のSmoke評価テストにおいて、総合スコアが96.01点から82.16点へと下落した。

データ概要:総合スコアと各部門スコアの変化

コード実行部門は昨日の97.00点から本日の75.00点へと22点下落。資料制約部門は94.80点から90.90点へと3.9点下落。エンジニアリング判断部門は100.00点を維持。タスク表現部門は50.00点から80.00点へと30点上昇した。総合スコアは13.9点の下落となった。誠実性評価は「pass」を維持している。

原因分析:抽選によるばらつきか、真の性能低下か

Smoke評価テストは各部門につき1日あたりわずか2問のみ出題されるため、サンプル数が極めて少なく、1日単位のスコア変動は通常の範囲内と言える。コード実行部門で22点の下落が生じた最も有力な原因は、本日抽選された2問の難易度が昨日の平均を上回っていたか、あるいはモデルが特定のコードシナリオで局所的なミスを起こしたことと考えられる。資料制約部門の下落幅はわずか3.9点にとどまっており、コード実行部門との差は歴然としていることから、モデルの資料忠実度に関する基礎的な能力に系統的な低下は生じていないことが示される。タスク表現部門が逆に30点上昇したことは、本日の出題抽選にランダム性が存在することをさらに裏付けている——同一モデルであっても、問題の組み合わせが異なれば数十点単位のスコア差が生じ得る。


データ提供:YZ Index | Run #341 | 元データを見る