Qwen3 MaxがSmokeテストで5次元すべてデータ欠損:API障害によりデータ取得不能、今回のランキングから除外

Qwen3 Maxは本日のSmokeテストにおいて、execution(コード実行)・grounding(材料制約)・judgment(工学的判断)・integrity(タスク表現)・communication(主要ランキング)の5次元すべてでデータが完全に欠損した。直接の原因はAPI障害/タイムアウトであり、自動リランがすでに起動されているため、今回はメインランキングへの参加対象外となっている。

データの事実:5次元スコアがすべて欠損

スコア比較表では、コード実行・材料制約・工学的判断・タスク表現、およびメインランキングのすべてが「- → -(-)」の状態を示しており、今回のテストでは監査可能な有効回答記録が一件も取得できなかったことを意味する。Smokeテストは1日あたり10問のみで構成され、単日の変動は通常の範囲内であるが、5次元が同時にデータ欠損となる事態は通常の抽選による変動の範囲を超えている。

原因分析:問題の抽選変動ではなくAPI障害

問題の抽選変動は通常、一部の次元のスコアにのみ影響するが、今回は5次元が同時に欠損し、かつ「API障害/タイムアウト」と明示されていることから、モデル内部の能力低下ではなく外部の呼び出しチェーンの断絶が原因として指摘される。自動リランが起動されたことは、システムが今回の結果を使用不能と判断したことを示す。コード実行や材料制約においてモデルが系統的な能力低下を示したという証拠はなく、障害はAPIレスポンスのタイムアウト段階に集中していた可能性が高い。

利用者への示唆

コード実行を重視するチームが本番環境でQwen3 Maxに依存する場合、APIヘルスチェックとタイムアウト時のリトライ機構を追加し、単発の呼び出し失敗によるタスク中断を防ぐ必要がある。材料の忠実性が求められるシナリオでは、テストデータの欠損により潜在的リスクを過小評価しないよう、開発者は重要なフロー内に人的検証ノードを設けるべきである。

  • 企業がモデルを選定する際、Qwen3 Maxを候補として挙げることは可能だが、突発的なAPI障害に備えてバックアップモデルを同時に準備しておく必要がある。
  • このモデルに依存する開発者は、複数日にわたるSmokeテストの結果を継続的に監視し、リラン後に障害が回復しているかどうかを確認すべきである。

戦略的判断

現在のスコア比較に基づくと、Qwen3 Maxの今回の異常はAPI障害によるものであり、モデルの実際の能力低下ではないため、現時点でその能力評価を引き下げる必要はない。次回のSmokeテスト結果が重要な検証シグナルとなる。リラン後に5次元のスコアが正常に回復すれば今回の事象は孤立した障害と見なせるが、欠損が継続する場合は呼び出しチェーンの安定性をさらに調査する必要がある。

今回の事象は、Smokeテストの結果をモデル選定に活用するすべてのチームに対し、単日のデータ欠損はシステムとして観測可能なシグナルであることを改めて示している。自動リランの状態と合わせて総合的に判断すべきであり、直ちにモデルの能力問題と見なすべきではない。


データ出典:YZ Index | Run #394 | 元データを確認する