Thinking Machines Labは2026年7月にInklingモデルを発表した。総パラメータ数9750億、有効パラメータ410億で、テキスト・画像・音声入力および100万トークンのコンテキストをサポートする。同モデルは米国のオープンウェイトモデルにおけるエージェントタスクで首位に立つが、全体的な性能は中国のトップモデルに後れを取っている。
事実の整理
InklingはThinking Machines Labがゼロから学習させた初のモデルであり、Mixture-of-Experts(MoE)Transformerアーキテクチャを採用し、完全な重みがHugging Face上で公開されている。事前学習には450兆トークンが使用され、テキスト・画像・音声・動画を網羅する。モデルはTinkerプラットフォームを通じたファインチューニングをサポートし、カスタマイズ可能な基盤モデルとして位置づけられている。同時期にプレビュー版のInkling-Smallも公開されており、パラメータ数2760億、有効パラメータ120億である。
メカニズムの解説
モデルは66層のデコーダー専用Transformerを採用し、MoEフィードフォワード層には256個のルーティング専門家と2個の共有専門家が含まれる。各トークンの処理においてルーティング専門家6個と全共有専門家が有効化される。ルーターはsigmoidベースで負荷分散を実現し、補助損失は使用しない。アテンション機構は5対1の比率でスライディングウィンドウ層とグローバル層を交互に組み合わせ、位置エンコーディングにはRoPEではなく相対位置埋め込みを使用する。音声入力はdMelスペクトログラムに変換され、画像は40×40ピクセルのパッチに分割され、4層のhMLPでエンコードされた後、テキストトークンと共に処理される。学習では大規模な行列重みにMuon最適化、その他のパラメータにAdamを使用し、その後合成データによる教師あり微調整を実施、さらに3000万回超の非同期強化学習を通じて制御可能な推論強度メカニズムを生成する。
産業への影響
米国のオープンウェイト開発者にとって、Inklingはマルチモーダルのネイティブサポートと調整可能な推論強度を提供し、Terminal Bench 2.1において同等の性能をNemotron 3 Ultraの3分の1のトークン数で達成するため、長工程ワークフローのコストを削減できる。エンタープライズユーザーに対しては、オープンウェイトによるローカルデプロイが可能でデータ主権を重視しており、カスタマイズが必要なシナリオに適している。中国モデルとの競合においては、InklingのArtificial Analysis Intelligence Indexスコアは41でNemotron 3 Ultraの38を上回るものの、全体としてはKimi K2.6などのモデルに依然として後れを取っており、事実の正確性不足という課題も露呈しており、幻覚率は63%に達する。
比較と先行事例
DeepSeek-V3のMoE設計と類似しており、InklingもルーティングおよびShared Expert(共有専門家)の組み合わせを採用しているが、アテンションと位置エンコーディングの調整においては長コンテキストの外挿をより重視している。学習中にKimi K2.5が生成した合成データを参照しており、データ生成の段階において米中モデル間の相互依存関係が形成されていることを示している。クローズドソース路線と比べ、Thinking Machines Labはオープンウェイトを選択し、フラッグシップモデルと真正面から競合するのではなく、Tinkerプラットフォームのファインチューニングサービスとして位置づけている。
戦略的判断
現在のベンチマーク性能とアーキテクチャの詳細に基づくと、Inklingは企業向けカスタマイズシナリオで採用される可能性が最も高い。開発者はTinker Playgroundを通じて推論強度のカーブをテストし、具体的なレイテンシ要件に合わせて調整するだろう。今後の検証シグナルとしては、Artificial Analysisプラットフォームにおける新モデルのスコア更新、およびTinkerプラットフォームにおけるファインチューニングタスクの実際の稼働データが挙げられる。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接