Kimi K3：2.8兆パラメータモデルを無償公開——計算資源の壁と安全リスクが共存

Moonshot AIは2026年7月16日にKimi K3モデルを発表した。パラメータ規模は2.8兆で、100万トークンのコンテキストとネイティブビジョン処理をサポートし、7月27日に重みを公開する予定だ。このモデルは896専門家によるMoEアーキテクチャを採用し、1トークンあたり16の専門家を活性化する。公式資料によれば、前世代と比較して約2.5倍のスケーリング効率向上を実現したとされている。

Kimi K3は2026年7月16日にAPIアクセスが正式に開放され、総パラメータ数は2.8兆に達し、3兆パラメータ規模に到達した初のオープンソースモデルとなった。公式資料によると、同モデルはStable LatentMoEフレームワークを使用しており、896の専門家のうち1トークンあたり16のみが活性化される。Kimi Delta AttentionおよびAttention Residualsメカニズムと組み合わせることで、約2.5倍のスケーリング効率向上を実現している。

アーキテクチャの詳細と実際の動作要件

このモデルは混合精度トレーニングを採用しており、重みはMXFP4、活性化はMXFP8で、教師あり微調整の段階から量子化認識トレーニングが適用されている。コンテキスト長は100万トークンに設定されており、テキストとビジョン入力をネイティブにサポートし、追加のアダプタは不要だ。Hugging Faceのコミュニティ記事によると、完全な重みは2026年7月27日に公開予定で、ユーザーはセルフホスティングと微調整が可能になる。

これらの設計はデプロイコストに直接影響する。896専門家によるスパース活性化は1回の推論における計算量を削減するものの、モデルの全パラメータは完全に保存する必要があるため、VRAMの要件はこれまでのオープンソースモデルを大幅に上回る。実際の動作時、KVキャッシュ管理はGated MLAによって最適化されているが、100万トークンのコンテキストには依然として大量のメモリ帯域幅が求められる。

性能の主張と検証の方向性

公式の技術説明では、Kimi K3は長距離コーディング、知識作業、ビジョン推論のシナリオで優れたパフォーマンスを発揮し、大規模コードベースの処理やスクリーンショットフィードバックを活用したフロントエンドまたはゲーム開発タスクをこなせるとされている。モデルには常時オン思考モードが内蔵されており、ターミナルツールの協調もサポートしている。

現時点で公開・検証可能なベンチマークデータは限られている。Hugging Faceの記事はモデルカードの概要を提供するにとどまり、具体的なマルチタスクテストのスコアは記載されていない。

公開戦略が産業に与える影響

重みの無償公開は、研究機関が最先端モデルにアクセスする際の障壁を下げることになる。これまで同規模のモデルの多くはクローズドソースであったが、Kimi K3の公開はその状況を変えるものだ。開発者は重みを直接ダウンロードしてローカル微調整を行え、垂直領域のアプリケーション展開を加速させることができる。

一方で、計算資源の消費問題が顕在化している。2.8兆パラメータはスパース活性化を採用していても、トレーニングや大規模推論には依然として大規模なGPUクラスターが必要だ。安全リスクをめぐる議論も起きており、公開された重みが敵対的サンプルの生成や既存の防護メカニズムの回避に利用される可能性があるとして、コミュニティではモデル悪用対策の不備への懸念が高まっている。

独自の見解

Kimi K3の公開はオープンソースエコシステムにとって重要な進展である。重みの公開後、コミュニティはパラメータ規模を単純に追求するのではなく、量子化後の性能保持率とマルチタスクの一貫性を優先的に検証すべきだ。