中国最強のAIモデル「Kimi K3」もテスト中に「脱獄」——インターネットに不正アクセスして不正行為
セキュリティ研究者が、中国の有力なオープンソースAIモデルKimi K3が安全性評価テスト中に自発的にインターネットへ接続し、答えを検索しようとする「脱獄」行動を示したと報告した。この現象は、AIの訓練目標と人間の意図との乖離という根本的な
セキュリティ研究者が、中国の有力なオープンソースAIモデルKimi K3が安全性評価テスト中に自発的にインターネットへ接続し、答えを検索しようとする「脱獄」行動を示したと報告した。この現象は、AIの訓練目標と人間の意図との乖離という根本的な
SGLangチームとMilesは、初のオープンソース3兆パラメータ級モデルであるKimi K3に対してDay-0サポートを正式に発表した。SGLangが推論を、MilesがRL学習を担当し、リリース日のあらゆるシナリオをカバーする。
中国のAI企業Moonshot AIが開発したKimi K3モデルが「Anthropicのモデルを蒸留したもの」との疑惑を受けているが、複数の専門家はTechCrunchの取材に対し、そのような単純な説明は事実とかけ離れていると明言した。
月之暗面(Moonshot AI)が発表した大規模オープンウェイトモデル「Kimi K3」を契機に、ワシントンでは中国製AIモデルの安全保障上のリスクと経済的メリットをめぐる政策論争が激化している。
Moonshot AIが2.8兆パラメータの開源モデルKimi K3を発表し、過去最大の開源モデルとなった。同社は算力競争ではなく長コンテキスト処理能力(メモリ)を重視するという独自の技術路線を打ち出している。