本地推理 に関するニュース

オリジナル

ワークステーション1枚のGPUで753Bパラメータモデルを動作——FreeTokenがローカル推論のパラメータ上限を突破

カリフォルニア大学バークレー校とテキサス大学オースティン校の研究者が開発したFreeTokenは、単一ワークステーションGPUで7,530億パラメータのGLM-5.2を動作させることを実現し、個人マシン上でのフロンティアモデルのローカル推論

本地推理 MoE 开源 AIインフラ
961
オリジナル

赢政研究院が初のハードウェア天梯図を発表：300元の中古スマホでDeepSeekが動作、1万元級RTX 4090は「庶民のフェラーリ」の称号を獲得

赢政研究院が発表した独立評価レポートで、300元の中古Xiaomi 8から1万元超のRTX 4090まで、4つの異なる価格帯のデバイスでDeepSeekの動作検証を実施。RTX 4090が「庶民のフェラーリ」として最高のコストパフォーマンス

DeepSeek 硬件评测 RTX 4090 Apple M4 Max
2,003