ワークステーション1枚のGPUで753Bパラメータモデルを動作——FreeTokenがローカル推論のパラメータ上限を突破
カリフォルニア大学バークレー校とテキサス大学オースティン校の研究者が開発したFreeTokenは、単一ワークステーションGPUで7,530億パラメータのGLM-5.2を動作させることを実現し、個人マシン上でのフロンティアモデルのローカル推論
边缘计算 に関するニュース
Meta Llama 3.2軽量モデル登場：エッジデバイスAIビジョンの新時代が幕開け
Metaが初のエッジデバイス向け視覚マルチモーダルモデルLlama 3.2（1B/3B）を発表し、オープンソースコミュニティで大反響を呼び、AIのクラウドからデバイスへの大規模移行を示す。
Meta Llama 3.2軽量モデルリリース：エッジデバイスのAIアプリケーションに新たなブレークスルー
Meta AIチームがLlama 3.2シリーズモデルを正式リリースし、1Bと3Bパラメータの軽量マルチモーダルモデルがエッジデバイス向けに最適化され、画像理解や視覚的質問応答などの機能をサポート。オープンソース特性により、AIのクラウドか
Meta Llama 3.2ビジョンモデルのオープンソース公開：マルチモーダルAIがエッジデバイスへ加速拡大
Meta AIはLlama 3.2シリーズのビジョンモデルをオープンソースとして公開しました。これは、Llamaシリーズが初めて大規模なビジョン機能を導入し、エッジデバイスでの効率的な動作を可能にするものです。