PrismML、Qualcommチップ搭載スマートグラスにマイクロ大規模言語モデルを実装

スマートグラスはスマートフォンに続く次の重要なAIハードウェアプラットフォームとして注目されているが、演算能力・消費電力・バッテリー持続時間という「不可能の三角形」が、このようなデバイスでの大規模言語モデルのローカル実行における長年の障壁となってきた。こうした中、マイクロ大規模言語モデルに特化したスタートアップ企業PrismMLが、Qualcommチップ搭載のスマートグラスへの自社モデル実装を発表し、「オンデバイスAI」によってこのボトルネックを回避しようとしている。

大規模モデルを1本のメガネに「圧縮」する

TechCrunchの報道によると、PrismMLのアプローチはパラメータ規模の拡大を追い求めるものではなく、モデルを十分に小さく、かつ十分に効率的にすることで、メモリと演算能力が極めて限られたスマートグラスのようなデバイス上で直接動作させるものだ。これにより、ユーザーは音声や画像などのセンシティブなデータをクラウドにアップロードすることなく、ほぼリアルタイムのAIフィードバックを得られるようになる。

スマートグラスの物理的な制約上、データセンター級のチップを搭載することは不可能だ。テンプルの空間は限られ、放熱も困難で、バッテリー容量も小さい。クラウド向け大規模モデルをローカルで動かそうとすれば、あっという間にバッテリーを消耗してしまう。Metaなどのメーカーのスマートグラスが長らくスマートフォンやクラウドに重い処理を依存し、ローカルではウェイクワード検知やセンサータスクなど簡単な処理しか行っていない理由もここにある。

なぜQualcommを選んだのか

PrismMLがQualcommをハードウェアパートナーに選んだことは驚くべきことではない。QualcommのSnapdragon ARシリーズチップはすでに複数の主流スマートグラスに採用されており、その低消費電力アーキテクチャはウェアラブルデバイス向けに設計されたものであり、NPU（ニューラルネットワーク処理ユニット）でのエッジサイドAI能力の強化にも継続的に取り組んでいる。PrismMLのスモールモデルとQualcommチップを深くco-optimizationすることで、理論上は推論遅延と消費電力を大幅に削減できる。

PrismMLのより大きな目標は、デバイス上でローカル動作し、既存の演算能力をより効率的に活用できるオープンウェイトAIを構築することだ。

「オープンウェイト」はPrismMLのポジションを理解するうえでの重要なキーワードだ。完全にクローズドソースでAPIを通じてのみ利用できるモデルとは異なり、オープンウェイトモデルは開発者やハードウェアメーカーが自由にダウンロード、ファインチューニング、自社デバイスへの展開を行うことができる。多様な形状と断片化したユースケースを持つスマートグラスのようなハードウェアにとって、この柔軟性は特に重要だ。

エッジサイドAIの業界トレンド

PrismMLの動きは、業界における二つの明確なトレンドを捉えている。一つ目は「スモールモデルの復権」だ。パラメータ規模の軍拡競争を経て、業界はエッジデバイス上で効率的に動作する軽量モデルを再評価し始めており、MicrosoftのPhiシリーズからGoogleのGemmaに至るまで、「小さくとも高性能」な実力が証明されつつある。二つ目は、プライバシーと低遅延によって加速するエッジサイド処理の需要だ。AIアシスタントが即時応答を求められ、かつカメラやマイクなどのセンシティブなデータを扱う場合、処理をローカルに留めることはほぼ必然的な選択となる。

Qualcommも近年、「ハイブリッドAI」という構想を推進してきた——単純なタスクはデバイス上でローカル処理し、複雑なタスクはクラウドに任せるというものだ。PrismMLの参加により、この構想に具体的なモデル層のサポートが加わることになる。

編集後記：スモールモデルの機会と限界

冷静に見極める必要があるのは、オンデバイスのスモールモデルは推論能力においてまだクラウドの大規模モデルとの差が残っており、特に多段階推論や複雑な指示の理解といったタスクで顕著だという点だ。PrismMLが「十分に小さい」と「十分に賢い」の最適なバランスを見つけられるかどうかが、その技術が主流のスマートグラスメーカーに採用されるかを左右するだろう。

また、オープンウェイトモデルは商業化という課題も抱えている。API課金に依存しない持続可能なビジネスモデルをいかに構築するかは、オープンウェイト分野全体が共通して抱える疑問だ。チップメーカーとの収益分配、企業向けカスタマイズサービス、モデルライセンスなどが有力な選択肢として考えられるが、まだ結論は出ていない。

しかし方向性は明確だ。チップのNPU演算能力が年々向上し、モデルの量子化や知識蒸留技術が成熟するにつれ、スマートグラスは「スマートフォンの付属品」から真に独立したAI端末へと進化することが期待される。PrismMLとQualcommの今回の協業は、この進化の過程における重要なピースの一つだ。

本記事はTechCrunchより編訳