機械学習はもはやデータセンターだけで動くものではない。今日では、ドアベルカメラ、補聴器、工場センサー、電池駆動のウェアラブルデバイスにまで浸透している。これらのデバイスは通常、数ミリワットという厳しい消費電力予算の中でリアルタイム応答を求められるため、パフォーマンスは「速く動く」だけでなく「十分に省電力である」ことも必須条件となっている。
ここで問題が生じる。評価対象デバイスの形態が大きく異なる場合、性能と効率をどう公平に比較するのか。同一ラウンドの提出物の中に、60 MHzのマイクロコントローラー、ベクトル拡張をサポートするRISC-Vコア、専用のNeural Processing Unitが混在することもある。
MLPerf Tinyはまさにこの課題に応えるために生まれた。MLCommons Tiny Working GroupがEEMBCと共同で開発し、アーキテクチャに中立な立場で、同一のワークロード・モデル・測定手法を用いて超低消費電力システムの機械学習能力を比較することを目標としている。
TinyMLの台頭：なぜ重要なのか
TinyMLとは一般に、マイクロコントローラーや制約のあるデバイス上で動作する機械学習モデルを指し、モデル規模は通常200万パラメーター未満、消費電力はサブミリワットから低ミリワット帯に収まる。この能力により、クラウド推論やスマートフォン推論がカバーしにくいシナリオにもAIが届くようになった。
2026年時点での典型的な応用例には以下が含まれる：
- 工業用振動センサーが機器故障前にベアリングの摩耗を検知する；
- 農業用センサーが一度の充電で数カ月間稼働する；
- 補聴器がローカルで背景ノイズを抑制する；
- イヤホン内のAlways-onキーワード検出；
- パッチ型ウェアラブルデバイスが生の信号をアップロードせずにECGを監視する。
ローカル推論の利点は明確だ。データは生成された場所に留まり、低レイテンシ、低コスト、優れたプライバシー保護、そして電池駆動デバイスにとって不可欠な長いバッテリー寿命をもたらす。
同時に、ソフトウェアエコシステムも急速に成熟している。TensorFlow Lite for Microcontrollers、ExecuTorch、Edge Impulse、STEdgeAI-Core、NXP eIQ、さらにAndesAIRE、RUHMIなどのベンダー固有コンパイラーにより、組み込みハードウェアへのモデルデプロイが容易になった。しかしこれにより新たな問題も浮上した。ベンダーによって異なるモデル・データセット・テスト条件で結果が示されることが多く、数値だけでは全体像が見えにくい。
これまで欠けていたベンチマークの空白
超低消費電力の機械学習に対して公平なベンチマークを構築するのは容易ではない。MLPerf Tinyの関連論文は、このようなベンチマークが少なくとも以下のコアな課題に直面すると指摘している。
- エネルギー消費の測定は公平でなければならない。デバイスによって消費電力の差は大きく、ベンダーごとに測定基準も異なる。周辺回路、ファームウェア起動、I/O動作を含む場合もあれば、推論のみを測定する場合もあり、結果に大きな影響を与える。
- 極めて小さいメモリ予算への対応が必要だ。TinyMLデバイスはGBではなくKB単位のメモリで動作するため、リソースの制約はスマートフォン向けMLより約6桁厳しい。参照モデル、テストフレームワークのオーバーヘッド、量化のパスはすべて限られた空間に収めなければならない。
- ソフトウェアとハードウェアの異種性が高い。デバイスは汎用MCU、ニューラルネットワークプロセッサ、イベント駆動アーキテクチャ、あるいはIn-Memory Computingシステムである可能性があり、各ベンダーは独自のツールチェーンを持つことが多い。ベンチマークが過度に制限的であれば、被測定システムが持つ真の最適化能力を損なってしまう。
図1：Tiny Machine Learning Stackは各レイヤーで多様性があり、ベンチマークの標準化をより困難にしている。
かつて組み込み開発者にベンチマークが存在しなかったわけではない。しかし多くのベンチマークは、開発者が本当に知りたい問いに答えられなかった。CoreMarkはマイクロコントローラーユニットの性能を測る一般的な標準だが、MLワークロード向けに設計されていない。MLMarkは機械学習推論により近いが、ResNet-50、MobileNet、SSD-MobileNetといった参照モデルはリソース極限のマイクロコントローラーではなくエッジAIプロセッサーを対象としており、エネルギー消費をコア指標としていない。
MLPerf Tinyが埋めるべき空白はまさにここにある。TinyMLでは速度とエネルギー効率は同じではない。モデルが速く動いても、電池を急速に消耗する可能性がある。そのため、レイテンシと推論あたりエネルギー消費量を同時に測定しなければならない。
MLPerf Tinyは産業界と学術界から50以上の機関が共同で推進し、Harvard、Google、STMicroelectronics、Qualcomm、Syntiant、Renesas、Infineon、CERN、Silicon Labsなどが参加している。各機関は約18カ月をかけてベンチマークスイートを構築し、2021年6月にv0.5として最初の公開結果を発表した。
MLPerf Tinyが実際に測定するもの
MLPerf Tinyが答えようとする問いはシンプルだ。すべてのデバイスが同一のMLタスクを実行した場合、どのハードウェアとソフトウェアスタックの組み合わせが最も効率よく動作するのか。
そのために、accuracy、latency、energy per inferenceの3つの指標を評価する。各タスクには固定の品質目標があり、参加システムは同等の精度のもとで速度とエネルギー消費量を比較する。精度を犠牲にして数値を良く見せることはできない。
中でもエネルギー消費量はMLPerf Tinyで最も重要な差別化指標だ。TinyMLのシナリオでは、ある推論に10 msしかかからなくても、エネルギー消費量が競合の2倍であれば、より優れた選択肢とは言えない。電池寿命がシステムの制約となることが多いからだ。MLPerf TinyはEEMBCのEnergyRunnerテストフレームワークを使用し、被測定デバイスのキャリブレーション済み消費電力を測定することで、異なるチップ間のエネルギー消費結果を直接比較可能にしている。
MLPerf Tinyはモジュラー設計も重視している。最適化はチップ、コンパイラー、ランタイム、モデル自体のいずれから来てもよいが、参照タスクは固定されており、すべての提出物が同じ基準で評価されることを保証している。
Visual Wake Wordsを例にとると、すべての提出物は96×96の画像に人物が含まれるかどうかを判定し、公式テストセットで少なくとも80%の精度を達成しなければならない。問題・ルール・精度の閾値が完全に一致しているため、結果に比較可能性が生まれる。たとえばASYGNのColibriNPUは1回の推論あたりわずか22.2マイクロジュールを消費する。このエネルギー消費水準によれば、CR2032コイン電池1個で毎秒1回の推論を3年以上継続できる計算になる。
5つのベンチマークが対応する実際のシナリオ
MLPerf Tinyは2021年のv0.5で4つのタスクを含み、2025年のv1.3で5つに拡張された。各タスクは一般的なTinyMLのデプロイパターンに対応している：
- Keyword Spotting（KWS）：Google Speech Commandsデータセットで学習した小型DS-CNNを使用し、スマートスピーカー、イヤホン、補聴デバイスにおけるウェイクワードと音声コマンド検出を代表する。
- Visual Wake Words（VWW）：96×96画像向けのMobileNetV1二値分類器を使用し、ドアベル、監視カメラ、在室検知センサーにおける低消費電力の視覚的「人物の有無」判定をシミュレートする。
- Image Classification（IC）：CIFAR-10上でResNetスタイルのネットワークを実行し、エッジデバイス上の汎用低解像度ビジュアル分類タスクを代表する。
- Anomaly Detection（AD）：工業機器音データセットToyADMOS上で学習したオートエンコーダーを使用し、予知保全と設備状態監視を代表する。
- Streaming Wake Word：v1.3で追加され、1D depthwise-separable CNNを採用し、連続音声ストリームの中でターゲットワードを検出する。他のベンチマークと異なり、アイドル状態と継続的な待ち受け状態でのデバイスの挙動にも注目し、Always-on音声デバイスの実際の消費電力プレッシャーをより忠実に反映している。
v1.4が示す方向性：エッジAIはエネルギー効率競争の段階へ
MLPerf Tiny v1.4の意義は新しい数値を公表することにとどまらない。超低消費電力AIの発展方向をさらに裏付けるものだ。今後の競争はモデルサイズや推論レイテンシだけでなく、エンドツーエンドのエネルギー効率、ツールチェーンの成熟度、特定ワークロードへのハードウェアの適合能力にも及ぶ。
開発者や調達担当者にとって、このようなベンチマークの価値は比較コストの削減にある。MCU、RISC-V、NPUといった全く異なるプラットフォームに対して、MLPerf Tinyはモデル・データ・精度目標・エネルギー消費測定を統一することで、異なるソリューションを同じ文脈で議論できるようにしている。
TinyMLがより多くの現実シナリオに浸透するにつれ、数ミリワット以下の消費電力で信頼性の高い推論を実現できるシステムが、次世代エッジAIアプリケーションのインフラとなるだろう。MLPerf Tinyはその進歩を測るための共通言語を提供している。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接