ウォルマートのAIワークフローが財務的現実に直面

AI Newsの報道によると、ウォルマート（Walmart）は最近、社内AIアシスタント「Code Puppy」の従業員による利用を制限し始めた。同ツールを支える大規模言語モデル（LLM）の消費コストが想定を大きく上回ったためである。これまでウォルマートは従業員に対し、Code Puppyを積極的に活用するよう奨励し、使用制限や規定を一切設けていなかった。しかし需要の急増を受け、同社はこのAI投資を再検討せざるを得なくなり、従業員に利用枠を割り当てる方針に転換した。

「使い放題」から「コスト管理」へ

Code Puppyはウォルマートが社内開発したAIアシスタントで、メール作成、コード生成、データ処理など、従業員の業務効率向上を目的としている。当初、ウォルマートはこれを生産性向上の「秘密兵器」と位置づけ、使用上限すら設けていなかった。しかし、この状況は長く続かなかった。従業員のAIアシスタントへの依存度が急激に高まるにつれ、ベースとなるLLMの呼び出しコストは雪だるま式に膨らんでいった。

関係者によると、ウォルマートのIT部門は、Code Puppyの1日あたりのクエリ数がわずか数か月で数倍に増加し、クラウドサービスの請求額が急騰していることを発見した。同社は緊急会議で対策を協議し、最終的に全従業員に月間クエリ枠を設定し、超過分は追加承認が必要とする方針を決定した。

「AIが実験的なツールから日常的に不可欠なものになったとき、コスト管理はCEOが向き合わなければならない課題となる。」――ある小売業界の技術コンサルタント

大規模モデルのコスト：企業AIの「アキレス腱」

ウォルマートのケースは決して例外ではない。ChatGPTやClaudeなどの大規模言語モデルが商用化されるにつれ、AIが効率を大幅に向上させる一方で、その裏側の計算コストも驚異的であることに気づく企業が増えている。推定によれば、中規模企業が1日に数百万回のLLM API呼び出しを行う場合、月間請求額は数十万ドルに達する可能性がある。

これにより企業は、AI導入戦略の再考を迫られている。自社モデルを構築するのか、オープンソースのソリューションを利用するのか、それとも第三者APIに依存するのか。ウォルマートは以前、OpenAIと提携し、API経由でGPTモデルを呼び出す方針を選択したが、トークン課金モデルの高コストにより、財務部門はすぐに頭を悩ませることとなった。

業界アナリストは、ウォルマートの方針転換は重要なシグナルを発していると指摘する。AIの「フリーランチ」時代は間もなく終わりを迎えるということだ。企業はAIがもたらす商業的価値と運用コストのバランスを見出す必要がある。今後は「AI利用枠」「モデル蒸留」「ローカル展開」など、コスト最適化の手段がより多く見られるようになるだろう。

編集後記：AI実装の「ラストワンマイル」は財務にあり

ウォルマートの事例は、企業向けAIアプリケーションにおける重要な課題、すなわち技術的ブレークスルーと商業的実現可能性の間のギャップを明らかにしている。多くの企業がAIブームに殺到する一方で、継続的な運用コストを見落としがちである。実際、AIは一度購入すれば終わりの製品ではなく、継続的な投資を必要とする「活水」なのである。

より大局的に見ると、ウォルマートの利用制限措置は、AIワークフローのスケール化が財務モデルと整合していなければならないことを我々に思い起こさせる。コスト管理で先手を打てる企業こそが、次のAI競争において有利な立場を占めることになるだろう。

本記事はAI Newsからの翻訳である