ハイカーがGeminiの助言を信じて物資を減らし遭難——警察がAIアドバイスの信頼性に警告

「AIへの信頼」をめぐる野外救助

スマートフォンは、アウトドアスポーツにおいて最も過小評価されやすいリスク源の一つになりつつある。米国のある郡の保安官事務所が最近、救助活動の報告を公表した。遠隔地の山道でハイカーのグループが水と食料が底をつくという危機に陥り、最終的に救助隊員によって安全に救出されたというものだ。この危険を招いた原因は、出発前に行程計画に使用したGoogleのAI「Gemini」だった。

保安官事務所は報告の中で、このハイカーたちが「Geminiから、グループが実際に必要とする量よりもはるかに少ない食料と水を携行するよう助言された」と警告した。この説明が地元メディアに引用されると、生成AIが「屋外活動のアドバイザー」として機能しうるかどうかをめぐる議論がたちまち燃え上がった。このグループは捜索救助隊に発見された時点で、脱水症状と体力消耗の兆候を示していたが、幸いより深刻な事態には至らなかった。

「Geminiから、グループが実際に必要とする量よりもはるかに少ない食料と水を携行するよう助言された。」——保安官事務所による今回の救助事案の説明

なぜGeminiの助言はこれほど的外れだったのか？

Geminiをはじめとする生成AIモデルの中核的な能力は、膨大なテキストデータから単語間の確率的な関係を学習し、一見筋の通った文章を生成することにあり、現実の環境で科学的に検証することではない。「水や食料をどれくらい持っていけばよいか」と尋ねられた場合、複数の情報源の平均値を組み合わせたり、一見正確に見える数値を「作り上げたり」することがある。回答が流暢で自信に満ちているため、専門的な経験のないユーザーは警戒心を解いてしまいがちだ。

プロのアウトドア専門家は、質の高い補給計画にはリアルタイムの天気、地形の高低差、行進距離、グループの人数、個人の代謝率、さらには天候の急変といった要素を考慮する必要があると強調する。また、荷物の設計が不適切であればリスクは倍増する。しかしAIには身体がなく、ユーザーの実際の状況を把握することもできないため、これらの重要な変数についてはほぼ「手探り状態」と言わざるを得ない。

AIの「幻覚」が荒野の生存と交わるとき

このような「自信に満ちているが誤っている」AIの例は珍しくない。存在しない近道を勧めたり、枯れた植物を食用と説明したり、国立公園の季節的な禁止事項を無視したりすることがある。オフィスの場面であれば、そのような幻覚は確認に数分余計にかかる程度かもしれないが、ジャングルや荒漠では、一つの誤った水源の情報が命取りになりかねない。

テクノロジー企業は「AIが生成したコンテンツは参考情報に過ぎない」という小さな注意書きで責任を回避しようとしているが、実際の使用体験においてこの種の注意書きはほとんど目に入らない。一方で、各種デバイスのアシスタントはより積極的に機能しようとしており、検索ボックスから地図アプリまで「対話型プランニング」の機能が組み込まれ始めている。この利便性がユーザーの主体的な確認意識をさらに後退させ、AIの幻覚の影響が現実世界へとじわじわと広がっている。

AIとアウトドア安全——今後の進むべき道は？

注目すべき点として、Googleは現在「エージェント型AI」の概念を推進しており、Geminiが地図サービス、リアルタイムの気象データ、デバイスのセンサーを活用できるようにしようとしている。この技術が成熟すれば、将来のAIはルートデータと組み合わせてより信頼性の高い助言を提供できるようになるかもしれない。しかし、その日が来るまで、現在バージョンの大規模言語モデルは本質的に「言語生成器」であり、「現実シミュレーター」ではない。このことは、製品設計者が安全リスクを前面に出すことを求めている。例えば、ユーザーが遠隔地のハイキング計画について尋ねていると検知された場合、細かい免責条項の中に真実を埋め込むのではなく、「食料や水の量の判断にAIを頼ってはならない」という警告を強制的に表示するべきだ。

今回の救助活動は悲劇に終わらなかった点で幸運な事例だが、業界にとって一つの鏡でもある。情報ツールとして、AIはルートを素早く提案し、装備をリストアップし、注意事項をまとめることができる。しかし安全管理者としては、AIはまだ合格ラインに達していない。GoogleもGeminiの製品説明の中で、AI生成コンテンツは権威ある情報と照合して再確認する必要があることをユーザーに示している。これはすなわち、企業はモデルの限界を把握しているが、最終的なリスクは依然としてユーザーが負うということを意味している。

編集後記：生成AIは「一人あたり600ミリリットルの水で十分」と自信たっぷりに告げるかもしれないが、背負ったリュックの重さ、靴の中に生じた水ぶくれ、そして照りつける太陽の下で稜線の果てに見える遠い影を感知することはできない。AIはインスピレーションの出発点にはなりえても、荒野における唯一の地図であってはならない。技術が真に「現地経験」を持つようになるまでは、重要な判断は現実世界の情報——そして自分自身の判断力——に委ねてほしい。今回救助されたハイカーたちは、その身をもってこの安全の一線を示してくれた。

本記事はTechCrunchより編集・翻訳