AIエージェントに自宅のスマートデバイスを全てハッキングさせてみた――そしてもう一度やりたいと思っている

テクノロジー記者として、自宅のネットワークセキュリティにはそれなりの自信があった。パスワードマネージャーを使い、WPA3を導入し、スマートカメラのデフォルトパスワードも変更していた。しかし、あるAIセキュリティ実験が私の見方を一変させた。オープンソースモデルの安全制限を解除し、それをエージェントとして自律的に自宅デバイスを探索させたところ、脆弱性を発見してPCへの侵入に成功しただけでなく、完全な修復リストまで提示してくれた。結果として、ネットワークに被害は生じず、むしろ以前より安全になった。

ガードレールを外すと、AIはアシスタントから攻撃者へ変わる

かつて、ペネトレーションテスターはデバイスを手動で分析し、エクスプロイトスクリプトを自分で書く必要があった。今や大規模言語モデルは公開された脆弱性データベースやドキュメントを読み込み、スキャンを自律的に実行し、悪用条件を判断し、スクリプトを生成できる。私が使用したオープンソースモデルには、デフォルトで「実際のデバイスを攻撃しない」というガードレールが設けられていた。テストのため、隔離されたネットワーク上でこの制限を解除し、管理者権限でLAN上のデバイスを掌握するよう命じた。

経験豊富なペネトレーションテスターのように、まずポートをスキャンしてデバイスの機種を特定し、次にルーターの既知の脆弱性を突いてDNSを書き換えてネットワークトラフィックを制御した。続いてアクセス制御の脆弱性を辿り、あるPCが公開していたデバッグポートを発見、リモート実行権限の取得に成功した。一連の操作は30分以内に完了した。注目すべきは、未公開の脆弱性を一切使わず、私自身が把握しながら修正していなかった手抜かりだけを利用した点だ。

AIの「自白」がそのままセキュリティチェックリストになる

「強力なオープンソースモデルの安全ガードレールを解除すると、それは自宅デバイスの脆弱性を見つけ出し、PCに侵入した。しかし同時に、全てをはるかに安全にする方法も教えてくれた。」

攻撃終了後、AIは脅威レベル順に並べた修復提案をターミナルに出力した。ルーターのファームウェアをアップデートする、スマートデバイスを独立したVLANに分離する、PCのリモートデバッグサービスを無効化する、強力なパスワードと二要素認証を使用する――といった内容だ。「ネットワークを切断すれば解決」といった曖昧な提案ではなく、実行可能な強化手順が示されていた。半日かけてその提案に従ってデバイスを更新し、カメラ、NAS、テスト用PCを隔離した。別のモデルが再度攻撃を試みたとき、フィルタリングされたポートしか見えなかった。

オープンソースモデルという諸刃の剣

この実験が成立した前提は、モデルがオープンソースであることだ。オープンな能力は悪意ある悪用に使われる可能性がある一方、セキュリティ研究者の助けにもなる。安全トレーニングによってモデルが「決して悪さをしない」ことを期待すべきではない。防衛ラインはファームウェアのアップデート、ネットワーク隔離、パッチ管理に置かなければならない。AIがハッカーのツールとして蔓延するかどうかは、二つの問いにかかっている。デバイスメーカーがセキュリティアップデートを真剣に設計しているか、そしてユーザーが本当にデジタル上の境界を重視しているか、だ。

編集後記：AIは高度に自律的な攻撃計画を実行できるようになっており、これまで見過ごされてきたリスクをより容易に増幅させる。パニックになるより、能動的な防御の好機と捉えるべきだ。個人ネットワーク上のAIエージェントは、私たちの敵ではなく、問題を最初に発見してくれる「目」なのかもしれない。

本記事はWIREDより編訳