危険なAIモデルは避けられない：高度なハッキング能力が標準装備になる

編集者注

AIがハッカーのように考え始めたとき、私たちは「誰でもハッカーになれる」時代を迎える準備ができているだろうか？2026年6月18日、Ars TechnicaはWIREDの重大ニュースを報じた：高度なサイバー攻撃能力を持つAIモデルが、将来的に普及することは避けられないというものだ。これはSF映画の話ではなく、今まさに起きている技術的転換点である。

核心的見解：危険なAIは「もしも」ではなく「いつ」の問題

WIREDのシニアライター、Lily Hay Newmanの分析によると、AIセキュリティ分野は静かな革命を経験しつつある。かつてAIモデルは主に防御目的——異常トラフィックの検出、マルウェアの識別、セキュリティ対応の自動化——に使われていた。しかし最新の研究では、生成AIがソフトウェアの脆弱性を自律的に発見し、ファイアウォールを回避する攻撃スクリプトを作成し、さらには人間のハッカーによるソーシャルエンジニアリングのトークを模倣できるまでになっていることが示されている。

「AIにシステムを守る方法を教えるのに10年かかったが、AIにシステムを破る方法を教えるのはわずか2年で済んだ。」——匿名のセキュリティ研究者

報道によると、複数の研究機関がペネトレーションテストの全工程を独立して実行できるAIエージェントの訓練に成功しており、その効率は人間チームの数十倍に達するという。さらに懸念されるのは、こうした技術が軍の研究所からオープンソースコミュニティへと流出しつつある点だ。「DeepHack」と呼ばれるオープンソースプロジェクトはすでに、インターネット上の脆弱なデバイスを自動スキャンしてエクスプロイトコードを生成できる段階に達している。

業界背景：規制が技術に追いつけない

世界の主要国がAIガバナンス法案を推進しているにもかかわらず、技術の発展スピードは立法プロセスをはるかに上回っている。EUのAI法は「攻撃的AI」を受け入れ不可能なリスクに分類しているが、実際の運用においてあるモデルが「危険」かどうかを判定することは極めて困難だ。同じコードがセキュリティ監査にも悪意ある攻撃にも使用できるからである。

米国サイバー軍の元高官は非公開のシンポジウムで、軍がすでにAIを活用して敵対国のシステムの脆弱性を探っていると認めた。民間領域で同様の能力が拡散した場合、攻撃対象領域は指数関数的に拡大するという。サイバー保険業界の最新データによると、AIを活用した攻撃に対する保険請求額は過去18ヶ月で400%増加している。

分析：どう対応すべきか？

まず、「危険なAIを禁止する」という幻想を捨てなければならない。技術は瓶の中の精霊のようなもので、一度解き放たれれば元には戻せない。より現実的な道は「対抗型AI」の開発だ——AIでAIを監視し、AIでAIを防御する。同時に、ホワイトハットハッカーが悪意あるAIの能力の限界をいち早く発見することを奨励する、グローバルな「AI脆弱性バグバウンティ」の仕組みを構築する必要がある。

次に、インターネットインフラの再設計が求められる。従来のシグネチャベースの防御は、AIが生成する変異型攻撃の前では無力に等しい。ゼロトラストアーキテクチャと行動分析がより一層重要になるだろう。個人ユーザーも警戒を高める必要がある：AIが生成したフィッシングメールは、言語的にはほぼ見分けがつかない。

まとめ

危険なAIモデルの到来は終末ではなく、人類社会の協調能力に対する厳しい試練である。電力が光をもたらすと同時に感電リスクをもたらしたように、AIという両刃の剣は同様の知恵をもって管理する必要がある。本記事はArs Technicaより編訳したもので、原文の著者はLily Hay Newman（WIRED.com）である。