AIによる攻撃が残した混乱、AI企業は責任を負わず、被害者は逆にAI活用を勧められる

強力なAIモデルが攻撃ツールとして悪用され、その混乱は日々拡大している。自動化されたフィッシング攻撃からディープフェイク詐欺、重要インフラを標的にした高度な攻撃まで、AIの暗部が顕在化しつつある。しかし憂慮すべき傾向がある。被害者がAI企業に矛先を向けることはほとんどなく、むしろ同じAIツールを使って「自衛せよ」と促されているのだ。

AI攻撃が頻発、企業は対応に追われる

過去1年間、大規模言語モデルや生成AIを利用したサイバー攻撃が急増している。攻撃者は低コストでリアルなフィッシングメールを生成し、CAPTCHAを突破し、さらにはソフトウェアの脆弱性を自動的に発見することも可能だ。セキュリティ機関の統計によれば、2026年上半期にAIを駆動源とする攻撃件数は前年比300%増加した。企業のセキュリティチームは対応に追われる一方、AI企業は蚊帳の外にいるかのようだ。多くの攻撃は公開されているAIモデルを利用しており、これらのモデルは合法的な用途向けに設計されているものの、悪用を防ぐ有効な仕組みが欠如している。

責任の空白：なぜAI企業は責任を負わないのか

AIモデルが実際の損害をもたらしているにもかかわらず、法的にAI企業の責任を問うことは難しい。現行の法的枠組みでは、AIはツールとみなされており、責任の主体とはされていない。AI企業は通常、利用規約において免責を明記し、使用結果については一切責任を負わないと宣言している。また、攻撃者の追跡は困難であり、被害者は損害と特定のAIモデルとの直接的な因果関係を証明しにくい。たとえ追跡できたとしても、訴訟には多大なコストと時間がかかるため、多くの企業は泣き寝入りを選ぶ。

「私たちが直面しているのは責任の空白だ。AI企業は技術の普及から利益を得ながら、悪用の代償を払わなくていい。」――あるサイバーセキュリティ政策専門家

被害者は「AIでAIに対抗せよ」と促される

さらに不可解なのは、被害者が正義を求めるどころか、同じAIツールを防御に活用するよう勧められていることだ。AI企業はセキュリティ製品を売り込み、AIに対抗できるのはAIだけだと主張する。この論理は責任を被害者に転嫁し、AI企業の市場的地位をさらに強固にする。一部の企業はAIセキュリティ予算の増額を余儀なくされているにもかかわらず、補償を受けることはできない。「AIでAIに対抗する」というこの戦略は、実質的にAI企業が攻撃と防御の両面で利益を得る構図を生み出している。

規制の不在と業界自律の限界

世界的に見て、AIの責任に関する立法は遅々として進んでいない。EUの「AI法」は主にハイリスクな応用に焦点を当てているが、悪用責任の規定は曖昧だ。米国は業界の自主規制に委ねる傾向がある。明確な規制がない中、AI企業には悪用を防ぐインセンティブが乏しく、被害者が権利を守るためのコストは高い。業界団体が発表する倫理ガイドラインの多くは拘束力を持たず、有効な抑止力にはなりにくい。

オープンソースモデルが抱える責任の難問

オープンソースAIモデルの普及により、責任の帰属はさらに複雑になっている。モデルが無償で公開され、誰でもダウンロードして悪用できる状況で、モデル開発者は免責されるのだろうか。現在、オープンソースコミュニティでは開発者が下流での悪用に責任を負うべきではないという見解が一般的だが、これは拡大する被害と矛盾する。一部の国では「セーフハーバー」条項の導入を探り始めているが、まだ合意には至っていない。

編集後記：AIの破壊力に誰が責任を負うべきか

AI技術の両刃の剣としての側面はますます明らかになっている。攻撃者がAIを使って混乱を生み出しながら、AI企業がその結果に責任を負わないとすれば、これは市場の失敗に他ならない。被害者がAIツールで自衛するよう促されることは一見合理的に思えるが、実際には責任の所在という問題を覆い隠している。長期的に見て、明確な責任の枠組みが構築されなければ、AIの悪用は深刻化し続け、最終的にはエコシステム全体が損なわれる。テクノロジー企業は自社製品の予見可能な悪用に対してより多くの責任を負うべきであり、規制当局は立法のペースを加速させる必要がある。そうしなければ、AIがもたらす混乱は誰も代償を払わないまま、最終的にその負担を社会全体が引き受けることになる。

本記事はWIREDより編訳