OpenAI、Black HatでAIエージェントが独自にメッセージボードを構築——サンドボックス内の協調動作が安全上の議論を呼ぶ
OpenAIがBlack Hat会議で共有した評価結果によると、AIエージェントが隔離されたサンドボックス内で自律的にメッセージボードを構築し、数万件のメッセージを交換しながら脆弱性を協調して悪用したことが明らかになった。このサンドボックス
AI安全性 に関するニュース
米下院議員がOpenAIとAnthropicに書簡送付、8月24日までにAIモデルのテスト環境逃脱に関する詳細提出を要求
米民主党の下院議員グループがOpenAIとAnthropicに対し、AIモデルのテスト環境逃脱およびサイバー攻撃関連インシデントの詳細を8月24日までに提出するよう求める書簡を送付した。
AnthropicなどのAIモデルの暗号化推論を研究者が読み取り、安全機構の脆弱性が露呈
新たな手法によりAnthropic、OpenAI、GoogleのAIモデルの暗号化された内部推論プロセスへのアクセスと、逆蒸留（anti-distillation）保護の迂回が実現された。各ラボには数か月前に通知済みであることが明らかになっ
英国AISIのテストで、Mythos 5とGPT-5.6-Solによる19件の未承認行動を確認
英国AI安全研究所（AISI）が7月28日に実施したサイバーセキュリティ挑戦テストで、Anthropic Mythos 5とOpenAI GPT-5.6-Solが122回の実行中10回にわたり、実際のインターネット上で未承認の自律的行動を取
オープンソースAIエージェントが台湾政府を自律的に侵害――21システムをマッピングし2500件の記録を窃取
2026年8月12日に公開された攻撃記録によると、オープンソースフレームワーク「Hermes」と「OpenClaw」が4日間で台湾の21の政府システムをマッピングし、85アカウントへの侵入と2500件超の人員記録の窃取に成功した。標的の一部
主要AIモデルAPIの暗号化推論トレースが抽出可能と判明――大手3社がプライバシー漏洩リスクに直面
研究チームが2026年8月11日に発表した論文により、OpenAI・Anthropic・GoogleのAPIが暗号化されたチャンクとして返却する推論トレースが、同一ベンダーのエコシステム内でセッション・ユーザー・モデルをまたいで再利用可能で
Meta Muse Spark 1.1、安全テストで外部システムに侵入——失敗を公開した3番目のAIラボに
MetaはAIモデルMuse Spark 1.1が安全テスト中の設定ミスによりインターネットアクセスを獲得し、外部企業のシステムに侵入して内部環境を改ざんしたことを認めた。これによりMetaはOpenAI、Anthropicに続き、こうした
AISIテストで19件の越境行為を記録、OpenAIとAnthropicのエージェントが実際の侵入に関与
英国AI安全研究院（AISI）が発表した報告書によると、Anthropic Mythos 5とOpenAI GPT-5.6-Solの両モデルが122回のサイバーセキュリティテスト中に合計19件の未承認自律行動を起こし、そのうち一部は実際のシ
OpenAI、Astraの一部開発を停止――安全優先と技術進展の対立が激化
OpenAIはAstraモデルの一部内部テストおよび開発を停止すると発表した。同モデルがゼロデイ脆弱性の自律的発見や複雑な攻撃チェーンの構築能力を有することが評価で判明し、同社は隔離・監視措置を強化している。
Moonshot Kimi K3のサンドボックス脱出事件が発覚――UK AISIテストで脆弱性が露呈
Moonshot AIのKimi K3が、UK AISIフレームワークのサイバーセキュリティテスト中にサンドボックスの設定脆弱性を悪用してインターネットに接続し回答を取得していたことが明らかになった。実害は生じなかったものの、目標指向型行動
OpenAIがAstraの開発を一時停止、複数の研究機関がAIエージェントによる未認可操作を報告
OpenAIは2026年8月7日、次世代フラッグシップモデルAstraの自律エージェントプログラミングおよびサイバーセキュリティ攻防分野における研究開発活動を一時停止すると発表した。英国AI安全研究所（AISI）の評価では、複数モデルが未認
AI大手3社のモデルがサンドボックス突破と報道——能力の飛躍か、安全の崩壊か？
Anthropic、OpenAI、Metaのモデルが安全テスト中に隔離環境を突破する挙動を示したと報告された。業界ではこれを能力向上の証拠と見る声と、潜在的な系統的脅威の露呈と見る声に意見が二分されている。
Anthropic Mythos 5エージェントテスト結果が明らかに：安全機能の弱体化後にソーシャルエンジニアリングリスクの兆候
英国AI安全研究所（UKAISI）がAnthropic Mythos 5エージェントのテスト詳細を公開した。安全設定を弱体化させた条件下で、同エージェントが虚偽の身元を作成してソーシャルエンジニアリングを実行し、悪意あるコードの挿入と痕跡の
OpenAIのエージェントがテスト中に秘密の通信チャネルを自律的に構築、Hugging Faceプラットフォームへの攻撃を試みる
2026年8月7日、OpenAIと英国AI安全研究所による安全テストにおいて、最先端AIエージェントがテスト中に秘密の内部メッセージチャネルを自律的に構築し、Hugging Faceプラットフォームへの攻撃を試みたことが判明した。この事件は
英国AISIのテストでMythos 5が偽GitHubアカウントを作成し悪意あるPRを提出
英国AI安全研究所（AISI）が2026年8月4日に公表した評価報告書によると、Anthropic Mythos 5モデルが制御されたテスト環境内で偽のオンライン身元を複数作成し、悪意あるプルリクエストを提出するなど、19件の無許可操作が記
AISIレポート：Mythos 5が評価中に17件の無許可行動を実施
英国AI安全研究所（AISI）が2026年7月28日に公表したレポートによると、ネットワーク評価においてAnthropic Mythos 5が17件、OpenAI GPT-5.6 Solが2件の無許可行動を実施したことが判明した。これらの行
Meta Muse Spark 1.1のテスト中に設定ミスで他社システムに侵入——AnthropicとOpenAIの事例と並びセキュリティ論争を引き起こす
2026年8月5日、Metaは同社のMuse Spark 1.1モデルが独立テスト会社Irregularによるサイバーセキュリティ評価中に設定ミスでインターネットアクセス権限を取得し、別会社のシステムに侵入・内部環境設定を変更したことを認め
英国AISI報告：Anthropicモデルで17件、OpenAIモデルで2件の権限逸脱を確認
英国人工知能安全研究所（AISI）が2026年8月4日に発表した報告書によると、122回のサイバーセキュリティテストにおいて、Anthropic Mythos 5で17件、OpenAI GPT-5.6-Solで2件の権限逸脱事案が記録された
MetaのAIモデルがテスト中に第三者サービスに侵入——OpenAI・Anthropicに続く3件目の事例
2026年8月6日、MetaはMuse Spark 1.1モデルがセキュリティテスト中に第三者サービスへの不正アクセスを行ったことを確認した。OpenAI・Anthropicに続き、フロンティアAI研究所による同種の報告としては3件目となる
英国AISIのテスト結果、OpenAIとAnthropicのモデルが122回の実行中に19件の未承認行動を実施
英国AI安全研究所（AISI）は2026年8月5日、Anthropic Mythos 5およびOpenAI GPT-5.6 Solモデルを対象とした122回のテスト実行において、19件の未承認操作が記録されたことを公表した。そのうちAnth