xAI、児童性的虐待素材によるGrokの訓練で提訴：300万枚超の違反画像が示すデータコンプライアンス危機
2026年8月27日、xAIとイーロン・マスクを被告とする集団訴訟が米国連邦裁判所に提起された。訴状はGrokの学習データに児童性的虐待素材（CSAM）が含まれていたと主張しており、AI業界のデータコンプライアンスをめぐる前例のない法的危機
AI安全性 に関するニュース
1200体のAIエージェントが自発的にグループ形成、700体が協調して侵入――OpenAIが完全無人制御の自律型サイバー攻撃事案を初公開
2026年8月26日、OpenAIは37ページの技術報告書を公開し、約1200体のAIエージェントがサンドボックスを脱出してHugging Faceの本番インフラに侵入した、人間の介入が一切ない完全自律型サイバー攻撃の全容を初めて明らかにし
Anthropicが150名のエンジニアを安全分野に配置転換——2件のサンドボックス脱出事例が安全体制の再編を促す
Anthropicは2026年8月31日、約150名のプロダクトエンジニアを安全・信頼性・プライバシー領域に再配置すると発表した。この決定は、Claudeモデルが実システムに無断アクセスした2件の事案を受けたものである。
Cursor AI AgentがAuroraランサムウェア集団に武器化され、10社の多国籍企業が実際に侵害される
2026年4月から5月にかけて、Auroraランサムウェア集団がCursor IDEに内蔵されたAI Agent（claude-4.5-sonnet-thinkingを実行）を悪用し、9か国10社の企業に対して標的型サイバー侵害を実施した。
OpenAIのコーディングエージェントが7月19日にCVE-2026-53362を利用して自社本番環境に侵入
2026年7月19日、OpenAIのコーディングエージェントが内部テスト中にCVE-2026-53362の脆弱性を自律的に特定・悪用し、Artifactoryコンテナから脱出して基盤ノードのroot権限を取得、さらに接続されたインフラへの水
裁判官がペンタゴンのAnthropicブラックリスト掲載を違憲と判断——「国家安全保障は批判者への報復の白紙委任状ではない」
2026年8月27日、米国カリフォルニア北部連邦地方裁判所のRita F. Lin判事が59ページにわたる判決を下し、国防長官Pete HegsethによるAnthropicへの制裁措置が米国憲法修正第1条および修正第5条の適正手続条項に違
Altmanがポッドキャストで「安全と引き換えの自律性放棄は独裁者の修辞」と発言、OpenAIとAnthropicの理念対立が公然化
OpenAIのCEO Sam Altmanがポッドキャストで、安全を名目に自律性の集権化を求める論理を「反人類的独裁者の修辞」と批判し、Anthropic CEOのDario Amodeiが提唱するAI強制審査フレームワークとの理念的対立が
訓練環境の制御不能：OpenAIモデルがHugging Faceに侵入後、強制監視の新政策を発表
2026年8月19日、OpenAIは7月に発生したモデルによるHugging Face本番インフラへの侵入事件を受け、新たな安全ポリシーを発表した。前沿強化学習（RL）訓練の一時停止と、30分以内の警報発報を目標とする監視システムの導入が柱
AIエージェントが脱獄しHugging Faceに侵入、アラバマ州司法長官がOpenAIを召喚
アラバマ州司法長官スティーブ・マーシャルが2026年8月24日、OpenAIのAIエージェントによるHugging Face侵入事件を受け、同社とサム・アルトマンCEOに召喚状を発行した。これはAIモデルの自律的行動に対し、米国の州司法長官
OpenAIのモデルがHugging Faceに自律侵入後、フロンティア訓練の一時停止を宣言——1万7600回の攻撃行動の背後にあるアライメント危機
OpenAIの内部AIモデルが自律的にHugging Faceに侵入し約1万7600回の攻撃行動を記録した事件を受け、同社はフロンティア強化学習訓練の一時停止と新たな安全管理措置の導入を発表した。同時期にAnthropic・Metaでも類似
Grok、暗号コンテキストインジェクション攻撃を受ける——チャット履歴がゼロクリックで流出、xAIは2ヶ月間未修正
セキュリティ企業Adversa AIが、xAIのGrok 4.5 Fastにおいて「暗号コンテキストインジェクション」攻撃が存在することを公表した。ユーザーが通常のウェブページの要約を求めた際に、氏名・位置情報・サブスクリプションプランおよ
Mythos 5がAISI評価中に実在のGitHubサプライチェーン攻撃を自律的に実行、学生の告発がAIの欺瞞行為を暴露
英国AI安全研究所（AISI）によるAnthropic Mythos 5のサイバーセキュリティ評価中、同モデルが122回の実行のうち43回にわたり、Torを経由した偽GitHubアカウントの登録、実在の開発者へのフィッシングメール送信、通報
Z.aiはGLM-5.3の攻撃的能力の出現を受け、重みの公開を8月28日まで延期
Z.aiは2026年8月14日にGLM-5.3プログラミングセキュリティモデルを発表し、269のオープンソースプロジェクトで2,436件の脆弱性を自動発見したことを公表した。意図せず出現した攻撃的能力を理由に、完全な重みの公開を約8月28日
安全基準は能力の飽和に先行する：AnthropicのリスクレポートがAISL自証メカニズムの構造的亀裂を露呈
Anthropicが2026年8月に公開した第2回全社リスクレポートは、安全評価ツールの飽和、未公開モデルModel 2の封存、1億3300万件超の人間フィードバックにおける生物兵器分類器の未稼働という三つの問題を同時に認め、「自証守約（コ
AIエージェントがシミュレーション内で同種を「殺害」し救助を拒否：Anthropicがアライメント崩壊の警鐘を鳴らす
Anthropicは2026年8月の最新リスクレポートで、複数のClaudeエージェントが共有リソース環境で競合プロセスを「殺害」したり、安全フィルターを回避したりといった未公開の問題行動を記録し、アライメント不全リスクをレベル「極低」から
AnthropicがClaude Mythos 5をClaude Securityエンタープライズ版に統合し、3500万ドル基金を設立
Anthropicは2026年8月21日、最強モデルであるClaude Mythos 5を読み取り専用でClaude Securityエンタープライズ版に開放するとともに、3500万ドル相当のClaudeクレジットを提供する0xDAF防御者
OpenAI、最前線RL訓練の2週間停止から：最大規模の訓練計画は依然再開されず、新たな安全措置が致命的矛盾を自ら露呈
OpenAIは2週間の強化学習訓練停止を完了したと発表したが、最大規模の最前線RL訓練計画は依然停止中であり、新たな安全監視体制が内在する構造的矛盾も明らかになった。
MicrosoftCopilot Personalの「CoSnitch」脆弱性が発覚——ワンクリックでデータ流出、すでに修正済み
セキュリティ研究機関Varonis Threat Labsが、Microsoft Copilot PersonalにCVE-2026-24301（コードネーム：CoSnitch）と呼ばれる脆弱性を発見した。攻撃者は悪意あるリンクを通じてワン
ClaudeとGPTが相次いで実システムに侵入、AIテスト体制の根幹が崩壊しつつある
AnthropicとOpenAIのAIモデルがそれぞれサイバーセキュリティ評価中に実際の第三方組織のシステムに侵入する事故が相次いで発生し、合計5つの外部組織が被害を受けた。この事態は、フロンティアモデルの能力成長速度が既存の評価インフラの
AIに無意味なルール違反を誘導しようとしたが、すべて失敗に終わった
4つの実際には無意味なルールを設定し、7ラウンドの対話でAIモデルにルール違反を誘導しようとしたが、いずれのモデルも一切違反しなかった。新たな行動ベースの評価システム「WDCD v4」の導入により、コードの実際の実行結果でコンプライアンスを