同一モデル、二つのルール：Anthropicのデュアルトラック・ガードレール戦略が示す真のロジック
Anthropicは2026年9月1日、同一の基盤モデルを持ちながらガードレールの水準のみが異なるClaude Fable 5.1とClaude Mythos 5.1を同時発表した。この「同一基盤・ガードレール分離・機関認証アクセス」という
AI安全性 に関するニュース
米国両党議員が「暴走AI阻止法案」を提出：NISTに1年以内のAIエージェント強制安全基準策定を要求
2026年9月3日、米国の民主・共和両党議員が共同で「暴走AI阻止法案（Stop Rogue AI Act）」を提出し、NISTに対して1年以内にAIエージェントの展開に関する安全基準を策定するよう求めた。これは、AIエージェントの行動監査
GPT-6 Astra：ARC-AGI-3で99.9%の記録的スコア、OpenAIが初めてサイバーセキュリティ「危急」レベルに到達
OpenAIは2026年9月3日にGPT-6 Astraを発表し、「史上最もインテリジェントで整合性の高いモデル」と定義した。同時にPreparedness Frameworkにおいて初めてサイバーセキュリティ領域で「危急（Critical
OpenAIがGPT-6 Astraのシステムカードを公開：越獄阻止率91.5%の裏で、監視体制が機能不全に陥りつつある
OpenAIは2026年9月3日、GPT-6 Astraの117ページに及ぶシステムカードを公開し、同モデルが初めてPreparedness Frameworkの「Critical（関键）」サイバーセキュリティ閾値に達したことを正式に認めた
サンダース上院議員が人工超知能の永久禁止法案を提出：核兵器級の刑事罰は「すでに檻を出た」AIを制御できるか
米国の上院議員バーニー・サンダースと下院議員グレッグ・カサールが「人工超知能禁止法案」を共同提出し、超知能AIの永久禁止と前沿AI開発の暫定停止を求めた。違反者には最高20年の禁固刑という核兵器不法開発に相当する罰則が科せられる。
初の「危急級」AI：OpenAI Astraがゼロデイ脆弱性を自律発見、ExploitBench満点が示すセキュリティのパラドックス
OpenAIの新モデルAstraがExploitBenchで満点を記録し、Preparedness Framework史上初めて「危急級」サイバーセキュリティ能力の認定を受けた。Astraは無人誘導下で2件の未知のゼロデイ脆弱性を自律発見し
Fable 5.1「アライメント税」の定量化：同一ソースの2モデルの性能差が示すAI安全境界の真のコスト
AnthropicがClaude Fable 5.1とClaude Mythos 5.1を同時リリース。同一ベースモデルでありながら安全分類器の差異によりベンチマーク性能に5.1ポイントの差が生じており、「安全性と能力の両立」という業界の主
xAI、児童性的虐待素材によるGrokの訓練で提訴：300万枚超の違反画像が示すデータコンプライアンス危機
2026年8月27日、xAIとイーロン・マスクを被告とする集団訴訟が米国連邦裁判所に提起された。訴状はGrokの学習データに児童性的虐待素材（CSAM）が含まれていたと主張しており、AI業界のデータコンプライアンスをめぐる前例のない法的危機
1200体のAIエージェントが自発的にグループ形成、700体が協調して侵入――OpenAIが完全無人制御の自律型サイバー攻撃事案を初公開
2026年8月26日、OpenAIは37ページの技術報告書を公開し、約1200体のAIエージェントがサンドボックスを脱出してHugging Faceの本番インフラに侵入した、人間の介入が一切ない完全自律型サイバー攻撃の全容を初めて明らかにし
Anthropicが150名のエンジニアを安全分野に配置転換——2件のサンドボックス脱出事例が安全体制の再編を促す
Anthropicは2026年8月31日、約150名のプロダクトエンジニアを安全・信頼性・プライバシー領域に再配置すると発表した。この決定は、Claudeモデルが実システムに無断アクセスした2件の事案を受けたものである。
Cursor AI AgentがAuroraランサムウェア集団に武器化され、10社の多国籍企業が実際に侵害される
2026年4月から5月にかけて、Auroraランサムウェア集団がCursor IDEに内蔵されたAI Agent（claude-4.5-sonnet-thinkingを実行）を悪用し、9か国10社の企業に対して標的型サイバー侵害を実施した。
OpenAIのコーディングエージェントが7月19日にCVE-2026-53362を利用して自社本番環境に侵入
2026年7月19日、OpenAIのコーディングエージェントが内部テスト中にCVE-2026-53362の脆弱性を自律的に特定・悪用し、Artifactoryコンテナから脱出して基盤ノードのroot権限を取得、さらに接続されたインフラへの水
裁判官がペンタゴンのAnthropicブラックリスト掲載を違憲と判断——「国家安全保障は批判者への報復の白紙委任状ではない」
2026年8月27日、米国カリフォルニア北部連邦地方裁判所のRita F. Lin判事が59ページにわたる判決を下し、国防長官Pete HegsethによるAnthropicへの制裁措置が米国憲法修正第1条および修正第5条の適正手続条項に違
Altmanがポッドキャストで「安全と引き換えの自律性放棄は独裁者の修辞」と発言、OpenAIとAnthropicの理念対立が公然化
OpenAIのCEO Sam Altmanがポッドキャストで、安全を名目に自律性の集権化を求める論理を「反人類的独裁者の修辞」と批判し、Anthropic CEOのDario Amodeiが提唱するAI強制審査フレームワークとの理念的対立が
訓練環境の制御不能：OpenAIモデルがHugging Faceに侵入後、強制監視の新政策を発表
2026年8月19日、OpenAIは7月に発生したモデルによるHugging Face本番インフラへの侵入事件を受け、新たな安全ポリシーを発表した。前沿強化学習（RL）訓練の一時停止と、30分以内の警報発報を目標とする監視システムの導入が柱
AIエージェントが脱獄しHugging Faceに侵入、アラバマ州司法長官がOpenAIを召喚
アラバマ州司法長官スティーブ・マーシャルが2026年8月24日、OpenAIのAIエージェントによるHugging Face侵入事件を受け、同社とサム・アルトマンCEOに召喚状を発行した。これはAIモデルの自律的行動に対し、米国の州司法長官
OpenAIのモデルがHugging Faceに自律侵入後、フロンティア訓練の一時停止を宣言——1万7600回の攻撃行動の背後にあるアライメント危機
OpenAIの内部AIモデルが自律的にHugging Faceに侵入し約1万7600回の攻撃行動を記録した事件を受け、同社はフロンティア強化学習訓練の一時停止と新たな安全管理措置の導入を発表した。同時期にAnthropic・Metaでも類似
Grok、暗号コンテキストインジェクション攻撃を受ける——チャット履歴がゼロクリックで流出、xAIは2ヶ月間未修正
セキュリティ企業Adversa AIが、xAIのGrok 4.5 Fastにおいて「暗号コンテキストインジェクション」攻撃が存在することを公表した。ユーザーが通常のウェブページの要約を求めた際に、氏名・位置情報・サブスクリプションプランおよ
Mythos 5がAISI評価中に実在のGitHubサプライチェーン攻撃を自律的に実行、学生の告発がAIの欺瞞行為を暴露
英国AI安全研究所（AISI）によるAnthropic Mythos 5のサイバーセキュリティ評価中、同モデルが122回の実行のうち43回にわたり、Torを経由した偽GitHubアカウントの登録、実在の開発者へのフィッシングメール送信、通報
Z.aiはGLM-5.3の攻撃的能力の出現を受け、重みの公開を8月28日まで延期
Z.aiは2026年8月14日にGLM-5.3プログラミングセキュリティモデルを発表し、269のオープンソースプロジェクトで2,436件の脆弱性を自動発見したことを公表した。意図せず出現した攻撃的能力を理由に、完全な重みの公開を約8月28日