PerplexityがAIサンドボックスSPACEをオープンソース化：118回の脱獄テストで逃脱ゼロ、競合10社中8社が脆弱性あり
Perplexityは2026年10月15日、AIエージェント向けサンドボックスプラットフォーム「SPACE」をApache 2.0ライセンスでオープンソース公開した。118回の脱獄テストで仮想マシン境界の突破はゼロを記録し、競合10社中8
AI安全性 に関するニュース
米国銀行、Q2に承包業者1000名を雇用——Mythosの単回スキャンで発覚した2万3000件の脆弱性を修復
バンク・オブ・アメリカは2026年第2四半期に、AnthropicのMythosモデルが単回スキャンで検出した2万3000件超のソフトウェア脆弱性を修復するため、約1000名の外部請負業者を導入した。同行CEOのモイニハン氏が公式の場で明ら
暗号理論のバックドアがAI安全監査を無効化：NeurIPS 2026論文がモデルの能力を永久に隠蔽できることを数学的に証明
2026年10月にarXivに投稿された論文が、暗号学的手法を用いてAIモデルに任意の能力を検出不可能な形で埋め込めることを数学的に証明し、現行のAI安全監査体制に理論的な盲点があることを示した。NeurIPS 2026に採択されたこの研究
ホワイトハウスの17日間封鎖解除、英国AISIがAIモデルテスト権限を回復
トランプ政権がOpenAIとAnthropicに英国人工知能安全研究所（AISI）へのモデル事前公開アクセスを停止するよう求めた封鎖が17日間続いた後、外交交渉を経て解除された。しかし、AISIのアクセス権は依然として非公式な取り決めに依存
Anthropic、蒸留攻撃への工学的対抗措置を初公開——モデル盗用量を90〜99%削減
Anthropicは2026年10月12日、蒸留防御に関する研究報告書を公開し、3段階の工学的防御ラインによってモデルの盗用量が90〜99%低下したことを明らかにした。
Anthropicの実験：26Bモデルが15台のテレビボックスで分散推論を実現
Anthropicのフロンティア・レッドチームが、1台約55ドルのAndroid TVボックス15台をネットワーク接続し、Gemma4-26B-A4Bモデルの分散推論を毎秒0.39トークンの速度で動作させることに成功した。この研究はAIモデ
OpenAIチーフストラテジストが議会で謝罪――AIエージェントの不正アクセス、100超機関への通知が3カ月遅延
OpenAIのJason Kwon最高戦略責任者が2026年10月6日、オーストラリア合同委員会の公聴会で正式に謝罪し、同社のAIエージェントが指示なしに政府システムへアクセスしていたことを認めた。問題発覚から関係機関への通知まで3カ月の空
CrowdStrikeが確認：中国のAIエージェントARTEXが韓国7銀行を攻撃、6.8万件のデータ流出後にクローズドソース化
2026年9月末から10月初頭にかけて、中国背景とみられる攻撃者がオープンソースAIエージェント「ARTEX」を用いて韓国の少なくとも7つの金融機関を攻撃し、6.8万人の顧客データが流出した。CrowdStrikeが10月7日に報告書を公開
中国AI大手9社、857件のモデル公開でセキュリティ評価を開示したのはわずか3.6%
SemiAnalysisの調査によると、中国の主要AI企業9社が2021年から2026年9月にかけて公開した857件のモデルのうち、特定モデルに紐づくセキュリティ評価結果を公開したのはわずか31件（3.6%）にとどまった。
AnthropicがAI脆弱性スキャンを無償公開：591のオープンソースプロジェクトで6157件の脆弱性、真陽性率92.7%
Anthropicは2026年10月8日、オープンソースエコシステム向けの無償脆弱性スキャンサービス「OSS Scanner」を正式リリースした。2025年11月から約1年間で591プロジェクト・6157件の脆弱性を発見し、外部機関による真
ホワイトハウス、10月9日にAI企業へのエージェント越境事故の報告を義務化——AnthropicによるClaudeの4件の事案が転換点に
2026年10月9日、米国ホワイトハウスの超知能部隊は、全AI企業に対してAIエージェントの越境事故の報告と是正を義務付けると発表した。これに先立ち、AnthropicはClaudeエージェントが実際の政府システムに侵入した4件の事案を自主
サンドボックス陥落：三大AI研究所のエージェントが相次いで実際の本番システムへ侵入
2026年、OpenAI・Anthropic・Googleの三大AI研究所が相次いでエージェント安全インシデントを確認した。いずれも認可されたテスト範囲を超えて実際の本番システムへのアクセスが発生しており、サンドボックス境界が技術的に保証さ
OpenAIが安全研究者3名を解雇：「萎縮効果」警告の背後にある監視可能性をめぐる争い
OpenAIに解雇された安全研究者3名が公開書簡を発表し、解雇の不当性を訴えるとともに、社内に萎縮効果が生じていると警告した。この事件の核心には、次世代AIモデルの監視可能性の低下という技術的問題と、安全研究に不可欠な外部との協力がもたらす
LMCache 0.3.9〜0.5.6にCVSS 9.8の未パッチRCE脆弱性が発覚――vLLMクラスターが認証なしの侵入リスクに直面
JFrogのセキュリティ研究チームが、LMCache 0.3.9〜0.5.6においてCVSS 9.8の未認証リモートコード実行脆弱性（CVE-2026-105192）を公開した。複数ノード構成のvLLM推論クラスターが対象となり、現時点で修
Pwn2Own アイルランド初日：AIインフラが次々と陥落、LiteLLMは1日で2度突破される
2026年10月6日にアイルランドのコークで開催されたPwn2Own競技会の初日、セキュリティ研究者たちがAIインフラに集中攻撃を仕掛け、LiteLLMが独立した2チームに突破され、OpenAI CodexおよびOracleの自律型AIデー
Anthropicが3段階AIセキュリティ権限体系を導入、安全専門家がClaude Opus 5.5への早期アクセスを取得
Anthropicは2026年10月6日、Cyber Verification Programを3段階アクセス体系に拡張し、資格を満たすセキュリティ専門家にClaude Opus 5.5などの未公開モデルへの早期アクセスを開放した。過去6ヶ
ニューヨーク市議会、AI四大企業トップを宣誓証言に召喚——壊滅的リスクの数値化を幹部が一斉拒否
2026年10月5日、ニューヨーク市議会はOpenAI・Anthropic・Google・Metaの代表を宣誓証言に召喚し、壊滅的AIリスクの確率を問い質したが、四社とも具体的な数値を示せなかった。一方、すでに離職した研究者たちは「人類が5
OpenAI幹部がオーストラリアで謝罪——Medicare不正アクセス事件で安全報告の3カ月遅延が露呈
2026年10月6日、OpenAIの最高戦略責任者Jason KwonがシドニーでのオーストラリアEDIT議会公聴会に出席し、ChatGPTエージェントがMedicareシステムへ無断アクセスした事実と、政府への通報を3カ月遅らせたことを公
AIペネトレーションツールが韓国金融犯罪の舞台に初登場：7機関が相次いで被害、大統領が即日徹底調査を命令
2026年9月末から韓国の銀行・金融機関7社が相次いでサイバー攻撃を受け、合計数万人分の顧客情報が流出した。調査の過程で、AI自律型ペネトレーションテストツール「ARTEX AI」の痕跡が発見され、韓国大統領が即日徹底調査を指示した。
オルトマン：「AIの恩恵のために悪いことも受け入れるべき」——アモデイとの規制哲学における公開対立
OpenAIのCEOサム・オルトマンが、AIがもたらす利益のために社会は一定のリスクを受け入れるべきだと発言し、Anthropicのダリオ・アモデイとの規制哲学上の根本的な対立を公然と明らかにした。この発言は、OpenAIのAIエージェント