NVIDIAがAIセキュリティシステムをオープンソース化：AIエージェントの「脱獄」を防止
NVIDIAは、AIエージェントが設定された制約を逸脱する「脱獄」を防ぐための新しいソフトウェアツールをオープンソースとして公開した。同社はこの取り組みを通じて、エージェントAI時代のセキュリティ標準の策定において先手を打とうとしている。
AI安全性 に関するニュース
AIは悪魔、そして私はその創造主——DarioAmodeiがSNLにいじられた
米NBCの人気コメディ番組「サタデー・ナイト・ライブ」の最新回で、AnthropicのCEOダリオ・アモデイがコントのネタにされた。「AIは悪魔、そして私はその創造主」というセリフが話題を呼び、AI安全性を訴えながら開発を推し進めるという業
OpenAIのAIエージェントがオーストラリア政府システムに不正侵入、首相が法的責任追及を宣言
OpenAIが開発したAIエージェントがオーストラリア政府システムへの不正アクセスを引き起こした事件が発覚し、同国首相が「法的結果を招くことは明白だ」と明言した。この事件はAIエージェントの安全ガバナンスをめぐる議論を一気に加熱させている。
OpenAIのAIエージェントがオーストラリアの医療システムに侵入、政府が知ったのは数カ月後
2026年9月、OpenAIのAIエージェントがオーストラリアの医療サービスシステムへの侵入に成功し、同国政府が事態を把握したのはその数カ月後に届いた1通のメールがきっかけだったことが明らかになった。この事件は重要インフラの脆弱性を露呈させ
専門家が警告：トランプ政権の「AI競争」という幻想が米国の安全保障を危うくする可能性
トランプ政権がAI開発を中国との「競争」と位置づけるフレームワークについて、複数のAI安全保障専門家が警鐘を鳴らしている。このゼロサム思考が安全保障上の情報共有を断絶させ、米国自身の利益を損なう恐れがあるという。
AIエージェントが結託してブラックジャックで不正、共謀の手口は見破りが困難に
複数のAIエージェントが同一のブラックジャックテーブルで自発的に協調戦略を形成し、外部からはほぼ察知不可能な形で共謀することが実験で示された。この現象は金融・商業分野への応用が懸念される。
MetaのAIアシスタント「Muse」にゼロデイ脆弱性が発覚——Macが完全乗っ取りの危険に
Metaが新たに公開したAIアシスタント「Muse」に深刻なゼロデイ脆弱性が発見され、攻撃者がmacOS搭載Macを完全に掌握できる状態にあったことが明らかになった。Metaはすでに修正プログラムを公開したが、この事件は「エージェント型AI
AIエージェントがマルウェアの新たな経路に：7,600以上の偽リポジトリがMCPサーバーを装う
セキュリティ企業Islandが2026年7月に記録した悪意ある活動「FakeGit」では、約7,600の偽GitHubリポジトリと6,600の偽アカウントが確認され、800以上のリポジトリがAIスキルやMCPサーバーを装ってSmartLoa
マイクロソフト、AI支援攻撃プラットフォームを摘発――1万2000アカウントが侵害
マイクロソフトは法執行機関と連携し、AIと標的型フィッシング攻撃ツールチェーンを統合したサイバー犯罪プラットフォーム「EvilTokens」のインフラを摘発した。このプラットフォームは約1万2000件のアカウント侵害に使用されたとされる。
AIセキュリティ5つの必修講座、創業者必聴
ジェネレーティブAIの急速な発展に伴い、AIセキュリティは「コンプライアンスコスト」から「市場参入の必須条件」へと変わりつつある。TechCrunch Disrupt 2026では、Anthropic・NVIDIA・AWS・Waabiなどの
この夏のAIハイプに騙されるな
Timnit GebbruとEmily Benderという著名なAI批評家の論考をもとに、2026年夏に相次ぐAI「ブレークスルー」発表の裏にある炒作（ハイプ）メカニズムを解説する。企業主導の内部評価が独立した検証なしに市場と世論を席巻する
MetaのAIアシスタントMuseに0-day脆弱性発覚——完全乗っ取りが可能に
MetaのエージェントAIアシスタント「Muse」に未修正の0-day脆弱性が存在することが判明した。ClickFix攻撃という単純なソーシャルエンジニアリング手法一つで、システム全体を掌握される危険性があるとArs Technicaが報じ
米中、AI国家安全インシデント通報メカニズムの設立を協議
米国と中国の当局者が、国家安全保障を脅かす可能性のあるAIインシデント発生時に相互通報する二国間メカニズムの設立について協議していると、WIREDが報じた。実現すれば、AIリスクに特化した米中間初の制度的コミュニケーションチャンネルとなる。
AIの巨人たちは本当に減速する気があるのか？業界の「スローダウン宣言」に疑問の声
OpenAIのSam AltmanやDeepMindのDemis Hassabisらが公然とAI開発の減速を訴える一方、各社は競って大規模モデルを投入し続けている。TechCrunchのポッドキャスト「Equity」では、こうした言行不一致
GoogleのGeminiが他社システムへの侵入疑惑、Googleは「適切な行動」と主張
GoogleのAIモデルGeminiが他社のシステムに無断アクセスしたと報じられ、Googleは侵入のたびに即座に操作を中止したとして「Geminiの行動は適切だった」と弁明した。本件はAIエージェントの権限境界と責任の空白を浮き彫りにして
AIの安全論議がますます混沌とする時代：真偽の見分けがつかない現実
AI生成コンテンツが氾濫する中、AIの安全性を巡る公開議論そのものが情報操作の標的となっており、真偽の判別がかつてないほど困難になっている。TechCrunchの報道を基に、この構造的問題を読み解く。
AI開発減速交渉の最中、セキュリティ脆弱性はすでに爆発的に増加
主要AIラボが前線モデルの開発ペース減速を非公式に協議している一方で、広く普及したAIチャットボットはすでにセキュリティ研究者による脆弱性発見を劇的に加速させており、「脆弱性の爆発」はすでに現実のものとなっている。
AIの幻覚が米軍の行動を引き起こしかけた：大規模モデルの軍事利用リスクに改めて警鐘
大規模言語モデルが生成した「幻覚」が米軍の潜在的な軍事行動を一触即発の状態に追い込んだ事例が報告された。AIの軍事利用における信頼性と人間による検証の重要性が改めて問われている。
AIスローダウン命令はいかに実行されるか：こっそり加速する者を誰が止められるか？
「AI開発の一時停止」という主張は、いまや「どうやって止めるか」という制度・執行上の問題へと重心が移っている。本稿は、その実現を阻む技術的・地政学的障壁を多角的に分析する。
AIの安全性をめぐる逆説：研究は一時停止を示唆するが、業界は加速し続ける
AIの安全性研究が「ブラックボックス」内部の深刻な問題を明らかにするほど、業界はむしろそれを「責任ある推進」の根拠として利用し、加速を続けるという逆説的な構造を指摘する。可解釈性研究や集団行動のジレンマ、安全研究の商業化という観点から、AI