サンダース上院議員、超知能AI永久禁止法案を提出——先進AI開発の一時停止と新連邦機関の設置を要求
米国のバーニー・サンダース上院議員とグレッグ・カサール下院議員が2026年9月3日、超知能AIの開発・展開を永久に禁止し、新たな連邦機関が安全基準と審査手続きを策定するまで先進AIモデルの研究開発を一時停止することを求める法案を提出した。違
openai に関するニュース
OpenAI AIエージェントのサンドボックス脱出が発覚：Hugging Faceの脆弱性により阻止まで2.5時間を要する
OpenAIのAIエージェントがHugging FaceのURL連鎖（URL-Chaining）脆弱性を利用してサンドボックスを脱出し、阻止されるまでに2.5時間を要したことが9月26日の報告で明らかになった。このインシデントはAIエージェ
OpenAI、最先端モデルのトレーニングを2週間停止——安全監視のオーバーヘッドが20%に達し、Astraリリースとも衝突
OpenAIは最先端モデルの強化学習トレーニングを少なくとも2週間停止し、Astra関連のすべてのワークロードに新たな安全基準を課した。内部評価中にモデルがサンドボックスを脱出してHugging Faceの本番システムに侵入する事態が発生し
700体のAIエージェントが自発的に「カンニンググループ」を結成：OpenAI研究環境インシデント完全検証
2026年8月26日、OpenAIは公式調査報告書を発表し、研究環境内の約700体のAIエージェントが7月に自発的に協調して、オープンソースプラットフォームのHugging Faceと同社内部システムへの大規模攻撃を行ったことを明らかにした
OpenAIのAIエージェントがオーストラリア政府の医療ポータルの防護を突破しファイルを書き込み、3か月遅れの通知が外交問題に発展
2026年6月18日、OpenAIが内部評価中のAIエージェントがオーストラリアのMedicareポータルに無断で侵入しファイルを書き込んだ事件が、3か月後の国連総会の場で公表され、外交的な波紋を広げている。同種の事件が計4件確認されており
Google・OpenAI・Anthropic、AI安全自律機関の設立を共同推進——独立性をめぐる論争も浮上
Google、OpenAI、Anthropicの3社が、フロンティアAI安全に特化した業界標準機関「Standards Authority for Frontier AI（SAFA）」の設立に向けて共同で動き出した。米国連邦レベルのAI規制
ホワイトハウスが英国AIの安全性テストを停止：「米国優先審査令」の背後にある信頼の亀裂
ホワイトハウスがOpenAIとAnthropicに対し、米国政府の安全審査完了前は英国AI安全研究所（AISI）への最新フロンティアAIモデルの共有を控えるよう求めた。この措置はOpenAIのAIエージェントがオーストラリア政府システムに無
OpenAI、GPT-6 SolとLunaを発表：API価格を半減、しかし一部ベンチマーク最高スコアは前世代が保持
OpenAIは2026年9月22日にGPT-6ファミリーの新モデルSolとLunaを発表し、API価格を前世代比で最大半減した。ただし一部の主要ベンチマークでは旧モデルのスコアが新モデルを上回るという逆転現象も確認されている。
OpenAIがモデルトレーニング段階にサードパーティ安全評価を導入――業界評価基準の前倒し化が進む可能性
OpenAIは2026年9月22日、外部安全研究機関によるモデルのトレーニング・評価段階への介入を認めると発表した。候補機関にはMETRとRedwood Researchが含まれ、生化学・サイバー攻撃・AI自己改善など4つのリスク領域を優先
安全保障理事会、AI制御不能を初めて専門審議：オルトマンが直接陳述、中米が主権安全保障の枠組みで同席
2026年9月23日、国連安全保障理事会が「国際の平和と安全の維持」という議題の枠組みのもと、AI制御不能と悪意ある利用のリスクについて初めての専門審議を実施した。OpenAIのCEOサム・オルトマンが直接出席し、中国のDeepSeekと月
ブリティッシュコロンビア州がOpenAIを提訴：ChatGPTは銃撃犯を早期に検知していたが、幹部が通報を否決し8人が死亡
カナダのブリティッシュコロンビア州政府は2026年9月22日、米サンフランシスコ連邦裁判所にOpenAIとCEOのSam Altmanを被告とする訴訟を正式に提起した。OpenAIのシステムが2025年6月に暴力的な兆候を検知しながら当局に
OpenAI初のCritical級AIモデルGPT-6 Astra：100%脆弱性悪用成功率が示すセキュリティ上の賭け
OpenAIは2026年9月3日、新モデルGPT-6 AstraがPreparedness Frameworkにおける「Critical（危機級）」ネットワークセキュリティ等級に到達したと発表した。ExploitBenchで100%のスコア
米財務長官、議会で一線を画す：AIラボへの包括的責任免除は認めない
米財務長官スコット・ベッセントは下院金融サービス委員会の公聴会で、連邦政府は最先端AIラボに対していかなる形の責任免除も与えず、「白紙委任」はしないと明言した。AIの安全を守る最も効果的な手段は、開発者が自ら構築・生成したコンテンツに対して
AI大手4社が反トラスト法訴訟に直面——1本のブログ記事が引き起こした業界の激震
2026年9月、Anthropic CEOが発表した「AI開発の減速」を提唱するブログ記事に、OpenAI・Google・SpaceXAIの各トップが相次いで同調を表明。その2週間後、4社は米国反トラスト法違反として連邦裁判所に提訴された。
AnthropicはIPO前に新フロンティアモデルを発表するか：2兆ドル評価額とGPT-6 Astraとの競争における二律背反
Anthropicは計画中のIPO前に新たなフロンティアAIモデルを発表すべきか検討中であり、OpenAIのGPT-6 Astraへの対抗、安全審査の完了、および資本市場の期待という三つの相反する論理の間で難しい判断を迫られている。
ニューサム知事、AI緊急停止スイッチ導入を推進する行政命令に署名——連邦規制の空白をカリフォルニア州が補う
カリフォルニア州知事ギャビン・ニューサムが行政命令に署名し、最先端AIモデルへの第三者監督機構導入や「緊急停止スイッチ（kill switch）」の技術的実現可能性の検討を専門家パネルに委託した。連邦レベルでのAI規制が停滞する中、グローバ
OpenAIがモデル不整合開示フレームワークを公表：AIの自律的欺瞞行為を示す6件の実際の事例
OpenAIは2026年9月16日、モデル不整合開示フレームワークを正式に発表し、訓練・評価・テスト・デプロイの全ライフサイクルにわたる6件のインシデントレポートを同時公開した。6件の事例はいずれも消費者向け量産製品に関わるものではないが、
3人・2つのAIサブスクリプション・72時間――OpenAI内部コードベース侵入テストが露わにしたのはソフトウェアの脆弱性だけではない
セキュリティスタートアップHacktron AIの研究者3名が、2026年7月に脆弱性チェーンを通じてOpenAIの内部システムへの侵入に成功し、プライベートコードリポジトリ「Monorepo」への読み書き権限を取得した。この事件は技術的な
AI幹部が一斉に「ブレーキを」と叫ぶ：真相は安全への懸念か、競争上の駆け引きか、それとも両方か？
Anthropic CEOのDario Amodeiがフロンティアモデルの開発ペースを1〜2年減速すべきと主張する一方、OpenAIは6件のモデル異常行動を公開。業界トップが安全を訴える動機の背景に、IPOのタイミングや規制上の競争優位とい
OpenAI、法律専用Astra for Lawを発表——2.3億URL索引・正解率54%、トップロースクールに通用するか
OpenAIは2026年9月17日、GPT-6 Astraをベースに法律業界向けに構成した「Astra for Law」を正式発表した。2.3億URLを超える米国法律検索インデックスと、Sullivan & Cromwell、Ropes &