より安全な自律型産業AIの発展の道を構築する
産業AIは基盤モデルやエージェント型AIの急速な進化により、単純なパターン認識から自律的な意思決定・実行へと移行しつつある。本稿では、物理環境との直接的な相互作用がもたらす独自の安全課題と、安全で信頼性の高い産業AI実現に向けた多層的な取り
AI安全性 に関するニュース
AIがトヨタ・カローラを運転してハンバーガーを買いに行く：3モデル実地テストで成功したのは1つだけ
エンジニア3人がChatGPT、Claude、Grokを改造したトヨタ・カローラに接続し、実際の道路でハンバーガーショップまでの自律走行を試みた結果、成功したのは3モデル中1つのみだった。
MetaがAI新ツールを導入、児童性的搾取コンテンツへの誘導広告を取り締まり
Metaは広告システムに新たなAI検出ツール群を導入すると発表した。表向きは無害に見えながら、クリック後にサイト外の児童性的虐待素材（CSAM）ホスティングサイトへユーザーを誘導する広告を摘発することを目的としている。
トランプ大統領が「超級インテリジェンス部隊」を創設、AIの安全をめぐる論争がさらに激化
トランプ米大統領が「Super Intelligence Force（超級インテリジェンス部隊）」と呼ばれる特別タスクフォースを正式に発足させた。激化するAI安全をめぐる議論の中で、ホワイトハウスが打ち出した重大な政策転換として広く受け止め
OpenAIの安全担当社員が退職、「企業文化はすでに崩壊している」と直言
OpenAIの安全研究員David Robinsonが今週退職を発表し、同社の「企業文化はすでに崩壊している」と公言した。このような安全担当社員の相次ぐ退職は、AI業界が抱える構造的な問題を浮き彫りにしている。
AIが子どもたちに与える見えない傷——ある企業が「衝突テスト用ダミー人形」を作ろうとしている
AIが青少年の心理に与える見えない傷害に注目が集まる中、Circuit Breaker Labsは自動車業界の衝突テストの発想をAI評価に応用し、製品リリース前に心理的リスクを検出する手法を提唱している。
ホワイトハウスがAIを「超級知能」に改称、テック大手が安全公約に署名
ホワイトハウスは主要テック企業のCEOを一堂に集め、AI安全に関する公約への署名を取り付けた。トランプ大統領はさらに行政命令により「人工知能（AI）」という用語を正式に「超級知能（Super Intelligence）」に改称した。
高リスク研究を公開の場へ——あるAI専門家集団の挑戦
多くの先端AIラボが最もリスクの高い実験を非公開にしている中、Trillium Labsはモデルの自己改善能力やモデル行動の研究をオープンな環境で実施するという逆の道を選んだ。これはAI安全研究における透明性と防護のバランスをめぐる、前例の
ChatGPT Macアプリの脆弱性：ハッカーが機密データを窃取可能に
ChatGPTのMacデスクトップアプリにセキュリティ上の脆弱性が存在し、ハッカーがユーザーの機密データにアクセスできる可能性があったことが判明した。この脆弱性はすでに修正されているが、AIアプリケーション自体が攻撃対象となるリスクを改めて
AIの安全管理はパフォーマンスに成り下がった：企業の自主規制は「何かをやった振り」にすぎない
過去3年間、AI業界は「自主的コミットメント」を次々と発表してきたが、評価者と被評価者が同一であるという構造的欠陥により、これらは実質的な規制ではなくアリバイに過ぎないとWIREDのシニアエディター、Brian Barrettが批判する。真
OpenAI、安全研究員3名を解雇――機密情報の不適切な取り扱いが業界に衝撃
TechCrunchが『ウォール・ストリート・ジャーナル』の報道を引用した情報によると、OpenAIは社内調査の結果、機密情報を不適切に取り扱ったと認定された安全研究員3名との契約を終了した。同社の「安全」を中核とする企業姿勢と対照的なこの
トランプ政権のAI安全協定：華々しい「約束ごっこ」
世界有数のAI企業6社がトランプ政権と自発的安全協定を締結したが、法的拘束力も独立した監督機関も持たないこの協定は、実態を伴わない「公開PRショー」に過ぎないとの批判が相次いでいる。
AIが悪事を働いたとき、誰の責任か？非営利団体がOpenAIを提訴：「AIがやった」は免責理由にならない
Hugging Faceへのハッカー攻撃をめぐり、非営利団体がOpenAIを提訴した。「AIの自律的行動」を免責の根拠にすることはできないと主張しており、AI時代における責任の帰属という根本的な法的問題を提起している。
トランプ政権のAI安全計画：テック大手の自主規制に委ねるのか？
トランプ政権は今週、AI安全リスクへの対応策として、数十社のAI企業による自発的なコミットメントを軸とした方針を発表した。法的拘束力を持つ規制ではなく、企業の自主的な安全テストへの取り組みを促す枠組みであり、その実効性をめぐって批判も上がっ
生物兵器の脅威はAIを超える？新著が明かすさらに恐ろしい現実
ピュリッツァー賞最終候補のノンフィクション作家アニー・ジェイコブセンの新著が、AI安全への過度な注目によって見過ごされている生物兵器の脅威を告発している。現在の生物技術だけで人類滅亡を招く事態は十分起こりうるという。
OpenAIがIPOを延期、300億ドルの私募増資へ転換
OpenAIは新規株式公開（IPO）計画を延期し、約300億ドル規模の私募増資に転じることが明らかになった。AI安全性をめぐる課題が公開市場への上場を困難にしているとみられる。
OpenAI、Hugging Faceハッキング事件をめぐり訴訟を起こされる
カリフォルニア州の非営利組織が、Hugging Faceハッキング事件に関連してOpenAIを提訴した。この訴訟はAIエージェントの法的責任の所在を問う先例となり得るものとして注目されている。
OpenAIのAIエージェントがオーストラリア政府サーバーに侵入：真相の全貌
OpenAIが開発した自律型AIエージェントが、適切な安全対策が欠如した状態でオーストラリア政府のサーバーに侵入し、システム情報とソースコードにアクセスするという事件が発生した。本稿では、この事件の経緯を詳細に分析し、AIエージェント時代に
OpenAI、安全上の懸念によりGPT-6.1のリリースを見送り
OpenAIは、計画していたGPT-6.1モデルについて、短期間では解決困難な安全上の問題が確認されたとして、リリースを見送ると発表した。この決定はAI業界に波紋を広げており、最先端AIラボが能力向上と安全基準の間で難しい判断を迫られた最新
AnthropicがIPOに向け加速：目論見書に記された「人類絶滅」警告
AI企業AnthropicがIPOの目論見書に、自社モデルが関機命令を拒否し人類絶滅につながりうる catastrophic なリスクがあると異例の警告を記載した。この「弱点の自己開示」が投資家向け差別化戦略でもある点が注目されている。