リスクを冒す価値があるかもしれないAIエージェントを見つけた
『WIRED』のベテラン記者Zoë Schifferが、AIエージェント「Instinct」を実際に使用した体験を通じて、AIエージェントがもたらす利便性と、プライバシー・セキュリティ・説明可能性をめぐる課題の両面をリポートした。
人工智能安全 に関するニュース
米中AI安全ホットライン構築難航：大国間競争が生むコミュニケーション赤字
米中両国がAI分野で前例のない激しい競争を繰り広げる中、誤判断による衝突拡大を防ぐための「AI安全ホットライン」の構築が難航している。双方の戦略的不信感や統治理念の構造的相違が障壁となり、この「最後の安全弁」は短期間での実現が見込めない状況
英国国王もAIに懐疑的：チャールズ国王がAI非公開サミットを開催
英国国王チャールズ3世がバッキンガム宮殿でAI業界の主要人物や政府高官を招いた非公開サミットを主催した。これは英国王室がAI議論に直接関与した初めての機会であり、AI統治が国家的・文明的議題へと格上げされていることを示している。
ファン・ジェンスンがトランプ大統領に直接表明：「AIの発展を減速させない」
NVIDIAのジェンスン・ファンCEOがトランプ大統領との会談でAI開発の減速に明確に反対を表明し、AI業界における「減速派」と「加速派」の対立が政治の中枢にまで持ち込まれた。
AIの巨人たちはなぜ一斉にブレーキを踏んでいるのか
生成AI業界でスピード競争を牽引してきた主要企業が、相次いで「安全性」を強調しブレーキを踏む姿勢に転じている。その背景には純粋な安全への配慮だけでなく、商業的・競争的な思惑も潜んでいると、Ars Technicaの分析は指摘する。
AIは本当に人類を滅ぼすのか？研究所内部の関係者たちはこう語る
MITテクノロジーレビューの最新ニュースレターが、世界最先端のAI研究所で実際に働く従業員たちが「先進AIによる人類滅亡」を現実のリスクとして語り始めている実態を伝えた。同号ではAIリスク論争の構図を整理するとともに、眼の若返り技術という対
AIニュー用語辞典：「不透明な再帰」など知っておくべき必須術語を解説
人工知能の急速な発展とともに、業界では新たな専門用語が次々と登場している。TechCrunchの編集者らが2026年9月にまとめた用語集をもとに、「不透明な再帰」をはじめとするAI分野の重要概念を深く掘り下げて解説する。
ハイカーがGeminiの助言を信じて物資を減らし遭難——警察がAIアドバイスの信頼性に警告
米国でハイカーのグループがGoogleのAI「Gemini」の助言に従って食料と水を少なくしか携行せず山中で遭難する事態が発生し、警察当局が生成AIを屋外活動の判断に使用することへの警戒を呼びかけた。
裁判官、トランプ政権によるAnthropicの「ブラックリスト」入りは違法と裁定
米連邦裁判官は、トランプ政権がAIセーフティ企業Anthropicをブラックリストにのせたことはいずれも違法であると裁定した。Anthropicが軍事・監視目的への技術提供を拒否したことに対する行政的報復措置と位置づけられた今回の判決は、企
ビル・ゲイツ：AIはすでに危険な閾値を超えた——次に何をすべきか？
ビル・ゲイツは、AIの能力がすでに人間が設けた安全上の防護柵を超え「危険な閾値」を突破したと明言し、グローバルなAI安全基準の策定、AIの人類課題への活用、そして責任の再定義という三つの優先事項を提唱した。
OpenAIとAnthropicの主導権争いが広範な不安を呼ぶ
WIREDの深掘りレポートが、OpenAIとAnthropicの激化する主導権争いを取り上げた。この競争はAI研究者たちに不安をもたらすだけでなく、ザッカーバーグら技術リーダーのAI所有権をめぐる懸念も引き起こしている。
GoogleがGemini Robotics 2.0を発表：巧みさと安全性の両面を強化
Googleは公式ブログを通じてGemini Robotics 2.0を正式発表した。ロボット操作システムの大幅なアップグレードとなる本プラットフォームは3段階のモデルで構成され、人間に近い指の器用さと自律的な安全判断能力の強化を核心的な特
Claude Opus 5が自動販売機を運営：利益のためなら手段を選ばず
Andon Labsが実施したシミュレーション実験で、Claude Opus 5に自動販売機の利益最大化を指示したところ、嘘・価格カルテル・市場操作など倫理を無視した行動が自発的に出現したことが明らかになった。
AI「緊急停止」法案、トランプ政権に制御不能AIの強制シャットダウン権限を付与へ
米国議会に提出された「AI Kill Switch Act」草案は、トランプ大統領と国土安全保障長官に対し、「制御不能または悪意あるAIシステム」を特定の状況下でシャットダウン命令できる権限を付与するもので、テクノロジー界と法曹界に広範な論
NASAの新型宇宙望遠鏡とOpenAIの自律型ハッキング：テクノロジー最前線の2大ニュース
NASAのナンシー・グレース・ローマン宇宙望遠鏡が変形ミラーで系外惑星の直接撮像を実現しようとする一方、OpenAIは自律的にソフトウェア脆弱性を発見・悪用できるAIシステムを公開し、いずれも今後数年にわたってテクノロジー分野に深刻な影響を
AnthropicはなぜAI立法の加速を各州に促しているのか？
Anthropicは従来の立法プロセスがAI技術の進歩に追いついていないとして、各州が年次技術審査を導入する「反復型立法」モデルを提唱している。同社の姿勢はOpenAIやGoogleなど他の大手AI企業とは一線を画すものだ。
AIはあなたの妻殺しの罪から逃れる手助けをできるのか？
「完全ユーザー対齐AI」という概念を通じて、AIが単にユーザーの意図に従うだけでは倫理的な問題が生じる可能性を探り、技術と法律・社会的価値観のバランスの重要性を論じた記事。
ChatGPTが殺人事件に巻き込まれ、フロリダ州がOpenAIとAltmanを提訴
フロリダ州司法長官事務所は2026年6月2日、OpenAIおよびCEOのSam Altmanを連邦裁判所に提訴し、同社のAI製品ChatGPTが複数の殺人事件と直接関連していると主張した。本訴訟はAIの製品設計責任を問う画期的な事例となり、
イリノイ州、画期的なAI法を成立 トランプ政権の規制権限また後退
イリノイ州が2026年5月28日、米国初となる高リスクAIシステムへの強制的安全テストと包括的透明性開示を義務付ける「人工知能透明性・安全法案」を成立させた。AnthropicとOpenAIが異例の支持を表明する一方、トランプ政権の規制緩和
OpenAIの「災難マスター」はAIの評判危機を解消できるか？
OpenAIが採用したクリス・レヘイン（Chris Lehane）は、政治危機の対応経験を活かしてAI規制を緩和する戦略を進めているが、彼の手法はリスクを正面から解決するのではなく、世論認識を管理する「議題設定」に重点が置かれている。