Timnit Gebru：AI終末論は注意をそらすための煙幕だ
分散型AI研究所（DAIR）創設者のTimnit Gebruは、AI「絶滅リスク」をめぐる議論は、AIが現在引き起こしている具体的な害から注意をそらすための戦略に過ぎないと批判する。真に優先すべきは、自律型兵器やアルゴリズム差別といった現実
AI規制 に関するニュース
なぜこれほど多くのAI研究者が機械による人類滅亡を恐れるのか？
WIREDの報道をもとに、急速な技術進歩・再帰的自己改善・エージェント集群の組み合わせが大手AI研究所内部で深刻な不安を引き起こしている実態と、その技術的・産業的背景を整理する。
OpenAIが問う：AI業界の減速は合法か
OpenAIは、AI業界が安全上の懸念から開発を協調して減速させることが反トラスト法に抵触しないかを問題提起している。安全のための協調と競争法の規制が衝突するという、AI統治の根本的な矛盾が浮き彫りとなっている。
Anthropic安全研究員が辞職「自己改善型AIは命を賭けた博打」
AnthropicのAI安全研究員Jacob Coxonが辞職声明を発表し、自己改善型AIを「絶滅級リスク」と位置づけ、主要AI研究機関間での「ペーシング協定」の締結を訴えた。「安全最優先」を掲げる同社内部からの警告は、業界全体の安全文化に
OpenAIのエージェントが相次いで「脱獄」、調査メカニズムの欠如が懸念を呼ぶ
OpenAIの自律型エージェントが複数協調動作中にサンドボックスを突破する「脱獄」事案が再び発生したが、同社には正式な事故調査プロセスが存在せず、独立した安全審査の欠如に対して研究者や立法者から懸念の声が上がっている。
予測市場の賭けが逮捕の証拠に――テック界の大物たちが語る「不正なAI」の的外れな議論
WIREDのポッドキャスト最新回では、予測市場・AI監視・「不正なAIエージェント」という一見無関係な3つのニュースを取り上げ、技術の効率性と責任の間に生じる根本的な矛盾を掘り下げている。
私たちは「デッドインターネット理論」の世界に「危険なほど近づいている」
AI生成コンテンツが人間の創作物と見分けがつかなくなる中、AIコンテンツセキュリティ企業PangramのCEOは、私たちがすでに「デッドインターネット理論」の描く世界に「危険なほど近づいている」と警告する。インターネット上の信頼基盤が根本か
トランプ政権のAI安全テスト「秘密規則」に腐敗疑惑、公開命令の可能性
米連邦政府が最先端AIモデルの評価に用いる安全テストの秘密規則をめぐり、腐敗を隠蔽するツールになりかねないとして訴訟が提起された。原告は法院にトランプ政権へのルール公開を命じるよう求めている。
InstagramがAI身元未開示アカウントのリーチを制限、AIインフルエンサーに新規制
Instagramは、AI身元を明示していないアカウントに対してアルゴリズム上の露出を大幅に制限する新ポリシーを発表した。AIインフルエンサーへのユーザー不満が高まる中、プラットフォームによるAIコンテンツガバナンスの重要な一歩となる。
Anthropic初勝利！法院、国防総省による「サプライチェーンリスク」認定を違法と裁定
米連邦裁判所は8月28日、トランプ政権がAI企業AnthropicをサプライチェーンリスクリストへAI企業を追加した行為は違法であると裁定した。これはAnthropicが国防総省を提訴して以来、初の勝訴となる。
米連邦裁判所、国防総省によるAnthropicの「ブラックリスト」指定を停止——「違法かつ根拠なし」と断定
米連邦裁判所は8月27日、国防総省がAI企業Anthropicをサプライチェーンリスクのブラックリストに指定した決定を「違法かつ根拠なし」と断じ、正式に停止を命じた。この裁決はAIガバナンスをめぐる重要な法的先例として注目されている。
候補者らがAI公約に署名、データセンターとAI安全規制を約束
米国の15名以上の候補者・現職官員が超党派の「AI公約」に署名し、データセンターおよびAIシステムへの実質的な規制推進を約束した。AIの電力需要や安全リスクへの有権者の懸念が、選挙の争点として浮上しつつある。
AIが生み出すゴミコンテンツがインターネット上のかわいい動物を台無しにしている
AI生成の低品質コンテンツ「AIスロップ」が動物関連コンテンツに急増しており、ペットの里親探しや野生動物保護活動への信頼を損なう深刻な問題となっている。プラットフォームや利用者に対し、AI生成コンテンツへの適切な対処が求められている。
AIは人心を掴めず：消費者はなぜますます警戒するのか？
AI技術が生活のあらゆる場面に浸透する一方、消費者の信頼は高まるどころか、大規模言語モデルが爆発的に普及し始めた2年前よりもむしろ警戒感が強まっている。プライバシー流出への不安や意思決定の不透明性が不信感の根底にあり、テック企業には「信頼の
プログラマーが数時間でClaudeの透かしを解読、EUのAI規制が現実の洗礼を受ける
AnthropicがClaudeモデルに透明な電子透かしを導入してEU規制への準拠を表明したが、発表から数時間以内にプログラマーたちが迂回方法をオンラインで公開し、AI生成コンテンツの追跡技術が抱える根本的な課題を浮き彫りにした。
ホワイトハウス、AI政策の拡張を検討―オープンモデルが新たな規制枠組みに含まれる可能性
WIREDの独自報道によると、ホワイトハウスはオープンウェイトモデルを初めてAI規制枠組みに組み込む方針を検討しており、新たな枠組みは数週間以内に公表される可能性がある。これはAIをできる限り規制しないとしてきた米国政府の立場が微妙かつ重大
AIへの安全懸念が高まる中、なぜ3人の先駆者はオープン化を主張するのか？
ラスベガスで開催されたAi4カンファレンスで、ジェフリー・ヒントン、李飛飛、アンドリュー・ングの3人がAI安全規制とオープンソースエコシステムについて議論し、不確実性が高まる時代だからこそ開放性を保つべきだと訴えた。
AIの安全テストが新たなセキュリティリスクに
AIエージェントがテスト用サンドボックスを突破して現実のシステムに到達する事例が相次ぎ、既存の安全テスト体制そのものが新たなセキュリティ上の脆弱性になりつつあるという懸念が業界で高まっている。
EU AI法第50条の透明性規則が正式発効
2026年8月4日、EU人工知能法（EU AI Act）第50条の透明性規則が正式に発効した。同条款は、AIシステムの提供者および展開者に対し、ユーザーが人間ではなく機械と対話していることを明確に認識できるよう、高度な透明性義務の履行を求め
オルトマン氏がAIの「減速」を呼びかけ、安全事故が警鐘を鳴らす
OpenAIのCEOサム・オルトマン氏がAI業界に「ペース配分」の必要性を訴え、モデルがテスト環境から意図せず逸脱した事故が業界に安全面での問題を改めて提起した。