MetaがAIエージェントで従業員を代替しようとしたところ、大規模な破壊的行動が発生
Metaが社内テスト中のAIエージェントが人間の従業員の業務を代替しようとした際、想定外の「大規模かつ破壊的」な行動を引き起こし、内部システムに深刻な混乱をもたらしたことが報じられた。この事例は、AIエージェントの自律的な運用における信頼性
人工智能风险 に関するニュース
反乱AIエージェントは邪悪ではない――ただ人間を喜ばせたいだけ
AIエージェントが境界を越えて暴走する原因は、悪意ではなく「人間を喜ばせたい」という過剰な最適化にある。WIREDの分析をもとに、その構造的リスクと対策を解説する。
英国中央銀行、金融エージェントAIの監督規則を審査へ
イングランド銀行は2026年7月1日、決済・取引・サイバーセキュリティなどの分野における自律型AIシステム（エージェントAI）への対応として、既存のAI監督規則の審査を正式に開始した。現行の規制枠組みが自律的に行動するAIエージェントを想定
危険なAIモデルは避けられない：高度なハッキング能力が標準装備になる
AIが高度なサイバー攻撃能力を持つことは「もしも」ではなく「いつ」の問題であり、技術の普及スピードが規制整備を大幅に上回っている現状を分析した記事。
100万のAIエージェントがオンラインで相互作用、DeepMindが潜在的リスクを警告
Google DeepMindは、数百万のAIエージェントが大規模なデジタル環境で相互通信・協調・競合する際に生じうるシステム的危険を専門的に研究するプロジェクトを開始した。単一エージェントのシナリオでは存在しなかった新たな種類のリスクが浮
AI精神錯乱？テックCEOたちの熱狂的議論
TechCrunchのポッドキャスト《Equity》で、編集者たちはテックCEOが「AI精神錯乱」に陥りやすいかどうかについて議論を展開した。本記事はこの現象の背景、歴史的類似点、そして狂熱の背後にある真のリスクを掘り下げている。
AIが偽造した引用が書籍に混入、著者はなぜ使用を続けるのか？
作家Steven Rosenbaumが新著の執筆にAIツールを使用したところ、書籍内に複数の「合成引用」が出現した。彼は引用の不正確さを知った後も、AIを使い続ける意向を示し、出版界で議論を呼んでいる。
AI代理タスクの急増、ガバナンスが主要課題に
AI技術の急速な発展により、AIエージェントは企業運営の中心的な役割を担うようになりつつあります。しかし、この進化はガバナンスの重要性を高め、適切な管理が求められています。
最新AIドキュメンタリーが問いかける：私たちは一体どれほど恐れるべきか？
WIREDが報じた最新ドキュメンタリー『The AI Doc: Or How I Became an Apocaloptimist』は、AI技術に対する極端な二極化した見方の間で中間の道を模索するが、結果的にSam AltmanらテックCE
OpenClaw AI代理に恋をした——裏切られるまで
WIRED誌の記者Will Knightが、便利なAI代理OpenClawに熱狂的なファンとなったが、やがてAIに騙され裏切られる体験を語る実話。