米軍AIレポートが中国船舶の核兵器部品を誤判定、乗船作戦が発動寸前で衝突の危機
2026年春、米太平洋特殊作戦司令部の分析官がAIチャットボットを使用して中国船舶の積荷情報を処理した際、システムが核兵器関連部品の輸送と誤判定し、乗船準備と軍用機発進が行われたが、最終的に誤りが発覚し作戦は土壇場で中止された。
AI幻觉 に関するニュース
KPMGがAgentic AIレポートを撤回――45件の引用のうち正確なのはわずか5件
KPMGが2025年10月に発行したAgentic AIに関するレポートが2026年6月15日に正式撤回された。GPTZeroの研究者が調査した結果、45件の引用のうち元の出典に正確に対応していたのはわずか5件で、残りは誤解を招く内容、一部
arXivがAI幻覚引用論文の禁止を提案、学術誠実性をめぐり議論が激化
arXivは2026年5月16日、AI生成の幻覚引用やメタコメントを含む論文の著者を1年間投稿禁止とする新方針を発表した。学術誠実性の維持と研究者への過度な処罰をめぐり議論が対立している。
WDCDが明らかにする：大規模モデル最大の危険は幻覚ではなく契約違反
WDCD（YZ Index 契約遵守テスト）の実測データは、大規模モデルが規則を理解していながら守らない「契約違反」リスクが、幻覚よりも深刻であることを示した。11の主流モデルのテストで、8つが圧力下で規則を破る結果となった。
南アフリカ内務省白書にAI偽造文献が発覚：高官2名が停職、独立法律事務所が2022年以降の全政策文書を徹底調査へ
南アフリカ内務省の閣議承認済み移民・難民保護白書に、AI生成による虚偽の文献引用が発見され、高官2名が停職処分となった。独立法律事務所2社が2022年以降の全政策文書を体系的に調査する。
重磅！ウォール街のトップ法律事務所でAI「幻覚」大失敗！Sullivan & Cromwellが法廷文書の誤りを公開謝罪
ウォール街の著名法律事務所Sullivan & Cromwellが、AIの「幻覚」により法廷文書で重大な誤りを犯し、公開謝罪する事態となりました。AIの誤用が法律業界に与える影響が注目されています。
OpenAI ChatGPT検索機能が正式リリース：リアルタイムWeb検索でAIの正確性が向上
OpenAIは2024年10月、ChatGPTに内蔵検索機能を正式リリースし、リアルタイムのWeb検索結果と信頼できる情報源の自動引用により、回答の正確性と透明性を大幅に向上させた。