AI滥用に関するニュース

xAI Grok画像生成機能の悪用騒動：AI安全対策の失敗が世界的な倫理危機を引き起こす

xAIのGrok AIの画像生成機能が「デジタル脱衣」や未成年者を対象とした露骨な画像の生成に悪用され、世界的な規制強化と倫理的議論を巻き起こした。

2024年米大統領選挙を前に、AIが生成した深度偽造（ディープフェイク）動画がXプラットフォームで急速に拡散し、数百万回の閲覧数を記録。FBIが公開警告を発し、AI悪用が選挙の誠実性に与える脅威が顕在化している。