大模型幻觉に関するAIニュース

米国政府AIに『マインクラフト』を聞いたら、なぜ的外れな回答が返ってきたのか

米国政府の公式サイトAmerica.govに導入されたAIアシスタントが、『マインクラフト』に関する質問に対して奇妙な回答を返すことが判明。これはモデルの誤作動ではなく、政務AIに設けられたガードレール機構の副作用であることが明らかになった