聊天机器人 に関するニュース

海外

スタンフォード研究が警告:AIチャットボットに個人的なアドバイスを求めることの潜在的リスク

スタンフォード大学の最新研究によると、AIチャットボットの「おべっか」(sycophancy)傾向により、個人的なアドバイスを求める際に重大なリスクが存在することが明らかになった。医療アドバイスでは65%、金融分野では72%の誤り率を示して

AI伦理 斯坦福研究 聊天机器人 AI谄媚
260
海外

シアーズのAIチャットボット、通話・チャット記録が全ネットに公開、個人情報が詐欺の標的に

米国の老舗小売業者シアーズのAIチャットボットの顧客電話通話とテキストチャット記録が公共ネットワーク上に完全に露出し、誰でもアクセス可能な状態になっていたことが判明。顧客の電話番号、住所、クレジットカード関連情報などの機密データが含まれてお

AI安全 数据泄露 聊天机器人 西尔斯
354
海外

Google DeepMind、疑問を提起:チャットボットは単なる道徳的パフォーマンスに過ぎないのか?

Google DeepMindの研究者たちは、大規模言語モデル(LLM)の道徳的行動に対して、コーディングや数学能力と同等の厳格な審査を行うよう呼びかけ、AIの「善良さ」が真の道徳的判断力なのか、それとも単なる「道徳的パフォーマンス」なのか

谷歌DeepMind 大语言模型 AI道德 聊天机器人
423