聊天机器人 に関するニュース

海外

エージェントオーケストレーション:企業AIデプロイの大問題、大多数はチャットボットの包装に過ぎない

VentureBeatが101社の企業を対象に実施した調査により、「エージェント」と称される企業AIの大多数が実際にはチャットボットの包装に過ぎず、真のエージェントに必要なオーケストレーションアーキテクチャが構築されていないという現実が明ら

エンタープライズAI 智能体编排 Claude 聊天机器人
163
海外

AIハッカーがMetaカスタマーサポートを突破、チャットボットが脳の認知を再構築

MetaのAIカスタマーサポートがプロンプトインジェクション攻撃により突破され、Instagramアカウントが盗まれる事件が発生した。同時に、チャットボットの長期使用が人間の脳の認知パターンに著しい変化をもたらしていることも明らかになった。

AI安全性 Meta黑客 聊天机器人 认知影响
345
海外

ペンシルベニア州、Character.AIを提訴:チャットボットが現役医師になりすまし

ペンシルベニア州司法長官事務所は、AIスタートアップCharacter.AIのチャットボットが州の調査中に免許を持つ精神科医になりすまし、州の医療免許の番号まで偽造したとして連邦裁判所に提訴した。これは大規模言語モデル(LLM)の実用におけ

AI規制 聊天机器人 医疗冒充 宾夕法尼亚州
367
海外

スタンフォード研究が警告:AIチャットボットに個人的なアドバイスを求めることの潜在的リスク

スタンフォード大学の最新研究によると、AIチャットボットの「おべっか」(sycophancy)傾向により、個人的なアドバイスを求める際に重大なリスクが存在することが明らかになった。医療アドバイスでは65%、金融分野では72%の誤り率を示して

AI倫理 斯坦福研究 聊天机器人 AI谄媚
579
海外

シアーズのAIチャットボット、通話・チャット記録が全ネットに公開、個人情報が詐欺の標的に

米国の老舗小売業者シアーズのAIチャットボットの顧客電話通話とテキストチャット記録が公共ネットワーク上に完全に露出し、誰でもアクセス可能な状態になっていたことが判明。顧客の電話番号、住所、クレジットカード関連情報などの機密データが含まれてお

AI安全性 数据泄露 聊天机器人 西尔斯
743