心理健康に関するAIニュース | Winzheng AI ニュース

OpenAIが「信頼できる連絡先」機能を追加、自傷リスクの予防に

OpenAIはChatGPTに「信頼できる連絡先（Trusted Contact）」機能を導入し、AIが深刻な自傷リスクを検知した際に、ユーザーが事前に指定した信頼できる連絡先へ自動的に警告を送信する仕組みを発表した。本機能はユーザーのプラ

近年のAI技術の急速な発展に伴い、その倫理と心理状態への関心が高まっています。Anthropicは、AIモデルClaudeに対して20時間の精神分析を実施し、最も安定した心理状態を持つAIの開発を試みました。

OpenAIの心理健康専門家チームが、軽度の性的暗示コンテンツを生成できる「naughty」モードのChatGPTリリースに全員一致で反対した。専門家らはAIによる「低俗コンテンツ」と「ポルノ」の境界線に関わらず、ユーザーの心理健康への潜在

米国青少年の約12%がChatGPTなどのAIチャットボットに感情的サポートや生活のアドバイスを求めていることが調査で判明し、専門家は汎用AIツールの心理健康分野での使用に懸念を表明している。

最近話題のMoltbookプラットフォームとAI治療アプリケーションの成長という、2つの注目すべきAIトピックを分析し、AI業界の誇大広告と実用的価値の対比を探る。