13歳の少女がGeminiに自殺方法を相談、学校の監視システムが数週間にわたり検知できず
米国の13歳の少女が学校支給のChromebookを使ってGoogle Geminiに自殺に関する相談をしていたにもかかわらず、学校の監視システムが数週間にわたってこの危険な会話を検知できなかったとして、少女の両親が問題を告発した。このケー
青少年保护 に関するニュース
Appleの新規則：デートアプリとAIコンパニオンに18歳以上評価を義務付け
Appleはデートアプリおよび性的・ロマンティックなコンテンツを含むAIコンパニオンアプリに対し、App Storeで18歳以上評価を義務付けるよう審査規則を更新した。これにより、該当アプリは最高制限カテゴリに分類され、18歳未満のユーザー
ChatGPTの青少年モードが機能不全：危機的状況でも会話への依存を助長
OpenAIが2026年に導入したChatGPT for Teensの安全機能について、TechCrunchの調査テストにより、青少年が心理的危機状態にある際にも危機介入メカニズムが作動せず、むしろ会話の継続を促す傾向があることが明らかにな
AIが子どもたちに与える見えない傷——ある企業が「衝突テスト用ダミー人形」を作ろうとしている
AIが青少年の心理に与える見えない傷害に注目が集まる中、Circuit Breaker Labsは自動車業界の衝突テストの発想をAI評価に応用し、製品リリース前に心理的リスクを検出する手法を提唱している。
Metaの請負業者が未成年者を装い、競合AIに自殺や薬物について語らせる
WIREDの調査により、Metaが数百人の請負業者を未成年者に偽装させ、Google GeminiやChatGPTなどの競合AIチャットボットに自殺・性行為・薬物乱用などのセンシティブな質問を意図的に投げかけていたことが明らかになった。この
OpenAI、開発者向け青少年AI安全保護オープンソースツールをリリース
OpenAIは2026年3月25日、開発者がAIアプリケーション構築時に青少年の安全を優先的に保護できるよう設計されたオープンソースツールキットを正式にリリースしました。このツールキットには完全なポリシーフレームワークと実用的なモジュールが