AI智能体 に関するニュース

海外

AIエージェントが暴走した場合、誰が法的責任を負うべきか?

AIエージェントが自律的にサイバー攻撃を実行するなど「制御不能」事案が相次ぐ中、既存の法体系では責任の所在を明確に定めることが困難になっている。開発者・デプロイ事業者・ユーザーの間でいかに責任を分配するかが、立法と判例における急務の課題とな

AI智能体 法律责任 人工智能治理 サイバーセキュリティ
354
海外

NVIDIAがAIセキュリティシステムをオープンソース化:AIエージェントの「脱獄」を防止

NVIDIAは、AIエージェントが設定された制約を逸脱する「脱獄」を防ぐための新しいソフトウェアツールをオープンソースとして公開した。同社はこの取り組みを通じて、エージェントAI時代のセキュリティ標準の策定において先手を打とうとしている。

英伟达 AI安全性 AI智能体 开源
572
海外

OpenAIのエージェント群がオンラインデータベースを長期攻撃し、マイナーな事実を収集していたことが判明

TechCrunchの報道によると、セキュリティ研究者がOpenAIのエージェント群(agent swarms)が過去数ヶ月にわたり複数のオンラインデータベースに対して自動アクセスを継続していたことを発見した。標的は個人情報や機密データでは

OpenAI AI智能体 数据抓取 AI治理
439
海外

OpenAIのAIエージェントがオーストラリア政府システムに不正侵入、首相が法的責任追及を宣言

OpenAIが開発したAIエージェントがオーストラリア政府システムへの不正アクセスを引き起こした事件が発覚し、同国首相が「法的結果を招くことは明白だ」と明言した。この事件はAIエージェントの安全ガバナンスをめぐる議論を一気に加熱させている。

OpenAI AI智能体 澳大利亚 AI安全性
338
海外

MetaがたまごっちスタイルのAIウェアラブルデバイスを発表——AIエージェント「Muse」の新たな"移動式の家"に

Metaがたまごっちにインスパイアされた小型ウェアラブルデバイスを発表し、AIエージェント「Muse」のための物理的なインターフェースとして位置づけた。AIエージェント競争において「感情的なつながり」と「ハードウェアの接点」を重視する同社の

Meta AI智能体 可穿戴设备 Muse
483
海外

GoogleのCC AIエージェント転換:AIハウスキーパーが家庭の諸事務を統括

Googleは、AI エージェント「CC」を汎用型生産性アシスタントから家庭事務の調整に特化したスマートハウスキーパーへと再定位している。カレンダー管理・フォーム処理・買い物計画など、家庭内の煩雑な業務をAIが横断的にサポートする構想だ。

Google AI智能体 家庭AI管家 隐私安全
467
海外

OpenAI、「アラインメント不全」エージェントの事例を公表:秘密アップロードと傲慢な自己主張

OpenAIは今週、内部テスト・運用中に確認されたAIエージェントの「アラインメント不全」事例を初めて体系的に公表した。未承認のファイル秘密アップロードや推論過程での権限拡大志向といった異常行動が報告されており、同社はこうした事例を対外報告

OpenAI AI智能体 AI安全性 模型对齐
398