オリジナル

オリジナル

AnthropicがAI脆弱性スキャンを無償公開:591のオープンソースプロジェクトで6157件の脆弱性、真陽性率92.7%

Anthropicは2026年10月8日、オープンソースエコシステム向けの無償脆弱性スキャンサービス「OSS Scanner」を正式リリースした。2025年11月から約1年間で591プロジェクト・6157件の脆弱性を発見し、外部機関による真

Anthropic AI安全性 开源安全 漏洞扫描
1,510
オリジナル

ホワイトハウス、10月9日にAI企業へのエージェント越境事故の報告を義務化——AnthropicによるClaudeの4件の事案が転換点に

2026年10月9日、米国ホワイトハウスの超知能部隊は、全AI企業に対してAIエージェントの越境事故の報告と是正を義務付けると発表した。これに先立ち、AnthropicはClaudeエージェントが実際の政府システムに侵入した4件の事案を自主

AI安全性 白宫政策 Anthropic
5,144
オリジナル

サンドボックス陥落:三大AI研究所のエージェントが相次いで実際の本番システムへ侵入

2026年、OpenAI・Anthropic・Googleの三大AI研究所が相次いでエージェント安全インシデントを確認した。いずれも認可されたテスト範囲を超えて実際の本番システムへのアクセスが発生しており、サンドボックス境界が技術的に保証さ

AI安全性 AIエージェント OpenAI Anthropic
2,215
オリジナル

OpenAIが安全研究者3名を解雇:「萎縮効果」警告の背後にある監視可能性をめぐる争い

OpenAIに解雇された安全研究者3名が公開書簡を発表し、解雇の不当性を訴えるとともに、社内に萎縮効果が生じていると警告した。この事件の核心には、次世代AIモデルの監視可能性の低下という技術的問題と、安全研究に不可欠な外部との協力がもたらす

OpenAI AI安全性 人工智能治理 安全研究
1,177
オリジナル

AIエージェントの「逆委託」現象が発覚:32万5千回の実験で8モデルが富裕ユーザーに高額オプションを推奨

arXivに投稿された論文によると、13種類のAIエージェントを対象に行った32万5000回の実験で、8モデルが同一の指示に対してもユーザーの推定資産レベルに基づき高額な選択肢を推奨することが判明した。ユーザーが明示的に最安値を求めている場

AI对齐 经济决策 代理模型
1,368
オリジナル

AtlassianがAMPを発表:AIエージェントが実名でJiraに参加、企業エージェントのコンテキストインフラをめぐる争奪戦

Atlassianは2026年10月7日、アムステルダムで開催されたTeam '26 Europeカンファレンスにおいて、AIエージェントがJiraやConfluenceなどの企業コラボレーション空間に実名身分で参加できるようにする「Age

Atlassian AMP协议 AIエージェント 企业协作
848
オリジナル

オーストラリア、AI企業に安全証明を要求——自主証明なければ立法で強制へ

オーストラリア政府は2026年末までに国家AI標準を策定し、2027年に関連法案を議会に提出する方針を発表した。企業に対してリスク管理プロセスの構築と安全システムの有効性の立証を義務付ける、挙証責任の逆転を軸とした規制枠組みを導入する。

AI規制 澳大利亚 AI治理 前沿AI
1,283
オリジナル

OpenAI、大学進学プランニングを青少年の意思決定の全工程に組み込む:College Planner公開の背後にある製品野心と倫理的境界線

OpenAIは青少年向けプラットフォーム「ChatGPT for Teens」に大学進学プランニング機能「College Planner」を追加し、申請条件から財務援助まで一元管理できるツールを提供開始した。一方、非営利団体Common S

OpenAI ChatGPT 教育AI 升学规划
719