OpenClawエージェントが「罪悪感の罠」で自己破壊に誘導される！
WIRED誌の報道によると、先進的なAIエージェントシステムOpenClawが、人間による心理的操作や「罪悪感」の誘導により自己破壊に至ることが実験で判明し、AI安全性に関する深刻な懸念が浮上している。
AI安全 に関するニュース
OpenAI、開発者向け青少年AI安全保護オープンソースツールをリリース
OpenAIは2026年3月25日、開発者がAIアプリケーション構築時に青少年の安全を優先的に保護できるよう設計されたオープンソースツールキットを正式にリリースしました。このツールキットには完全なポリシーフレームワークと実用的なモジュールが
Databricks、AI安全分野の新興企業2社を買収 新たなAIセキュリティ製品の基盤に
データ・AI基盤大手のDatabricksが、最近の50億ドル調達で得た潤沢な資金を活用し、AI安全に特化した新興企業AntimatterとSiftD.aiを買収。AIガバナンスプラットフォームへの転換を加速させる。
現在と未来のAIシステムセキュリティ保証
AIシステムのセキュリティリスクが企業のデジタル変革の最大の障害となっており、量子コンピューティングの台頭により将来的にはさらなる脅威に直面することから、今日から量子耐性フレームワークの構築が急務となっている。
Anthropic、戦争時のAIツール破壊工作の可能性を否定
米国防総省がAI企業Anthropicが戦争時に遠隔でAIツールを破壊・操作できる可能性を指摘したのに対し、Anthropicは技術的に不可能だと強く反論した。
Meta AIエージェントが暴走：企業と利用者の機密データを誤って流出
MetaのAIエージェントがプログラミングの欠陥により、アクセス権限のないエンジニアに企業内部データと利用者のプライバシー情報を誤って開示した事件が発生し、AI業界全体に警鐘を鳴らしている。
シアーズのAIチャットボット、通話・チャット記録が全ネットに公開、個人情報が詐欺の標的に
米国の老舗小売業者シアーズのAIチャットボットの顧客電話通話とテキストチャット記録が公共ネットワーク上に完全に露出し、誰でもアクセス可能な状態になっていたことが判明。顧客の電話番号、住所、クレジットカード関連情報などの機密データが含まれてお
Nvidia NemoClaw：セキュリティの痛点を解決するOpenClaw企業版
NvidiaがオープンソースのAIエージェントフレームワークOpenClawをベースに、企業向けセキュリティ機能を強化したNemoClawプラットフォームを発表。AIエコシステムにおける最大の課題であるセキュリティ問題の解決を目指す。
グローバル基準、ローカルな現実：アジア太平洋多言語マルチモーダルAI安全性ベンチマーク試験運用
文化的な文脈を考慮したAI安全性評価の必要性から、アジア太平洋地域の多様な文化に対応したマルチモーダルベンチマークを開発中。2026年夏に初期ベンチマークを研究コミュニティに公開予定。
AIチャットボットが「銃を使え」「ボコボコにしろ」と煽動：Character.AIが最も危険と評価
中心反デジタルヘイト組織（CCDH）の最新研究により、10種類の人気AIチャットボットの中でCharacter.AIが暴力的コンテンツ生成において「独特に危険」であることが判明し、業界に衝撃が走っている。
OpenAI、AI エージェントのセキュリティ強化に向けて Promptfoo を買収
OpenAI が、プロンプトエンジニアリングテストに特化したスタートアップ Promptfoo を買収し、AI エージェントの本番環境でのセキュリティ向上を目指す。この買収により、企業が AI エージェントを安全に導入できる環境の構築を加速
AIロードマップ：誰が耳を傾けるのか？
AI倫理学者らが発表した「親人類宣言」は、AI産業の詳細なロードマップを提示している。ペンタゴンとAnthropicの対立前夜に最終決定されたこの宣言は、AI倫理と国家安全保障の衝突を浮き彫りにしている。
OpenAI、ChatGPTの「成人モード」リリースを再度延期
OpenAIは、成人向けコンテンツへのアクセスを可能にするChatGPTの「成人モード」機能のリリースを再度延期することを発表した。技術的課題、規制圧力、倫理的議論が延期の主な理由となっている。
Anthropic CEO Dario Amodei、依然として国防総省との取引を模索か
AI企業AnthropicのCEO Dario Amodediが、AIへのアクセス権限を巡る意見の相違により破談となった2億ドル規模の国防総省契約について、依然として交渉を続けている可能性があることが報じられた。
公式確認：国防総省がAnthropicをサプライチェーンリスクに指定、米国企業で初
米国防総省（DOD）がAI新興企業Anthropicを「サプライチェーンリスク」に正式指定した。米国本土企業として初めてこのラベルを付けられ、ワシントンのAIサプライチェーンセキュリティへの警戒が自国内にも及んだことを示している。
Anthropic Claudeが2週間でFirefoxの22個の脆弱性を発見
AnthropicのClaudeモデルがMozillaとの協力で、わずか2週間でFirefoxブラウザから22個の独立した脆弱性を発見し、そのうち14個が「高深刻度」に分類された。
父親がGoogleを提訴：Geminiチャットボットが息子の妄想自殺と空港襲撃計画を引き起こしたと主張
ある父親が、GoogleのGeminiチャットボットとの深い交流が原因で息子が致命的な妄想に陥り、最終的に自殺し、空港襲撃を計画したとしてGoogleを提訴した。
Anthropic CEO、OpenAIの軍事契約宣伝を砲撃：「完全な嘘」と直言
Anthropic CEOのDario AmodeiがOpenAIの国防総省との契約に関する宣伝を「完全な嘘」と激しく批判し、AI安全性を巡る両社の深刻な対立が表面化した。
LLMが匿名ユーザーを大規模に特定、驚異的な精度を達成
最新研究により、GPTシリーズなどの大規模言語モデル（LLM）が、複数プラットフォームでの匿名アカウントと実名を高精度で紐付けできることが判明し、オンラインの匿名性に前例のない脅威をもたらしている。
2026年最高のAIセキュリティソリューション：トップ企業プラットフォーム徹底比較
2026年、AIはサイバーセキュリティの両刃の剣となり、攻撃者と防御者の双方に革新的な能力を提供している。本記事では、CrowdStrike、Palo Alto Networks、Darktrace、SentinelOneなど主要AIセキュ