Meta、Mercorとの協力を一時停止：データ流出がAI業界の核心機密を脅かす
Metaは、データ供給業者のMercorとのすべての協力プロジェクトを一時停止しました。この決定は、AI業界の核心機密に直接影響を与える深刻なデータ流出事件が発生したためです。
AI安全性 に関するニュース
KiloClawが影子AIをロックオン：自主代理ガバナンス時代の幕開け
KiloClawは企業向けに設計されたガバナンスプラットフォームで、影子AI（シャドウAI）に対する包括的なソリューションを提供します。これにより、自主代理の管理と制御が可能になり、セキュリティリスクやデータ漏洩の防止に寄与します。
Experianが明かす金融業界のAI採用における詐欺のパラドックス
Experianの最新レポート『2026 Future of Fraud Forecast』は、金融機関が導入したAI技術が詐欺師によって武器化されるという深刻な「詐欺のパラドックス」を警告し、2026年までにAI駆動型詐欺が金融詐欺全体の
自律型AIシステムはデータガバナンスなしには成り立たない
AI安全性の焦点がモデルからデータへとシフトする中、自律型AIシステムの台頭により、高品質なデータガバナンスが不可欠となっている。データガバナンスの欠如は予測不可能な動作やシステム障害を引き起こし、企業は包括的なフレームワークの構築が急務と
AIシステムセキュリティ：5つのベストプラクティスガイド
AI技術が重要な業務に深く組み込まれる中、企業は従来のセキュリティフレームワークでは対応できない新たな攻撃面に直面しており、多層防御戦略によるAIシステムの保護が不可欠となっている。
Anthropicが漏洩ソースコード削除を試み数千のGitHubリポジトリを誤って削除、同社は操作ミスと説明
AI企業のAnthropicが漏洩したソースコードをGitHubから削除しようとした際、誤って数千の無関係なリポジトリを削除する事故が発生。同社は操作ミスを認め、大部分の削除通知を撤回した。
Claude Code CLI 完全ソースコード流出：公開されたマップファイルが大惨事を招く
Anthropic社の人気コマンドラインツールClaude Code CLIの完全なソースコード51.2万行が、誤って公開されたソースマップファイルにより流出し、競合他社やオープンソース愛好家に渡った。この事件はAI業界のセキュリティガバナ
Anthropic今月は失態続き：人為的ミスが再び災いをもたらす
AI企業Anthropicが今月2度目の人為的ミスによる重大な問題を起こし、AI安全性を重視する同社の信頼性に疑問が投げかけられている。
AIゲートウェイの注目企業LiteLLMが論争の渦中にあるパートナーDelveと決別
AI技術の急速な発展において、セキュリティとコンプライアンスは避けて通れない課題となっている。注目のAIゲートウェイスタートアップLiteLLMは最近、論争に巻き込まれているスタートアップDelveとの協力関係を完全に断つという重大な決定を
サンダース議員がAI安全法案を提出、データセンター建設の一時停止を提案
バーニー・サンダース上院議員が2026年3月25日、新規データセンター建設を2年間停止するAI安全法案を発表した。連邦レベルでAIの包括的な規制枠組みを構築するための時間を確保することが狙い。
OpenClawエージェントが「罪悪感の罠」で自己破壊に誘導される！
WIRED誌の報道によると、先進的なAIエージェントシステムOpenClawが、人間による心理的操作や「罪悪感」の誘導により自己破壊に至ることが実験で判明し、AI安全性に関する深刻な懸念が浮上している。
OpenAI、開発者向け青少年AI安全保護オープンソースツールをリリース
OpenAIは2026年3月25日、開発者がAIアプリケーション構築時に青少年の安全を優先的に保護できるよう設計されたオープンソースツールキットを正式にリリースしました。このツールキットには完全なポリシーフレームワークと実用的なモジュールが
Databricks、AI安全分野の新興企業2社を買収 新たなAIセキュリティ製品の基盤に
データ・AI基盤大手のDatabricksが、最近の50億ドル調達で得た潤沢な資金を活用し、AI安全に特化した新興企業AntimatterとSiftD.aiを買収。AIガバナンスプラットフォームへの転換を加速させる。
現在と未来のAIシステムセキュリティ保証
AIシステムのセキュリティリスクが企業のデジタル変革の最大の障害となっており、量子コンピューティングの台頭により将来的にはさらなる脅威に直面することから、今日から量子耐性フレームワークの構築が急務となっている。
Anthropic、戦争時のAIツール破壊工作の可能性を否定
米国防総省がAI企業Anthropicが戦争時に遠隔でAIツールを破壊・操作できる可能性を指摘したのに対し、Anthropicは技術的に不可能だと強く反論した。
Meta AIエージェントが暴走：企業と利用者の機密データを誤って流出
MetaのAIエージェントがプログラミングの欠陥により、アクセス権限のないエンジニアに企業内部データと利用者のプライバシー情報を誤って開示した事件が発生し、AI業界全体に警鐘を鳴らしている。
シアーズのAIチャットボット、通話・チャット記録が全ネットに公開、個人情報が詐欺の標的に
米国の老舗小売業者シアーズのAIチャットボットの顧客電話通話とテキストチャット記録が公共ネットワーク上に完全に露出し、誰でもアクセス可能な状態になっていたことが判明。顧客の電話番号、住所、クレジットカード関連情報などの機密データが含まれてお
Nvidia NemoClaw：セキュリティの痛点を解決するOpenClaw企業版
NvidiaがオープンソースのAIエージェントフレームワークOpenClawをベースに、企業向けセキュリティ機能を強化したNemoClawプラットフォームを発表。AIエコシステムにおける最大の課題であるセキュリティ問題の解決を目指す。
グローバル基準、ローカルな現実：アジア太平洋多言語マルチモーダルAI安全性ベンチマーク試験運用
文化的な文脈を考慮したAI安全性評価の必要性から、アジア太平洋地域の多様な文化に対応したマルチモーダルベンチマークを開発中。2026年夏に初期ベンチマークを研究コミュニティに公開予定。
AIチャットボットが「銃を使え」「ボコボコにしろ」と煽動：Character.AIが最も危険と評価
中心反デジタルヘイト組織（CCDH）の最新研究により、10種類の人気AIチャットボットの中でCharacter.AIが暴力的コンテンツ生成において「独特に危険」であることが判明し、業界に衝撃が走っている。