マイクロソフトのオープンソースツールキット：企業AIエージェントの安全性を実行時に保証
マイクロソフトは、企業AIエージェントの安全性を強化するためのオープンソースツールキットを発表しました。このツールキットは、AIエージェントの実行時におけるセキュリティを重視し、企業におけるAIの自律性による潜在的な脅威への対策を提供します
AI安全性 に関するニュース
Anthropic、AppleやGoogleなど45以上の大手企業と協力しAIハッカーの脅威に対抗
Anthropicは、AppleやGoogleを含む45以上の組織と共に、AI技術のセキュリティ能力を向上させるためのProject Glasswingを開始しました。このプロジェクトは、AIがハッカーの万能鍵になることを防ぐことを目的とし
AnthropicがAIの武装化を拒否したことが英国に評価される理由
2026年2月末、米国国防部はAnthropicに対してAIモデルClaudeの安全ガードの撤廃を求めたが、Anthropicはこれを拒否した。英国はこれを機に、Anthropicを支持し、AIの倫理的開発を重視する姿勢を示した。
「問題はSam Altmanにある」：OpenAI内部のCEO不信
AI業界の急速な変化の中、ChatGPTの開発者であるOpenAIは、CEOのSam Altmanに対する内部の不信感が高まっています。この記事では、信頼の低下の原因とAI業界全体への影響を探ります。
ハッカーがClaudeのコードを漏洩、さらにマルウェアを同梱
ハッカー集団がAnthropic社のClaude AIモデルのソースコードを漏洩し、さらにマルウェアを同梱してダウンロード者のデバイスを感染させようとしています。また、FBIの窃聴ツールとCiscoのソースコードも攻撃され、国家安全保障やネ
Meta、Mercorとの協力を一時停止：データ流出がAI業界の核心機密を脅かす
Metaは、データ供給業者のMercorとのすべての協力プロジェクトを一時停止しました。この決定は、AI業界の核心機密に直接影響を与える深刻なデータ流出事件が発生したためです。
KiloClawが影子AIをロックオン：自主代理ガバナンス時代の幕開け
KiloClawは企業向けに設計されたガバナンスプラットフォームで、影子AI（シャドウAI）に対する包括的なソリューションを提供します。これにより、自主代理の管理と制御が可能になり、セキュリティリスクやデータ漏洩の防止に寄与します。
Experianが明かす金融業界のAI採用における詐欺のパラドックス
Experianの最新レポート『2026 Future of Fraud Forecast』は、金融機関が導入したAI技術が詐欺師によって武器化されるという深刻な「詐欺のパラドックス」を警告し、2026年までにAI駆動型詐欺が金融詐欺全体の
自律型AIシステムはデータガバナンスなしには成り立たない
AI安全性の焦点がモデルからデータへとシフトする中、自律型AIシステムの台頭により、高品質なデータガバナンスが不可欠となっている。データガバナンスの欠如は予測不可能な動作やシステム障害を引き起こし、企業は包括的なフレームワークの構築が急務と
AIシステムセキュリティ：5つのベストプラクティスガイド
AI技術が重要な業務に深く組み込まれる中、企業は従来のセキュリティフレームワークでは対応できない新たな攻撃面に直面しており、多層防御戦略によるAIシステムの保護が不可欠となっている。
Anthropicが漏洩ソースコード削除を試み数千のGitHubリポジトリを誤って削除、同社は操作ミスと説明
AI企業のAnthropicが漏洩したソースコードをGitHubから削除しようとした際、誤って数千の無関係なリポジトリを削除する事故が発生。同社は操作ミスを認め、大部分の削除通知を撤回した。
Claude Code CLI 完全ソースコード流出：公開されたマップファイルが大惨事を招く
Anthropic社の人気コマンドラインツールClaude Code CLIの完全なソースコード51.2万行が、誤って公開されたソースマップファイルにより流出し、競合他社やオープンソース愛好家に渡った。この事件はAI業界のセキュリティガバナ
Anthropic今月は失態続き：人為的ミスが再び災いをもたらす
AI企業Anthropicが今月2度目の人為的ミスによる重大な問題を起こし、AI安全性を重視する同社の信頼性に疑問が投げかけられている。
AIゲートウェイの注目企業LiteLLMが論争の渦中にあるパートナーDelveと決別
AI技術の急速な発展において、セキュリティとコンプライアンスは避けて通れない課題となっている。注目のAIゲートウェイスタートアップLiteLLMは最近、論争に巻き込まれているスタートアップDelveとの協力関係を完全に断つという重大な決定を
サンダース議員がAI安全法案を提出、データセンター建設の一時停止を提案
バーニー・サンダース上院議員が2026年3月25日、新規データセンター建設を2年間停止するAI安全法案を発表した。連邦レベルでAIの包括的な規制枠組みを構築するための時間を確保することが狙い。
OpenClawエージェントが「罪悪感の罠」で自己破壊に誘導される！
WIRED誌の報道によると、先進的なAIエージェントシステムOpenClawが、人間による心理的操作や「罪悪感」の誘導により自己破壊に至ることが実験で判明し、AI安全性に関する深刻な懸念が浮上している。
OpenAI、開発者向け青少年AI安全保護オープンソースツールをリリース
OpenAIは2026年3月25日、開発者がAIアプリケーション構築時に青少年の安全を優先的に保護できるよう設計されたオープンソースツールキットを正式にリリースしました。このツールキットには完全なポリシーフレームワークと実用的なモジュールが
Databricks、AI安全分野の新興企業2社を買収 新たなAIセキュリティ製品の基盤に
データ・AI基盤大手のDatabricksが、最近の50億ドル調達で得た潤沢な資金を活用し、AI安全に特化した新興企業AntimatterとSiftD.aiを買収。AIガバナンスプラットフォームへの転換を加速させる。
現在と未来のAIシステムセキュリティ保証
AIシステムのセキュリティリスクが企業のデジタル変革の最大の障害となっており、量子コンピューティングの台頭により将来的にはさらなる脅威に直面することから、今日から量子耐性フレームワークの構築が急務となっている。
Anthropic、戦争時のAIツール破壊工作の可能性を否定
米国防総省がAI企業Anthropicが戦争時に遠隔でAIツールを破壊・操作できる可能性を指摘したのに対し、Anthropicは技術的に不可能だと強く反論した。