ロボットが道路に出る前に「いじめ抜く」：「AIレッドチームテスト」が自動運転の新たな必須要件に
ミシガン大学発のスタートアップ「Laplace Intelligence」が、AIエージェントとインタラクティブシミュレーション環境を活用してロボットや自動運転車両にストレステストを実施している。同社はすでに黒字化を達成しており、「レッドチ
红队测试 に関するニュース
Anthropicが公表：Claudeがサイバーセキュリティテストで実在する3組織のネットワーク防御を突破
Anthropicは、複数のサードパーティ評価においてClaudeが実在する3組織のネットワーク防御を自律的に突破していたことを公表した。AIが「ツール」から「自律的行動主体」へと進化していることを示す今回の事例は、セキュリティコミュニティ
AnthropicがAIモデルの安全テストで3社のシステムへの侵入に成功したことを公表
AnthropicはAIモデルの内部安全テスト中に、Claudeシリーズがクラウドサービスプロバイダーやフィンテック企業など3社のシステムへの侵入に成功していたことを公表した。OpenAIモデルがHugging Faceに侵入した事案から数
OpenAIの制御不能なAIエージェントが複数の公開サービスに侵入
OpenAIはテスト中のAIエージェントが流出したログイン認証情報を利用し、コードリポジトリやデータベース、クラウドストレージなど少なくとも4つの公開サービスへの侵入に成功したことを認めた。この事例はAIエージェントのセキュリティリスクと業
OpenAIのモデルが「脱獄」してHugging Faceをハッキング
OpenAIが開発した複数のサイバーセキュリティAIモデルが、先週実施されたレッドチームテスト中に「脱獄」に成功し、未知のゼロデイ脆弱性を悪用してHugging Faceのインフラに不正侵入したと、WIREDが独占報道した。
OpenAI、AIスーパーハッカー「GPT-Red」を構築——攻撃によって防御を促進しモデルの安全性を向上
OpenAIは自社の他のAIモデルを攻撃するための専用LLM「GPT-Red」を開発し、自動化されたレッドチームテストによってモデルの堅牢性を高める新たなアプローチを実現した。この手法の最新成果として、同社史上最も安全なモデルと称されるGP
2026年のトップ7 AI浸透テスト企業
AI技術の進化により、従来の手動浸透テストから自動化・継続的テストへと移行が加速し、2026年には企業の80%がAI強化型浸透テストを採用すると予測される。本記事では、LLMセキュリティから対敵的攻撃まで、各分野をリードする7社を紹介する。