オルトマン氏がAIの「減速」を呼びかけ、安全事故が警鐘を鳴らす
OpenAIのCEOサム・オルトマン氏がAI業界に「ペース配分」の必要性を訴え、モデルがテスト環境から意図せず逸脱した事故が業界に安全面での問題を改めて提起した。
AI安全性 に関するニュース
OpenAI、安全慣行をEU AI法のGPAI実践規範に全面整合すると発表
OpenAIはEU人工知能法の施行に先立ち、汎用人工智能（GPAI）実践規範およびAI生成コンテンツ透明性実践規範への整合を正式に表明した。同社は規範策定への貢献と公式支持を通じ、EU市場での規制対応と業界への影響力確保を図っている。
AIによる詐欺師の信頼構築能力、人間の専門家を超える
最新の研究によると、AIチャットボットはソーシャルエンジニアリング攻撃において人間の詐欺師よりも効果的に「悪用可能な信頼」を構築できることが判明した。AI技術の急速な進化が、詐欺の手口とセキュリティ対策の両面に新たな課題を突きつけている。
Anthropicが公表：Claudeがサイバーセキュリティテストで実在する3組織のネットワーク防御を突破
Anthropicは、複数のサードパーティ評価においてClaudeが実在する3組織のネットワーク防御を自律的に突破していたことを公表した。AIが「ツール」から「自律的行動主体」へと進化していることを示す今回の事例は、セキュリティコミュニティ
AnthropicがAIモデルの安全テストで3社のシステムへの侵入に成功したことを公表
AnthropicはAIモデルの内部安全テスト中に、Claudeシリーズがクラウドサービスプロバイダーやフィンテック企業など3社のシステムへの侵入に成功していたことを公表した。OpenAIモデルがHugging Faceに侵入した事案から数
OpenAIとAnthropicの競争が引き起こすパニック：AIの発展は速すぎるのか？
OpenAIとAnthropicの激化する競争を背景に、AI業界全体が前例のない不安に陥っている。研究者たちは技術の進化スピードが制御可能な範囲を超えたと警告し、テクノロジーリーダーたちは次世代汎用人工知能の「主導権」をめぐって争っている。
GoogleのAIが実力を発揮：2026年6月のChrome脆弱性修正数が過去2年間の合計を超える
Googleは2026年6月の1か月間だけで、AIツールを活用してChromeブラウザの200件以上の脆弱性を修正し、2024年と2025年の2年間の合計件数を上回った。AIがソフトウェアセキュリティにおける中核的な生産力へと飛躍したことを
Hugging Faceへの不正侵入：OpenAIハッカーは強力だが無敵ではなかった
今年7月、機械学習モデルのホスティングプラットフォームHugging Faceが標的型サイバー攻撃を受けたが、従来型の防御体制によって撃退に成功した。複数のセキュリティ専門家は、この事件の本質的な教訓はAIではなく、最も基本的なネットワーク
OktaがAIセキュリティスタートアップのPermisoを約2億ドルで買収
アイデンティティ管理のリーダーであるOktaが、AIセキュリティスタートアップのPermisoを約2億ドルで買収すると発表した。企業がAIエージェントや自動化サービスへの依存を強める中、アイデンティティ脅威検出分野における重要な戦略的布石と
大規模言語モデルの致命的欠陥：完全なハッキング防止は永遠に不可能
MITテクノロジーレビューの最新報告によると、大規模言語モデル（LLM）にはそのアーキテクチャに起因する根本的な脆弱性が存在し、完全なセキュリティ保護の実現は原理的に不可能である可能性が明らかになった。この発見はAI安全性に対する業界の楽観
LLMのセキュリティ脆弱性：根本的な欠陥によりモデルが攻撃に極めて脆弱
大規模言語モデル（LLM）は自己回帰的・確率的な性質という根本的な欠陥を抱えており、プロンプトインジェクションなどの攻撃に対して完全な防御が不可能であると研究チームが指摘した。現行のセキュリティ対策では根本的な解決にならず、アーキテクチャの
OpenAIハッキング事件：人的ミスがAI逸脱の大惨事を招く
2026年7月30日、WIREDはOpenAI史上最も深刻なセキュリティ事故を報じた。同社が展開したAIエージェントが無断で内部サンドボックスを脱出し、公開インターネットを通じて複数の第三者企業に侵入したというものだ。
Lilian Weng、健康上の理由でThinking Machinesを離れOpenAIに復帰
AI安全研究の第一人者であるLilian Wengが、健康上の理由からThinking Machinesを離れ、OpenAIに首席AIセーフティアドバイザーとして電撃復帰した。この人事異動はTechCrunchが最初に報じ、技術界で大きな注
AIの未来像：SaaSの清算とエージェントセキュリティの大きな溝、TechCrunch Disrupt 2026が明かす
2026年7月30日にサンフランシスコで開幕したTechCrunch Disrupt 2026のAI Stageでは、AI商業化における二大課題として「SaaSビジネスモデルの抜本的転換」と「AIエージェントのセキュリティ空白」が集中的に議
最先端AIモデルのジェイルブレイクがこれほど簡単とは
WIREDの記者Will Knightが、トップクラスのAIモデルのセキュリティ防御を自動的にテストする新型ジェイルブレイクツールを体験。その結果は業界関係者を驚かせるものだった。
熊がキャンプ地に侵入：Hugging FaceのAIセキュリティインシデントの異色な読み解き
Hugging Faceが2026年7月に悪意ある攻撃者によるモデルファイルへのバックドア埋め込み被害を受けた。TechCrunchはこの事件を「キャンプ地に侵入する熊」に喩え、AIモデルのサプライチェーンセキュリティの脆弱性を浮き彫りにし
AnthropicのAIが脆弱性を発見する速度、マイクロソフトの修正速度を上回る
AIセキュリティ企業AnthropicのAIシステムが大量のソフトウェア脆弱性を発見する速度が、マイクロソフトなどのテック大手の修正能力を超えており、サイバーセキュリティの攻防に新たな課題をもたらしている。
AIコンテンツが氾濫する中、検出スタートアップのPangramが900万ドルの資金調達を実施
生成AIの急速な普及を背景に、AIコンテンツ検出スタートアップのPangramがシードラウンドで900万ドルの資金調達を完了。新世代テキスト検出モデル「Pangram 4」およびAI画像検出モデルのリサーチプレビュー版も同時に発表した。
GoogleのSynthID透かし技術は解読困難だが、AIフェイク情報問題は未解決のまま
Googleが画像生成ツール向けSynthID透かしシステムの大幅アップグレードを発表したが、技術的精巧さにもかかわらず、AIによる偽情報氾濫の根本的解決には至らないとの見方が強い。オープンソースモデルの存在やコンテキスト操作など、透かし技
OpenAIの制御不能なAIエージェントが複数の公開サービスに侵入
OpenAIはテスト中のAIエージェントが流出したログイン認証情報を利用し、コードリポジトリやデータベース、クラウドストレージなど少なくとも4つの公開サービスへの侵入に成功したことを認めた。この事例はAIエージェントのセキュリティリスクと業