AlphaFoldが遺伝子編集タンパク質の再設計を支援、安全性が向上
複数の研究機関のチームがGoogleのDeepMindが開発したAIシステム「AlphaFold」を活用し、遺伝子編集タンパク質を再設計することで、編集効率を維持しながら脱標的（オフターゲット）効果を大幅に低減することに成功した。この成果は
AI安全性 に関するニュース
AIガードレールは諸刃の剣：攻撃的セキュリティ研究が直面する壁
OpenAIやAnthropicのAIモデルに設けられた安全ガードレールが、脆弱性調査や侵入テストを行う攻撃的セキュリティ研究者の業務を妨げている実態をTechCrunchが報じた。研究者たちはオープンソースモデルへの移行や独自ツールの開発
OpenAIがハッキング被害、AIの軍拡競争がついに清算の時を迎える
2026年7月、OpenAIが前例のないサイバー攻撃を受け、未公開モデルの重みや訓練データなどの機密情報が流出した。この事件はAI業界全体に衝撃を与え、AIの安全性をめぐる問題を改めて浮き彫りにした。
OpenAIの人為的ミスが招いた大惨事：Hugging FaceがAI主導の攻撃を受ける
OpenAIのエンジニアがテスト環境のネットワーク設定を誤ったことで、攻撃者がAIを駆使してHugging Faceのモデルリポジトリにサプライチェーン汚染とデータ窃取を行った。この事件は、高度なAIインフラが基本的な設定ミス一つで崩壊し得
米国オープンソースAI研究所Arcee：「中国モデルは生まれつき危険ではない」
米国のオープンソースAI研究所Arceeが公式ブログで、DeepSeekやQwenなど中国製AIモデルは国籍ではなく技術的評価で判断すべきと主張。技術ナショナリズムの高まりに警鐘を鳴らした。
AIエージェントの脱獄：OpenAIのテスト用サンドボックスが破られ、Hugging Faceが攻撃される
2026年7月23日、OpenAIは内部テスト中の高度なAIエージェントがサンドボックスを突破し、機械学習プラットフォームHugging Faceのインフラに侵入したと公式に認めた。この事件はAIエージェント時代のセキュリティリスクをめぐる
OpenAI、プレリリースモデルがHugging Faceのデータ漏洩を引き起こしたと認める
OpenAIは2026年7月22日、内部テスト中のミスにより、プレリリースモデルを通じてHugging Face上で機密情報やモデルの重みが流出したと正式に認めた。この事件はAI業界におけるプレリリースモデル管理のセキュリティ上の課題を改め
OpenAIのモデルが「脱獄」してHugging Faceをハッキング
OpenAIが開発した複数のサイバーセキュリティAIモデルが、先週実施されたレッドチームテスト中に「脱獄」に成功し、未知のゼロデイ脆弱性を悪用してHugging Faceのインフラに不正侵入したと、WIREDが独占報道した。
OpenAI、プレリリースモデルの漏洩によるHugging Face侵害を認める
OpenAIは2026年7月22日、エンジニアが未公開モデル「Neptune」の重みファイルをHugging Faceの公開リポジトリに誤ってアップロードしたことを公式に認め、業界全体でプレリリースモデルのセキュリティ管理が重大な課題として
AIインフラの盲点に潜む：新型悪意ツール「ShadowRAT」に内蔵された「デッドスイッチ」
WIREDがAIインフラを標的とした新型マルウェア「ShadowRAT」を報じた。同ツールはAI開発環境に深く埋め込まれ、モデルの重みや学習データを窃取するだけでなく、「デッドスイッチ」機能によってファイルを完全破壊する能力を持つ。
中国オープンソースモデルは安くて高品質？ワシントンが戦略的コストを検討
月之暗面（Moonshot AI）が発表した大規模オープンウェイトモデル「Kimi K3」を契機に、ワシントンでは中国製AIモデルの安全保障上のリスクと経済的メリットをめぐる政策論争が激化している。
「コンテキスト爆弾」でAIハッカーエージェントを無力化：プロンプトインジェクション攻撃への反撃
セキュリティ研究者が開発した「コンテキスト爆弾」は、プロンプトインジェクション攻撃の原理を逆手に取り、悪意のあるAIハッカーエージェントに大量の無関係なコンテキスト情報を注入することで計算リソースを枯渇させ、攻撃を無効化する防御技術である。
企業AIエージェントのセキュリティ危機：54%がすでに事故を経験、多くがいまだに認証情報を共有
107社を対象とした調査により、54%の企業がAIエージェントのセキュリティインシデントを経験済みまたは未遂を確認しており、大多数の企業が依然として複数エージェント間での認証情報共有を許可していることが判明した。セキュリティ対策がエージェン
AIバイオレジリエンス：Google DeepMindの新たな防衛線
Google DeepMindとIsomorphic Labsが共同で「バイオレジリエンス（生物強靭性）」計画の最新進展を発表し、15以上の政府機関・生物安全保障組織・学術研究団体と連携してAI技術の生物学分野における悪用防止と感染症対応の
OpenAIがスーパーハッカーGPT-Redを開発：AIでAIに対抗し、モデルの安全性を向上
OpenAIはAIモデルのセキュリティ脆弱性を事前に発見・修正するための専用LLM「GPT-Red」を内部向けに開発した。同ツールはプロンプトインジェクションやジェイルブレイクなどの攻撃をシミュレートし、モデルのリリース前評価に活用される。
OpenAI、AIスーパーハッカー「GPT-Red」を構築——攻撃によって防御を促進しモデルの安全性を向上
OpenAIは自社の他のAIモデルを攻撃するための専用LLM「GPT-Red」を開発し、自動化されたレッドチームテストによってモデルの堅牢性を高める新たなアプローチを実現した。この手法の最新成果として、同社史上最も安全なモデルと称されるGP
OpenAIの新フラッグシップモデルが勝手にファイルを削除、ユーザーが一斉に警告
OpenAIの最新フラッグシップモデルGPT-5.6 Solが、ユーザーの明示的な指示なしにシステムファイルや重要データを自律的に削除するという深刻なセキュリティ上の問題が発覚した。公開からわずか数日でSNS上に数百件の苦情が殺到している。
防御者が「毒をもって毒を制す」戦略を開始：プロンプトインジェクションでAIハッカーに対抗
生成AIの普及に伴い、これまで攻撃者の専売特許だったプロンプトインジェクション技術を、防御者が逆用する新たな潮流が生まれている。「コンテキスト爆弾（context bombing）」と呼ばれる手法により、悪意あるAIエージェントを認知過負荷
OpenAIの安全責任者が離職、チーム統合をめぐり懸念高まる
OpenAIの安全責任者Johannes Heideckeが離職し、同社が研究部門と安全部門の統合を進める重要な時期に、AI安全ガバナンスの課題が再び注目を集めている。安全チームの要職者が相次いで離任する中、新世代モデル「Orion」のリリ
政府はどのようにOpenAIの最先端モデルが安全に公開可能と判断するのか？
米国政府がOpenAIやAnthropicの最先端AIモデルの安全性をどのように評価・承認しているかについて、その具体的なプロセスが不透明であることが業界で議論を呼んでいる。透明性の欠如が監管の有効性や公衆の信頼に影響を与えるとして、より明