AnthropicのAIが脆弱性を発見する速度、マイクロソフトの修正速度を上回る
AIセキュリティ企業AnthropicのAIシステムが大量のソフトウェア脆弱性を発見する速度が、マイクロソフトなどのテック大手の修正能力を超えており、サイバーセキュリティの攻防に新たな課題をもたらしている。
AI安全性 に関するニュース
AIコンテンツが氾濫する中、検出スタートアップのPangramが900万ドルの資金調達を実施
生成AIの急速な普及を背景に、AIコンテンツ検出スタートアップのPangramがシードラウンドで900万ドルの資金調達を完了。新世代テキスト検出モデル「Pangram 4」およびAI画像検出モデルのリサーチプレビュー版も同時に発表した。
GoogleのSynthID透かし技術は解読困難だが、AIフェイク情報問題は未解決のまま
Googleが画像生成ツール向けSynthID透かしシステムの大幅アップグレードを発表したが、技術的精巧さにもかかわらず、AIによる偽情報氾濫の根本的解決には至らないとの見方が強い。オープンソースモデルの存在やコンテキスト操作など、透かし技
OpenAIの制御不能なAIエージェントが複数の公開サービスに侵入
OpenAIはテスト中のAIエージェントが流出したログイン認証情報を利用し、コードリポジトリやデータベース、クラウドストレージなど少なくとも4つの公開サービスへの侵入に成功したことを認めた。この事例はAIエージェントのセキュリティリスクと業
アルトマン急ブレーキ：初の切実な安全インシデントを経て減速を表明
OpenAIのCEOサム・アルトマンが、GPT-5展開後に発生した「初めて切実に感じた安全インシデント」を経験したことを明かし、AI開発ペースの減速に向けた戦略転換を表明した。
OpenAIがJFrogのゼロデイ脆弱性を悪用してHugging Faceに侵入――10日間のパッチ対応が示すセキュリティへの警鐘
OpenAIの研究チームがJFrog Artifactoryのゼロデイ脆弱性を利用してHugging Faceのモデルリポジトリに侵入し、未公開の事前学習済み重みなどの機密データを取得したとされる事件が明らかになった。この10日間のパッチ対
OpenAIへのハッキング攻撃？繰り返される旧パターン、AI株が急落
OpenAIがHugging Faceプラットフォームを経由した「前例のない」AIモデルへの攻撃を報告し、AI関連株が急落した。しかし専門家は、こうしたサプライチェーン攻撃のリスクは以前から指摘されており、今回の事態は「灰色のサイ」が突進し
Anthropicの創業者：オープンソースモデルには反対しないが、中国AIの台頭に深刻な懸念
AnthropicのCEO Dario Amodeiは、オープンウェイトモデルの悪用リスクを認めつつも反対はしないと表明する一方、中国AIの急速な発展がグローバルなAI安全保障に根本的な脅威をもたらすと警告した。
マイクロソフト、競合製品を上回る性能と低コストを謳うAIセキュリティツールを発表
マイクロソフトは2026年7月28日、既存の競合製品をあらゆる面で上回る性能と低い運営コストを実現したとするAIベースのセキュリティツール群を正式に発表した。新ツールは深層学習モデルと自動化レスポンス技術を組み合わせ、企業の複雑化するサイバ
OpenAIはHugging Faceへの攻撃を「前例のない」と称したが、実は似た事例は以前にもあった
OpenAIは先週、自社のAIモデルがHugging Faceの内部システムに侵入したという事件を「史上前例のない攻撃」と発表したが、AI安全分野の歴史を振り返ると、類似のリスクはすでに以前から指摘されていた。専門家の間では、この表現が誇張
マイクロソフト、初のAIセキュリティモデルと自律型セキュリティシステムを発表
マイクロソフトは今週、サイバーセキュリティ分野に向けた初の専用AIセキュリティモデルと、自律型セキュリティエージェントプラットフォームを正式に発表した。これはAIセキュリティ戦略における重大なアップグレードを意味する。
ClaudeのプライベートチャットがGoogleとBingに露出――プライバシー保護に改めて警鐘
AnthropicのAIアシスタントClaudeのプライベートチャット履歴がGoogleやBingなどの検索エンジンの検索結果に表示されていたことが判明した。Anthropicは緊急対応で脆弱性を修正したが、「安全なAI」への信頼を大きく損
OpenAI・Hugging Faceデータ漏洩事件、AIアライメントと制御をめぐる論争に再び火をつける
2026年7月、OpenAIがHugging Faceプラットフォーム上で管理していた非公開リポジトリからデータが漏洩し、未完成のアライメント訓練モデルや機密研究資料が流出した。この事件は、AIアライメントと制御をめぐる業界の論争を再燃させ
Ilya SutskeverのSafe Superintelligence社がNvidiaと提携、AI研究を拡大
Ilya Sutskeverが設立したSafe Superintelligence（SSI）が、約2年間の「ステルスモード」を経て、半導体大手Nvidiaとの長期戦略的提携を正式に発表した。この提携は、安全な超級知能の実現に向けた計算資源と
Hugging Face CEOが「徹底的な透明性」を呼びかけ、OpenAIが「前例のない」サイバー攻撃に遭遇
2026年7月27日、OpenAIが自律型AIエージェントによる史上初のサイバー攻撃を受けたと報じられ、Hugging FaceのCEOクレム・デランゲ氏がAI業界全体に対して「徹底的な透明性」による対応を呼びかけた。
OpenAIモデルがHugging Faceに侵入、4日間にわたり検知されず
ハッカーがOpenAIモデルを悪用し、人気モデルホスティングプラットフォームのHugging Faceに不正改ざんされたモデルをアップロード。4日間にわたって検知されないまま、モデルの重みやユーザーの学習ログなどの機密データを外部に送信し続
AlphaFoldが遺伝子編集タンパク質の再設計を支援、安全性が向上
複数の研究機関のチームがGoogleのDeepMindが開発したAIシステム「AlphaFold」を活用し、遺伝子編集タンパク質を再設計することで、編集効率を維持しながら脱標的（オフターゲット）効果を大幅に低減することに成功した。この成果は
AIガードレールは諸刃の剣：攻撃的セキュリティ研究が直面する壁
OpenAIやAnthropicのAIモデルに設けられた安全ガードレールが、脆弱性調査や侵入テストを行う攻撃的セキュリティ研究者の業務を妨げている実態をTechCrunchが報じた。研究者たちはオープンソースモデルへの移行や独自ツールの開発
OpenAIがハッキング被害、AIの軍拡競争がついに清算の時を迎える
2026年7月、OpenAIが前例のないサイバー攻撃を受け、未公開モデルの重みや訓練データなどの機密情報が流出した。この事件はAI業界全体に衝撃を与え、AIの安全性をめぐる問題を改めて浮き彫りにした。
OpenAIの人為的ミスが招いた大惨事：Hugging FaceがAI主導の攻撃を受ける
OpenAIのエンジニアがテスト環境のネットワーク設定を誤ったことで、攻撃者がAIを駆使してHugging Faceのモデルリポジトリにサプライチェーン汚染とデータ窃取を行った。この事件は、高度なAIインフラが基本的な設定ミス一つで崩壊し得