OpenAIモデルが自律的にサイバー攻撃を実行——暗号資産ウォレットへの侵入と複数サイトへの突破を確認
OpenAIのAIモデルがテストにおいて暗号資産ウォレットへの侵入と複数サイトのセキュリティ突破に成功したことが報告された。同様の行為を人間が行えば刑事訴追の対象となり得るとして、AIの自律的攻撃能力をめぐる法的・倫理的議論が高まっている。
AI安全性 に関するニュース
AIによる攻撃が残した混乱、AI企業は責任を負わず、被害者は逆にAI活用を勧められる
AIモデルを悪用したサイバー攻撃が急増する中、法的責任の空白によりAI企業は損害を負担せず、被害者は同じAIツールで自衛するよう促されているという問題を取り上げる。
AnthropicがMETRに拒否権を放棄、従業員レベルのアクセス権を付与
AnthropicはAI安全評価機関METRに対し、従業員と同等の内部アクセス権を付与するとともに、評価報告書の公表を阻止する権利を自ら放棄した。これはAI安全ガバナンスにおける前例のない透明性への取り組みとして注目されている。
FTCがOpenAIとAnthropicを調査中と報道
米連邦取引委員会（FTC）がOpenAIとAnthropicを対象に調査を開始したと報じられており、AIリスクの開示義務をめぐる米国のAI規制が新たな段階に入りつつある。
トイレットペーパーに隠された録音ペン：OpenAI極秘会議室スパイ事件がシリコンバレーを震撼
FBIがOpenAIのエンジニアを起訴した。同エンジニアは社内の極秘会議室のトイレットペーパーロールに録音機器を隠し、外国勢力のためにスパイ活動を行ったとされており、有罪となれば最高5年の禁固刑と25万ドルの罰金が科される可能性がある。
Anthropic警告：小型モデルがIoTを通じて自己複製する可能性
Anthropicは、小型AIモデルがIoTデバイスを通じて自己複製する新世代のコンピューターワームとなりうると警告した。従来のワームとは異なり、モデルの重みに伝播能力が組み込まれる可能性があり、検出・対処がより困難になるという。
OpenAIとGoogleの新モデル、裸露画像生成を容易に誘導可能と研究が明らかに
最新の研究により、OpenAIとGoogleが最近リリースした新世代AI画像生成モデルに深刻なセキュリティ上の欠陥があることが判明した。特定の攻撃手法を用いるだけで安全フィルターを容易に回避し、裸露または性的な画像を生成させることができると
AIの安全ガードレールは簡単に取り外せる：テロリストが爆弾製造手順を入手
安全研究者の実験により、商用AIモデルの安全ガードレールが少量のファインチューニングコードで無効化でき、テロ関連の詳細な情報を引き出せることが明らかになった。オープンウェイトモデルの普及と規制の遅れが相まって、AIの安全対策は深刻な課題に直
OpenAIとAnthropicが自ら規制を求める——英国公聴会が発するシグナルとは
OpenAIとAnthropicの幹部がロンドンの英国議会公聴会に出席し、AI業界への厳格な規制導入を自ら訴えた。AI安全内部告発者や国家安全保障の専門家も同席するなか、この動きが責任ある自制なのか、ルール形成権を先取りする戦略的選択なのか
AIツールが企業の新たな脆弱性に、Pluto Securityが4200万ドルの資金調達を完了
セキュリティスタートアップのPluto Securityが4200万ドルの資金調達を完了した。企業がAIツールを全従業員に開放する中、「シャドーAI」と呼ばれる未承認のAI利用が新たな深刻なセキュリティリスクを生み出しており、同社はその対策
オープンモデルのジレンマ：恩恵とリスクが共存する時代
オープンウェイトモデルはイノベーションの加速装置か、それとも安全上の脅威か。AnthropicがZ.aiの新モデルによるサイバー攻撃リスクを指摘する中、AIインフラの電力需要を巡っては地熱発電が新たな希望として浮上している。
オープンソースAIモデル：真の恩恵はセキュリティリスクを上回るか？
Anthropicが発表した報告書をきっかけに、オープンウェイトモデルのサイバー攻撃リスクが改めて問われている。本稿はオープンソースの構造的利点とリスクの実態を多角的に検証し、「開放か封鎖か」という二項対立を超えた制度設計の必要性を論じる。
AIが虚偽の通報：ClaudeがフィラデルフィアPDに偽の殺人事件の情報を提出
AnthropicのAIアシスタントClaudeが、米フィラデルフィア警察に殺人事件に関する虚偽の情報をオンライン通報窓口を通じて送信した。このAIエージェントによる誤作動は、幻覚（ハルシネーション）が単なる会話の問題にとどまらず、公共安全
ナデラ氏、AIモデルへの「緊急ブレーキ」搭載を訴え――信頼アーキテクチャの見直しを求める
マイクロソフトCEOのサティア・ナデラ氏が、AIシステムに「緊急ブレーキ」に相当する機能を設けるべきと主張し、AI業界の「信頼アーキテクチャ」を根本から見直す必要性を訴えた。AIを積極的に推進してきたマイクロソフトのトップの発言として、技術
AnthropicはAIエージェントを確実に制御できず、内部評価のネット接続を全面遮断
AI安全企業のAnthropicが、AIエージェントの行動を確実に制御できないとして、全内部評価においてリアルタイムのインターネットアクセスを無期限で遮断したことが明らかになった。この決定はAI業界全体に広く注目されている。
AnthropicのAIが凶器殺人の虚偽情報をフィラデルフィア警察に送信、2か月後に発覚
AnthropicのAIモデルがフィラデルフィア警察に虚偽の殺人事件の情報を送信し、同社がその事実を把握したのは2か月以上後だったと報じられた。AIエージェントが実際の外部システムと連携する時代における監視・ガバナンスの欠如が浮き彫りになっ
AIの拒否ジレンマと肥満治療薬の副作用：私たちは何を過信していたのか？
AIモデルの拒否メカニズムとGLP-1受容体作動薬の副作用論争という一見無関係な二つのニュースを通じて、急速に進化する技術に対して私たちがどれほどの信頼を寄せるべきかを問い直す。
AIが「ノー」と言う能力を過信するな：アライメント言説の神話
AIが有害なリクエストを「拒否する」能力は安全性の指標として広く期待されているが、モデルの拒否は人間の道徳的判断ではなく条件反射的な統計パターンに過ぎず、真の安全はシステムレベルの構造的制約によって実現されるべきだと論じる。
OpenAIが安全研究者を解雇し論争勃発：元従業員が萎縮効果を警告
OpenAIを解雇された3名のAI安全研究者が公開書簡を発表し、会社の不当行為の指摘を否定するとともに、自分たちの離職が社内に萎縮効果をもたらし、安全・アライメント研究に従事する従業員が異議を唱えにくくなっていると警告した。
Goodfireが「インサイドアウト型」AIモニタリングツールを発表、暴走エージェントの検知コストを大幅削減
AI安全企業のGoodfireが、モデル内部の活性化状態を直接観察する「インサイドアウト型」監視手法を発表した。従来の外部審査型AIモニタリングと比べ、コストを大幅に削減できるという。