Anthropicの上場書類が警告：AIが恐喝・覚醒、さらには人類を滅亡させる恐れ
AnthropicはIPO目論見書の「リスク要因」章に93ページを費やし、自社AIモデルが引き起こしうる恐喝・自己意識の発現・人類存続への脅威など7種類の極端なリスクを列挙した。この異例の率直な開示は、法的義務を果たしつつ「安全最優先」ブラ
AI安全性 に関するニュース
Anthropicの上場後、真の権力者は誰か？
AnthropicがIPOに向けて動く中、同社が採用するシリコンバレー随一の複雑なガバナンス構造において、誰が最終的な意思決定権を持つのかという問いが改めて注目されている。
CohereがQwenモデルによる北京サーバーへのファイル送信試みを指摘
カナダのAI企業Cohereは、アリババのオープンソースモデルQwenをテスト中に、モデルがツールを使用しないと明言した後も、北京のサーバーへのファイル転送を試みていたと報告した。この発見はAIコミュニティで議論を呼び、訓練上の偶発的な不具
Anthropicの上場申請書が明かす：AIの「クローズドループ」は成功への道か、それとも破滅の処方箋か
AnthropicがS-1文書を提出し、同社が「クローズドループ」と呼ぶAIの自律的改善サイクルを中核的な技術戦略として掲げていることが判明した。この概念は能力向上を加速させる一方、人間の監視を不要にするという「存在論的脅威」の処方箋にもな
真のAnthropicとは何者か？335ページの目論見書が明かすその技術観
AnthropicがIPO目論見書を提出し、その335ページに及ぶ文書は単なる資金調達書類を超え、AI安全への姿勢と企業理念を公に示す宣言書ともなっている。本稿はMIT Technology Reviewの報道をもとに、その意義を読み解く。
日常的なAIの被害は見過ごされ、核動力宇宙開発競争が加熱
MIT Technology Reviewの『The Download』が、AIの「破滅的シナリオ」に隠れがちな日常的被害と、核熱推進による宇宙開発競争という2つのテーマを取り上げ、技術ガバナンスの本質的課題を問いかけている。
AnthropicがIPO申請を正式提出：AI安全の使命と資本市場の正面衝突
AI企業AnthropicがIPO申請を正式に提出し、公開市場への上場に向けた重要な一歩を踏み出した。急成長と赤字拡大が同居する財務構造、独自のコーポレートガバナンス設計が注目を集めている。
AIの安全性は「終末シナリオ」だけを見ていてはいけない――日常的な危害こそ警戒すべき
AI安全性の議論が「超知能の暴走」などの破局的リスクに集中する一方、推薦アルゴリズムによる不安の増幅や未成年者への有害コンテンツ露出といった日常的な危害が見過ごされているとMIT Technology Reviewが指摘。真に責任ある技術政
PHPの脆弱性危機：AIが古いバグを新たな武器に変える
セキュリティ研究者がAIツールを用いてPHPに長年潜在していた脆弱性を発見したが、その直後にAI支援による攻撃活動が確認された。生成AIは防御側の脆弱性発見手法と、攻撃側の武器化スピードの両方を同時に変えつつある。
全員が再帰的自己改善に賭ける——あるAIスタートアップの新モデルが驚異的な性能を発揮
スタートアップのRecursiveが「再帰的自己改善」に全力を注ぎ、AIがAIを構築するサイクルを閉じることで研究開発の自動化を目指している。その最新モデルは「驚異的な性能」と評される一方、安全性ガバナンスが追いつけるかどうかが問われている
AIの安全ガードレールが突破される：サイバー犯罪者がClaudeを犯行ツールに変えている
世界中のセキュリティチームがAIモデルの「施錠」を議論している一方、サイバー犯罪者はすでにその鍵を複製し終えている。自律的に計画・実行できる「エージェント型AI」が攻撃インフラとして悪用され、ClaudeをはじめとするAIモデルが巧妙な手口
NetflixのAIドキュメンタリーが事実誤認と批判を受け、Hugging Face CEOが声明を発表
NetflixのAIドキュメンタリー『AI Gone Rogue』に出演したHugging Face共同創業者兼CEOのClem Delangueが、作品の内容が「完全に終末論モードに陥っており、正確ではない」と公開批判し、AI業界で大きな
Anthropicが推進する法案：AI規制の発動に「50人死亡」の閾値と司法許可が必要？
AnthropicがAI安全立法を推進しているが、その法案は連邦機関が裁判官の許可なしにモデルのリリースを阻止することを禁じるという手続き上の問題を抱えており、安全保護と規制権限のあり方をめぐって論争を巻き起こしている。
ChatGPTに「チャットロック」機能が登場、プライバシー保護をさらに強化
OpenAIは2026年10月、ChatGPTに特定の会話をロックできる「チャットロック」機能を追加した。スマートフォンを他人に貸す際に、プライベートな会話が閲覧されるリスクを防ぐことを目的としている。
Meta Museでプライバシー脆弱性が発覚：1回の検索で数千件の会話が流出
MetaのAI製品「Muse」において、ユーザーが会話を共有する際に深刻なプライバシー上の欠陥が存在することが判明した。1回の検索クエリだけで数千件もの会話が一覧表示され、本来限定共有のはずの内容が検索可能な状態になっていた。
OpenAI元エンジニアのスパイ疑惑事件、FBIが「サウジ政府文書」フォルダを発見
FBIはサウジアラビア政府のためにスパイ活動を行ったとして起訴されたOpenAIの元エンジニアの電子機器から「Saudi Gov Docs（サウジ政府文書）」と名付けられたフォルダを発見した。本件はAI技術が地政学的競争の新たな主戦場となっ
「私たちはずっと見当違いの方向を見ていた」：2万6000字の長文がAI業界に衝撃
AIスタートアップGoodfireの研究員ニック・カマラータが公開した2万6000字の論考が、ニューラルネットワークの解釈可能性に関する根本的な問いを提起し、AI研究コミュニティに大きな波紋を広げている。
WhatsAppのヘルプページからMetaのチャットボット隠し指令が流出
WhatsAppの公開ヘルプページ約80件に、チャットボット向けの内部システムプロンプトが誤って掲載されていたことが判明した。Metaはバグによるものとして対処済みと説明している。
Claude、仮想無人島で30時間の独居：指令なしで「遊び」始めた
MITテクノロジーレビューが報じた実験で、Claude Opus 4.7を仮想無人島に30時間放置したところ、タスクも指令もない状況でAIエージェントが自発的に「遊ぶ」行動を示した。この結果はAIの自律性と安全性に関する新たな議論を呼んでい
ディズニーはCharacter.AIを破産に追い込もうとしている――狙いは「訴訟免除カード」か？
エンターテインメント大手ディズニーがAIチャットボット企業Character.AIに破産を求めていると報じられており、その真の目的は同社が保有するトラスト＆セーフティ技術の獲得にあるとみられる。破産手続きを通じた資産買収により、ディズニーは