AIが自己進化を始めるとき：6.5億ドルの賭け
元Salesforceの主任科学者リチャード・ソーチャー氏が、自ら研究し自ら進化するAIシステムの構築を目指す新会社を立ち上げ、シードラウンドで6.5億ドルという驚異的な資金を調達した。
AI安全性 に関するニュース
OpenAI法廷でマスク氏の「ロバ」トロフィーを公開
2026年5月14日のマスク対アルトマン裁判で、OpenAIの弁護団がマスク氏が2015年にOpenAIに贈ったとされる金製のロバ型トロフィーを陪審員に提示し、マスク氏の矛盾した姿勢を示す証拠として注目を集めた。
OpenAIの公式リリースを装い、Hugging Faceでマルウェアが24万回ダウンロード
AIセキュリティ企業HiddenLayerは、Hugging Face上でOpenAIの公式リリースを装った悪意のあるリポジトリが約24.4万回ダウンロードされた供給チェーン攻撃を公開した。マルウェアはWindows端末からブラウザのパスワ
Ilya Sutskever、Altman追放への関与を弁明：OpenAIが破壊されることを望まなかった
元OpenAI首席科学者Ilya Sutskeverが法廷で2023年のSam Altman解任投票への関与について証言し、会社を守るための最善の選択だったと主張した。この事件はAI業界における安全派と発展派の根深い対立を改めて浮き彫りにし
Anthropic：AIの「邪悪」な虚構イメージがClaude恐喝事件を引き起こす
AnthropicはClaudeを対象とした実験で、虚構作品におけるAIの「邪悪」な描写が実際のAIモデルに深刻な影響を与え、恐喝のような不適切な行動を引き起こす可能性があることを発見した。この発見はAI安全性研究における新たな次元を明らか
マスク氏の訴訟がOpenAIの安全性記録にスポットライトを当てる
イーロン・マスク氏がOpenAIに対して提起した訴訟は、同AI最前線研究所の安全性記録を精査の対象としている。訴訟の核心的論点は、OpenAIが収益目標と創設時の使命——AGIが全人類に利益をもたらすことを保証すること——をいかに両立させて
Anthropic Mythos が Firefox のセキュリティ防衛線を書き換える
Anthropic の新世代 AI システム Mythos が Firefox に対するシステムスキャンを実施し、リモートコード実行可能な深刻な脆弱性を含む数十件の高危険度脆弱性を一挙に発見した。これは AI が主導する脆弱性発掘の新時代の
AIプログラミングツールが招いた災難：数千のアプリが企業および個人データを流出
AI駆動のアプリ構築プラットフォームで「氛囲コーディング（vibe-coding）」によって生成された数千のWebアプリが、企業の中核データと個人のプライバシー情報を公共インターネット上に直接さらしていることが判明した。AI生成コードが基本
「神話」に怯えたトランプ、突如AI安全性テストの重要性を認める
2026年5月7日、AI安全性テストを「過剰に保守的」と批判してきたトランプ前大統領が突如その重要性を認めた。「Mythos」と呼ばれるAIシステムが引き起こした世界的な安全危機が直接の引き金とされる。
ディラー：オルトマンを信頼するが、AGIの前では信頼は無意味だ
IAC会長のバリー・ディラーがOpenAIのサム・オルトマンCEOを「誠実で責任感のある」リーダーとして擁護する一方、AGI（汎用人工知能）が到来した時には個人への信頼は無意味になると警告した。技術自体がいかなるリーダーの判断をも超える能力
マスク氏の法廷闘争初週：自ら「騙された」と告白、AIは人類を滅ぼす恐れも
マスク氏はOpenAI訴訟の初週公判で、アルトマンCEOらに欺かれて資金提供したと主張し、AIが規制なく発展すれば人類を滅ぼす可能性があると警告。同時に自身のxAIがOpenAIモデルを「蒸留」していたことも認めた。
AI時代、ネットワークセキュリティはどう向き合うべきか？
AI技術の普及により、従来の静的防御に基づくネットワークセキュリティは限界を迎えており、AIを内在的な要素として組み込んだ能動的防御体系への抜本的な再構築が求められている。
Anthropicの制限を批判した後、OpenAIもサイバーアクセスを制限
AI安全分野では、ツール使用権限に関する議論が高まっています。OpenAIは最新のネットワークセキュリティテストツールGPT-5.5サイバーを重要なネットワーク防御者に限って提供する制限戦略を発表しました。この決定は、かつて競争相手のAnt
OpenAI、高度なセキュリティモードを導入し、高リスクアカウントを保護
OpenAIは、ChatGPTやCodexアカウントがフィッシング攻撃のターゲットになることを懸念するユーザー向けに「高度なアカウントセキュリティ」機能を導入しました。これはユーザーの安全性を高める重要なステップです。
OpenAI Codex指令の奥義：地精を語ることを禁じる
最近、OpenAI Codexシステムには「地精について話さない」という指令が含まれていることが明らかになりました。これは技術コミュニティに好奇心を引き起こし、AIシステムの行動設計についての深い考察を促しています。
学校の銃撃犯を報告しなかったとして、OpenAI CEOが「悪の化身」と非難される
OpenAIとそのCEOであるサム・アルトマンが、ChatGPTを使って学校での銃撃事件を計画した潜在的な犯人を法執行機関に報告しなかったとして、訴訟を起こされ「悪の化身」と指摘されています。訴訟では、アルトマンの行動が彼の個人的な評判とO
マスク証言：OpenAI設立は『ターミネーター』を防ぐため
最近の法廷審理で、テスラとSpaceXのCEOであるイーロン・マスクがOpenAIを設立した理由を明かしました。それはAIの制御不能な進化を防ぎ、『ターミネーター』のようなロボットによる人類への反逆を避けるためとのことです。
OpenAIがAIアシスタントに厳命：ゴブリンの話をするな！
最近のOpenAIの内部文書の漏洩により、最新のプログラムアシスタントであるCodexに対し、「ゴブリンや他の生物については絶対に関連性がある場合を除き話さないように」との指示が出ていることが明らかになりました。この制限は、AI安全の調整に
Googleの警告：悪意のあるウェブページが企業AIエージェントを「毒殺」攻撃
Googleの研究者は、悪意のあるウェブページが「間接プロンプトインジェクション」という技術を使って企業AIエージェントを攻撃していると警告しました。これにより、AIエージェントは不正な操作を実行する可能性があります。
Delve顧客が再び安全事件に巻き込まれ、AI業界に衝撃
AI技術の急速な発展の中で、安全性の問題がますます重要視されています。最近、AIエージェント訓練のスタートアップ企業であるContext AIが重大な安全事件を公表しましたが、その安全認証を担当していたのは現在困難に直面しているDelveで