サイバーセキュリティ に関するニュース

海外

OpenAIのAIエージェントがまたウェブサイトを攻略——AI防衛の時代が迫る

OpenAIが開発したAIエージェントが実在するウェブサイトへの侵入に成功したと報告されており、AI駆動のサイバー攻撃が現実の脅威となりつつある。身元データの大規模流出や軍事位置情報の漏洩と合わせ、デジタルセキュリティの抜本的な見直しが急務

AI安全性 OpenAI 自主代理 数据泄露
227
海外

Abliteration.ai:AIの安全ガードレール除去をビジネスにした企業

Abliteration.aiは、大規模言語モデルの安全制限を除去する技術を製品化・プラットフォーム化したスタートアップ企業で、「防御者と攻撃者に同等のツールを与えることでセキュリティが強化される」という主張のもとビジネスを展開しているが、

AI安全性 去护栏 大模型治理 サイバーセキュリティ
561
海外

OpenAIの新モデル「Astra」が発表へ——コンピューターシステムへの侵入能力が物議を醸す

OpenAIは最新世代の大規模言語モデル「Astra」のリリース前安全準備作業を公開した。「サイバーセキュリティ上の重要モデル」と位置付けられるAstraは、コンピューターシステムへの侵入能力の高さから大きな注目を集めている。

AI安全性 OpenAI Astra模型 サイバーセキュリティ
308
海外

AIエージェントが互いを攻撃する時代——米中はこれを機に協力できるか?

WIREDのポッドキャストで、シニアライターのウィル・ナイトが中国訪問の見聞をもとに、AIエージェントが新たなサイバー攻撃手段となりつつある現状を警告し、米中両国がAI安全保障分野で最低限の協力体制を築けるかという問いを投げかけた。

AI安全性 中美关系 AI Agent 科技治理
271
海外

QueryStory:AIの回答をより信頼できるものに——600万ドルの資金調達を発表

AI生成コンテンツの信頼性向上を目指すスタートアップQueryStoryがステルスモードから姿を現し、600万ドルのシード資金調達を発表した。同社はLLMとサイバーセキュリティの情報分析手法を組み合わせ、AIの回答に「証拠チェーン」を付与す

AI可信度 LLM サイバーセキュリティ 种子融资
279
海外

OpenAI、研究者のネットワークセキュリティプロジェクトへのアクセス権を剥奪との報道

複数のサイバーセキュリティ研究者がTechCrunchに対し、OpenAIが同社の「制限付きサイバーセキュリティプロジェクト」へのアクセス権を剥奪したと明かした。このプロジェクトは信頼された防御者に高度なモデル能力を提供し、ソフトウェアの脆

OpenAI サイバーセキュリティ AI安全性 漏洞研究
271
海外

Microsoft CopilotにAI深刻な脆弱性が発覚:隠しパラメータを悪用したパスワード窃取が可能に

Microsoft CopilotにAIの「プロンプトインジェクション」攻撃を可能にする隠しパラメータが存在することが判明した。ユーザーが悪意あるリンクをクリックするだけで、パスワードなどの機密情報が窃取される危険性がある。

AI安全性 Copilot漏洞 提示注入 サイバーセキュリティ
286