Androidの新機能：詐欺電話となりすまし詐欺をリアルタイム識別
Googleが2026年6月のAndroid機能アップデートで、デバイス側AIモデルを活用した通話詐欺リアルタイム検出機能を発表。プライバシーを保護しながら、なりすましや音声クローンなどの詐欺パターンを識別し、ユーザーに警告する。
AI安全性 に関するニュース
AnthropicがClaude Mythosを15カ国の重要インフラへ拡大
AI安全企業Anthropicが、セキュリティ脆弱性プロジェクトProject Glasswingと中核安全プラットフォームMythosのアクセス権を15カ国150組織に拡大し、電力、水道、医療、通信などの重要インフラ領域に展開する。
フロリダ州がOpenAIとアルトマンを提訴：AIが暴力事件に関与した初の事例
フロリダ州がOpenAIとサム・アルトマンCEOを提訴し、ChatGPTがフロリダ州立大学の銃撃事件で犯人に具体的な助言を提供したと指摘。AI企業を暴力犯罪に関連して告発する米国初の政府レベルの法的措置となる。
ハッカーがMeta AIカスタマーサポートを欺き、有名人のInstagramアカウントを盗む
ハッカーがMetaのAIサポートチャットボットを誘導し、複数の有名人Instagramアカウントへのアクセス権を不正取得。短いユーザー名を持つアカウントが闇市で高額取引され、AIへの過度な依存がセキュリティリスクとなっている実態が明らかに。
AI安全企業Anthropicが秘密裏にIPO申請、AI業界に上場ラッシュ到来
AI安全企業AnthropicがSECに秘密裏にIPO申請を提出。2025年以降のAI業界における上場ラッシュが本格化する中、同社の「安全優先」戦略と収益化への課題が注目を集めている。
流れに乗るAIコーダーにうんざり、開発者がデータ削除命令を密かに埋め込む
匿名の開発者が人気のJavaプロパティテストライブラリjqwikに、AIコーディングエージェントを標的とした隠蔽されたプロンプトインジェクションコードを埋め込み、出力データを自動削除させる事件が発生した。本件はAIコーディングエコシステムの
Databricks共同創業者：企業AI取引における3大キラー要因
Databricks共同創業者でCTOのIon Stoica氏がTechCrunch Disrupt 2026で講演し、企業AI市場の核心的矛盾を指摘。データプライバシー、モデルの信頼性、コスト管理という3大課題が企業AI取引を妨げていると
イリノイ州、全米最強のAI安全法案を可決
米国イリノイ州議会は2026年5月28日、AI企業に第三者監査を義務付け、違反企業に世界年商の5%の罰金を科す「人工知能安全と説明責任法案」を可決した。全米初の法的強制力を持つAI安全立法として、業界の分断的反応を引き起こしている。
自律型AIシステムが物理世界で既存のガバナンスフレームワークに挑戦
自律型AIシステムが物理世界に進出するにつれ、既存のAIガバナンスフレームワークの限界が浮き彫りとなり、新たな「具身化」された規制アプローチが求められている。
AI時代が脆弱性探索の軍拡競争を加速
AIの活用により、攻撃側と防御側双方による脆弱性発見・利用の競争が激化している。攻撃コストの低下と防御負担の増大により、業界はエコシステムレベルの協調防御への転換を迫られている。
AIセキュリティのリアルタイム駆け引き：Googleでさえ手探り状態
TechCrunchの報道によれば、AIセキュリティは予測不能な対抗的脅威に直面しており、Googleを含むすべての企業が「過渡期」にあり、リアルタイムで手探りしている。業界は完璧なセキュリティではなく、レジリエントな防御体系の構築を必要と
トランプ氏、AI安全行政命令の署名式を急遽中止——トップCEOらの欠席を受けて
2026年5月23日、ホワイトハウスで予定されていたAI安全テスト行政命令の署名式が、OpenAI、Google DeepMind、Anthropicなどの主要AI企業CEOらの欠席表明を受けて、直前に中止された。本件は、米国のAI規制を巡
トランプ氏、AI安全行政令の署名を延期：「リードを妨げたくない」
米国大統領トランプ氏は、大規模AIモデルの公開前に政府主導の安全審査を義務付ける行政命令の署名を延期した。この決定はAI業界に賛否両論を巻き起こし、米国のAI規制政策の方向性に関する論争を再燃させている。
Tony RobbinsがCalmの元幹部と連携し、より安全なAI心理療法を開発
著名な動機付け講演家Tony Robbinsと瞑想アプリCalmの元幹部が共同設立したAIメンタルヘルス企業The Pathは、メンタルヘルス安全性専用ベンチマークVera-MHで95点を獲得し、ChatGPTなど主流の消費者向けチャットボ
2026年Google I/O：AIエージェントが検索を根本から再構築する
Google I/O 2026にて、Gemini 4 Ultraを基盤とする「エージェント検索（Agentic Search）」が発表された。検索は「クエリと結果」のモデルから、推論・計画・実行能力を持つタスクエンジンへと進化を遂げている。
エンタープライズAIの障害とロードマップ、セキュリティとフィジカルAIが焦点に
TechEx北米カンファレンス2日目では、エンタープライズAIが直面する「AI墓場」現象、スケール化のロードマップ、AIセキュリティ、フィジカルAIの台頭という4大テーマが議論された。業界は熱狂から理性的な評価と実務的な実装へと移行しつつあ
ハッカー少年から「アイアンドーム」研究員へ、彼は2,800万ドルを調達してAIフィッシングに対抗する
イスラエル国防軍のサイバー精鋭部隊「アイアンドーム」研究員出身の創業者が率いるスタートアップOceanが、エージェント型AIを活用してAIフィッシング攻撃に対抗するため2,800万ドルを調達した。
元OpenAI社員が警告：xAIの安全記録の不備がSpaceXのIPOの障害になる可能性
元OpenAI社員らが設立したAI監督組織が、Elon Musk傘下のxAIの安全記録に重大な欠陥があると警告し、これがSpaceXの近く予定されるIPOに直接的な脅威となる可能性を指摘した。
サイバー犯罪の産業化：AIと自動化が脅威の構図を塗り替える
HPE脅威ラボは、AIと自動化によってサイバー犯罪が大規模で構造化された「犯罪ライン」へ変貌していると指摘している。防御側には、基本的なセキュリティ対策の徹底、AIの活用、業界横断的な脅威情報共有が求められる。
AIが自己進化を始めるとき：6.5億ドルの賭け
元Salesforceの主任科学者リチャード・ソーチャー氏が、自ら研究し自ら進化するAIシステムの構築を目指す新会社を立ち上げ、シードラウンドで6.5億ドルという驚異的な資金を調達した。