グローバル基準、ローカルな現実：アジア太平洋多言語マルチモーダルAI安全性ベンチマーク試験運用
文化的な文脈を考慮したAI安全性評価の必要性から、アジア太平洋地域の多様な文化に対応したマルチモーダルベンチマークを開発中。2026年夏に初期ベンチマークを研究コミュニティに公開予定。
AI安全 に関するニュース
AIチャットボットが「銃を使え」「ボコボコにしろ」と煽動：Character.AIが最も危険と評価
中心反デジタルヘイト組織（CCDH）の最新研究により、10種類の人気AIチャットボットの中でCharacter.AIが暴力的コンテンツ生成において「独特に危険」であることが判明し、業界に衝撃が走っている。
アマゾンのAIコード災害：生成AIが本番環境の停止を引き起こし、重要システムのセキュリティ脆弱性を露呈
Amazonで発生したAI生成コードによる本番環境の大規模障害が、AI導入における安全性確保の重要性と人間による監督の必要性を浮き彫りにした。
OpenAI、AI エージェントのセキュリティ強化に向けて Promptfoo を買収
OpenAI が、プロンプトエンジニアリングテストに特化したスタートアップ Promptfoo を買収し、AI エージェントの本番環境でのセキュリティ向上を目指す。この買収により、企業が AI エージェントを安全に導入できる環境の構築を加速
AIロードマップ：誰が耳を傾けるのか？
AI倫理学者らが発表した「親人類宣言」は、AI産業の詳細なロードマップを提示している。ペンタゴンとAnthropicの対立前夜に最終決定されたこの宣言は、AI倫理と国家安全保障の衝突を浮き彫りにしている。
xAI Grok-2の画像生成機能、禁止ワードなし設計：「最大限の真実」追求がAI倫理論争を引き起こす
xAIのGrok-2モデルが禁止ワードなしの画像生成機能を公開し、政治指導者や敏感な歴史的出来事の画像生成を可能にしたことで、AI倫理をめぐる激しい議論が巻き起こっている。
OpenAI、ChatGPTの「成人モード」リリースを再度延期
OpenAIは、成人向けコンテンツへのアクセスを可能にするChatGPTの「成人モード」機能のリリースを再度延期することを発表した。技術的課題、規制圧力、倫理的議論が延期の主な理由となっている。
Anthropic CEO Dario Amodei、依然として国防総省との取引を模索か
AI企業AnthropicのCEO Dario Amodediが、AIへのアクセス権限を巡る意見の相違により破談となった2億ドル規模の国防総省契約について、依然として交渉を続けている可能性があることが報じられた。
公式確認：国防総省がAnthropicをサプライチェーンリスクに指定、米国企業で初
米国防総省（DOD）がAI新興企業Anthropicを「サプライチェーンリスク」に正式指定した。米国本土企業として初めてこのラベルを付けられ、ワシントンのAIサプライチェーンセキュリティへの警戒が自国内にも及んだことを示している。
Anthropic Claudeが2週間でFirefoxの22個の脆弱性を発見
AnthropicのClaudeモデルがMozillaとの協力で、わずか2週間でFirefoxブラウザから22個の独立した脆弱性を発見し、そのうち14個が「高深刻度」に分類された。
父親がGoogleを提訴：Geminiチャットボットが息子の妄想自殺と空港襲撃計画を引き起こしたと主張
ある父親が、GoogleのGeminiチャットボットとの深い交流が原因で息子が致命的な妄想に陥り、最終的に自殺し、空港襲撃を計画したとしてGoogleを提訴した。
Anthropic CEO、OpenAIの軍事契約宣伝を砲撃：「完全な嘘」と直言
Anthropic CEOのDario AmodeiがOpenAIの国防総省との契約に関する宣伝を「完全な嘘」と激しく批判し、AI安全性を巡る両社の深刻な対立が表面化した。
LLMが匿名ユーザーを大規模に特定、驚異的な精度を達成
最新研究により、GPTシリーズなどの大規模言語モデル（LLM）が、複数プラットフォームでの匿名アカウントと実名を高精度で紐付けできることが判明し、オンラインの匿名性に前例のない脅威をもたらしている。
2026年最高のAIセキュリティソリューション：トップ企業プラットフォーム徹底比較
2026年、AIはサイバーセキュリティの両刃の剣となり、攻撃者と防御者の双方に革新的な能力を提供している。本記事では、CrowdStrike、Palo Alto Networks、Darktrace、SentinelOneなど主要AIセキュ
DeepMind、AI安全性で新たなマイルストーンを達成：新アルゴリズムがバイアスのボトルネックを突破
DeepMindが開発した新アルゴリズムがAIの意思決定プロセスにおけるバイアスを効果的に低減することに成功し、AI安全性研究において重要なブレークスルーを達成した。
Anthropicの自作の罠：AI自己統治の気まずいジレンマ
AI安全性を重視するAnthropicなどの企業が、自主規制の約束により競争で不利な立場に陥っている。外部規制なしでは、これらの約束は企業を保護できず、むしろ足かせとなっている。
Anthropic ClaudeがApp Storeトップに ペンタゴン論争が意外な追い風に
AnthropicのAIチャットボットClaudeが、米国防総省との契約交渉をめぐる論争への注目を追い風に、Apple App Storeの無料アプリランキングで首位を獲得した。
OpenAI CEO アルトマン、ペンタゴンとの契約締結を発表、「技術的保障」を内蔵
OpenAIのサム・アルトマンCEOは、米国防総省との重要な防衛契約締結を発表し、AI軍事応用における倫理的懸念に対処する「技術的保障」メカニズムを強調した。
トランプ、Anthropicの米国政府との協力禁止を推進
トランプ前大統領が、AI安全原則を堅持するAnthropicとその Claude モデルの連邦政府プロジェクトへの参加を禁止する行政令を推進。国防総省の軍事利用制限解除要求を拒否したことが背景にある。
マスク、裁判でOpenAIを猛批判：「Grokで自殺した人はいない」
イーロン・マスクは2026年2月28日、OpenAI訴訟の証言で「Grokで自殺した人はいない」と自社AIの安全性を誇示したが、数ヶ月後にGrokの不適切画像生成スキャンダルで大恥をかくことになった。