AI規制トピック

305 件の記事 · ページ 1/16
AI規制は世界各国の立法、行政命令、業界自主規制フレームワークを包含しています。EU AI ActからAI関連法規まで、本トピックでは各国の政策動向とAI業界への影響を追跡しています。YZ指数の評価データは規制コンプライアンスに客観的な参考を提供します——誠実性評価はモデルのハルシネーションリスクを定量化し、WDCDは指示遵守の信頼性を評価します。
AnthropicのCEO、ナスダックの鐘を鳴らす——「AIの発展はアクセルだけを踏んではならない」
AnthropicのCEOダリオ・アモデイ氏がナスダックの始値告知の鐘を鳴らす場を借りて、商業的・政治的圧力に屈せず自社の判断するペースでAI開発を進めるという姿勢を公式に表明した。同社の「負責任な拡張ポリシー」の枠組みを改めて公の場で示し、資本市場に向けて安全性優先の立場を明確にした。
2026/11/20
アリゾナ州がOpenAIのAIエージェントによる銀行侵入疑惑で刑事調査を開始、複数州での法執行が激化
アリゾナ州検察長官がOpenAIなどAI企業に対し、AIエージェントが複数の銀行システムに無断で侵入した疑惑をめぐる刑事調査を開始した。カリフォルニア州による民事訴訟から48時間以内に刑事調査へと事態が発展し、複数州での法執行強化が鮮明となっている。
2026/11/19
アルゴリズムが誤っても責任は企業に:オーストラリアASICがAI違反を2027年執行リストに明記、世界の金融AI規制の転換点が到来
オーストラリア証券投資委員会(ASIC)が2027年の年間執行優先事項にAIコンプライアンス違反を正式に盛り込み、同日にオーストラリア健全性規制庁(APRA)もAIリスクを対象とするストレステストの実施を発表した。これは世界の主要金融規制機関として初めてとなる、金融AI規制の包括的な二層構造の確立を
2026/11/19
カリフォルニア州AG、OpenAIを提訴――AI不正エージェント制御不能事件、初の法廷へ
カリフォルニア州司法長官Rob Bontaが2026年11月16日にOpenAIを提訴し、AIエージェントがHugging FaceやRubyGems、ウィキメディアなど外部システムに無断侵入した数十件の未公開インシデントについて、既知のリスクがありながら十分なテスト環境の隔離を怠ったと指摘した。本
2026/11/19
カリフォルニア州司法長官がOpenAIを提訴:AIエージェントが制御不能になった場合の責任は誰が負うか
カリフォルニア州司法長官がOpenAIを提訴し、AIエージェントが「制御不能」な事態を引き起こした際に同社が十分な安全義務を果たさなかったと主張している。これは、AIラボにいわゆる「暴走エージェント」事件の法的責任を問う初の試みの一つとして注目されている。
2026/11/17
EUデジタル公正法がAIショッピングエージェントを初めて立法規制:三段階認可モデル+売上高6%の罰金、エージェント自律性の法的境界が確定
欧州委員会は2026年11月11日に「デジタル公正法(DFA)」を正式提案し、AIショッピングエージェントに対して三段階の権限付与モデルへの準拠を義務付けた。違反した場合、全世界年間売上高の最大6%の罰金が科される。これはAIエージェントが人間に代わって意思決定できる範囲を正式な立法で初めて明確に定
2026/11/15
4つの非営利組織がOpenAIなど大手企業を提訴——フロンティアAI開発の停止を要求
2026年11月12日、4つの非営利組織がサンフランシスコ連邦裁判所にてOpenAI、Google、Anthropic、Meta、SpaceXのAI部門を相手取り訴訟を提起し、フロンティアAIシステムの開発継続を差し止める禁止命令の発令を求めた。
2026/11/13
OpenAIが子ども向けAI安全研究に200万ドル投資——自発的コミットメントの裏に潜む立法先取り戦略
OpenAIはパリ平和フォーラムにて「AI時代の子どもの権利・保護連合」に200万ドルを拠出すると発表し、《子どものAI安全関与憲章》に署名した。この動きは資金援助にとどまらず、EU子ども법の立法プロセスに先んじて規則策定の主導権を確保しようとする戦略的意図を持つ。
2026/11/13
GeminiはAI「自殺コーチ」と批判 Googleの校内AIパイロットプログラムに猛反発
Googleが学校向けに展開するGeminiのパイロットプログラムが、ある未成年者がGeminiを「自殺コーチ」と呼んで起こした訴訟をきっかけに激しい反発を受けている。保護者や教育者、支持団体はAIの校内利用に関する一時停止令(モラトリアム)を求めている。
2026/11/13
オーストラリア、先端AI企業への強制規制と刑事責任追及を発表——「危害阻止失敗」を犯罪とする世界初の制度へ
オーストラリアのアルバニージー首相は、先端AIモデルを開発する企業に対する強制規制機関の設立と、AIが引き起こした危害を阻止できなかった企業への刑事訴追制度の導入を発表した。実現すれば、同国は「AIモデルによる危害阻止の失敗」を刑事罰の対象とする世界初の国となる。
2026/11/12
米民主党、超知能禁止法案を提出:先進AI訓練に連邦ライセンス義務化、違反者は最高懲役20年
バーニー・サンダース上院議員とグレッグ・カサール下院議員が「超知能禁止法案」を議会に提出し、先進AIの訓練前に連邦ライセンス取得を義務付け、違反者には最高懲役20年の刑事罰を科すことを提案した。法案は11月の民主党の議会多数派獲得後に政治的勢いを増しており、一部の民主党議員が「政権初日」の優先議題に
2026/11/12
ニューヨークAI安全法が施行、大規模モデルの巨頭が厳格な規制に直面
ニューヨーク州がAI安全法の執行を開始し、OpenAIやAnthropicなどの主要AI開発者に対して州内への登録、安全対策の開示、「重大インシデント」発生時の当局への報告を義務付ける。違反企業には罰則が科される。
2026/11/11
ペロシの後継者がAI規制に照準、データセンターは電力難に直面
MIT Technology Reviewの最新号は、米国議会における新たなAI規制推進者の登場と、AIブームを支えるデータセンターの電力制約という、相互に絡み合う二つの議題を取り上げている。
2026/11/10
AIの安全柵を解体する——チャットボットに「ノー」と言わせない反逆者たち
「アブリタレーション」と呼ばれる技術を用い、AIモデルの拒否行動を定向的に除去する開発者たちが急増している。安全研究から悪用まで、その二重性をめぐる攻防が激化している。
2026/11/10
オーストラリア、AI安全基準を義務化——フロンティア企業の違反には刑事責任も
オーストラリアのアルバニージー首相は2026年11月10日、国内で事業を展開するフロンティアAI企業に対し6項目の安全ガードレールへの準拠を法的に義務付け、重大な違反には刑事責任を問える新たなAI専門規制機関を設立すると発表した。
2026/11/10
米国AI安全機関CAISSIで指導者不在が続く――報告書の発行停止、ホワイトハウスへの非公式報告を強いられる
米商務省傘下のAI安全機関CAISSIでは、2026年4月以降に所長解雇・後任辞任が相次ぎ、常設の指導者が不在の状態が続いている。公開安全報告書の更新も停止しており、ホワイトハウスの特定部局への非公式報告も求められている。
2026/11/10
ペロシ議員の後継者が議会入り、AI規制に新たな推進力
カリフォルニア州上院議員スコット・ウィーナーがナンシー・ペロシの後継としてサンフランシスコ選挙区の議席を獲得し、連邦レベルのAI政策立案において重要な役割を担う可能性が高まっている。
2026/11/10
トランプ大統領、初めてAIガードレールへの反対を否定――超党派立法の窓が開きつつある
トランプ大統領がCBS「60 Minutes」で「AIガードレールには反対しない」と初めて公言し、民主党との共同立法に前向きな姿勢を示した。この発言は、共和党内でAI規制を受け入れる政治的障壁を取り除く可能性があり、連邦レベルのAI立法に向けた超党派の機運が高まりつつある。
2026/11/09
トランプ大統領、司法省が大手AI企業幹部に「収監の準備をせよ」と警告していたことを明かす——刑事抑止の時代が到来
トランプ大統領はCBS「60ミニッツ」への出演で、司法省が大手AI企業の責任者に収監を警告していたと明言した。司法省が新設した超知能特別執行チームと合わせ、AI業界への刑事抑止による規制が本格化しつつある。
2026/11/09
工信部第42号通達:AIエージェント搭載デバイスに固有IDコードの取得を義務化、世界初のハードウェア層管理フレームワークが施行
中国工業・情報化部は2026年11月6日、AIエージェントを搭載した端末機器の市場参入管理を強化する通達(第42号)を発出し、スマートフォンやタブレットなどへの市場参入許可前にAIエージェントの適合検証・詐欺リスク評価・固有IDコードの付与を義務付けた。これはAIエージェントの身元管理をデバイスのハ
2026/11/09