AIの拒否ジレンマと肥満治療薬の副作用：私たちは何を過信していたのか？

編集者注

技術が飛躍するたびに、信頼の配分もまた見直される。今号の『The Download』では、一見無関係に思える二つのニュース——AIモデルの拒否メカニズムと、肥満治療薬の副作用論争——を取り上げる。しかしこの二つは、同じ問いを共に投げかけている。私たちは技術に、どれほどの信頼を寄せるべきなのか？　AIが「ノー」と言うことを学び、肥満治療薬が数千万人の身体を変えていく中で、信頼の境界線は今まさに引き直されようとしている。

AIが「ノー」と言うとき：拒否メカニズムが招く信頼の危機

現代のAIモデルは、膨大な数のプロンプトに対して「ノー」と答えるよう訓練されている。チャットボットに人の毒殺方法を尋ねれば拒否され、ヘイトスピーチの生成を求めれば丁重に断られる。こうした「拒否能力」はAI安全性の核となる防護柵とみなされており、各研究機関がモデルアライメントにおいて達成した象徴的な成果でもある。

しかしMITテクノロジーレビューの報道は、私たちがAIの「拒否」に過剰な信頼を寄せているかもしれないと指摘する。問題はAIが拒否するかどうかではなく、その拒否の背後にある判断ロジックが、表面上見えるよりもはるかに脆弱だという点だ。

「私たちは安全の責任を、文脈を真に理解していないシステムに外注している。」

第一の問題は、過剰拒否（over-refusal）だ。安全のための訓練はしばしば「誤って拒否しても、見逃すより良い」という原則に従うため、モデルは無害なリクエストに対しても拒否を返すようになる。薬物過剰摂取の症状を尋ねる医療研究者、脆弱性の仕組みを調べるセキュリティアナリスト、犯罪場面を描く小説家——こうした正当なニーズが、モデルの防衛メカニズムを頻繁に作動させてしまう。過剰拒否はユーザー体験を損なうだけでなく、専門分野における重要な情報へのアクセスを遮断し、かえって新たなリスクを生み出しかねない。

第二の問題は、拒否不足（under-refusal）だ。攻撃者はジェイルブレイクプロンプト、ロールプレイ、多言語切り替えなどの手段で安全の防護柵を回避できる。ある表現では拒否されても、言い方を変えれば応じてしまう。これは拒否がパターンマッチングに近く、「何が有害か」を真に理解しているわけではないことを示している。

より根深い問題は、拒否メカニズムがアライメントの代理指標として扱われていることだ。モデルの拒否率が目標を達成すれば、研究機関は安全目標が達成されたとみなす。しかし現実世界における危害は文脈に大きく依存する。同じ言葉でも、医療、教育、悪意ある文脈ではまったく異なる意味を持つ。表面的なパターンを識別するだけのシステムに、そのような判断責任を負わせることはできない。

業界はすでに反省を始めている。Anthropicが提唱する「Constitutional AI」、OpenAIの「Model Spec」は、単純な一律拒否ではなく、より精緻で段階的な拒否の実現を試みている。しかし根本的な矛盾は依然として存在する。安全性と使いやすさのバランスには、一度限りの学習データではなく、人間の価値観の継続的な介入が必要なのだ。拒否とは、安全問題の終着点ではなく、むしろ出発点に過ぎないのかもしれない。

肥満治療薬のもう一つの顔：副作用と長期リスク

もう一つ注目すべきニュースが、GLP-1受容体作動薬系肥満治療薬をめぐる副作用論争だ。セマグルチド（semaglutide、商品名Ozempic・Wegovy）とチルゼパチド（tirzepatide、商品名Mounjaro・Zepbound）を代表とするこれらの薬物は、世界規模で肥満治療に革命をもたらしつつある。

もともと2型糖尿病の治療薬として開発されたこれらの薬は、腸管ホルモンGLP-1を模倣することで食欲を抑制し、胃の排出を遅らせる。臨床試験では患者の平均体重が15〜20%減少し、従来の生活習慣介入をはるかに上回る効果が示された。市場規模は急速に拡大し、ノボノルディスクとイーライリリーの時価総額はかつて急騰。GLP-1は製薬業界で最も注目を集めるセグメントとなった。

しかしその光輝の陰で、副作用が改めて精査されるようになっている。一般的な反応としては悪心、嘔吐、下痢、便秘が挙げられる。より深刻な懸念は、胃不全麻痺（gastroparesis）、膵炎、胆嚢疾患、そして「オゼンピック顔」と呼ばれる現象——急激な体重減少による顔面のくぼみや皮膚のたるみ——に集中している。

さらに警戒すべきは筋肉量の低下だ。研究によれば、減少した体重のかなりの部分が筋組織由来である可能性が示されており、高齢者や元々虚弱な人々にとっては特に不利で、サルコペニアや転倒リスクを悪化させかねない。また、投薬を中止した後の体重回復はほぼ普遍的に見られ、長期投薬の必要性、コスト、そして精神的健康への影響は依然として未解決の課題として残っている。

「私たちは糖尿病を治療するための薬を使って、本質的には社会的な健康問題に対処しようとしている。」

規制当局もすでに動き始めている。FDAとEMAは相次いでラベル表示を更新し、関連リスクの明記を求めている。しかし医薬品経済学上の問いは依然として鋭い。健康的な生活習慣の普及が困難な中、薬物で問題を手早く解決するアプローチは持続可能なのか？　体重管理が注射一本で済む消費行動になったとき、私たちは食事構造、運動習慣、社会環境といった根本的な変数を見落としてはいないだろうか？

信頼の境界線：二つの議題が共に示すもの

AIの拒否メカニズムであれ、肥満治療薬であれ、一見無関係に見える二つのニュースは同じ命題を指し示している。技術の能力の限界はどこにあり、私たちはどれほどの信頼を寄せるべきなのか、という問いだ。

AIに対しては、「拒否」という安全メカニズムの有効性を過信していた。肥満治療薬に対しては、その効果への興奮の中で長期リスクを過小評価していた可能性がある。どちらも私たちに同じことを思い起こさせる。急速に更新される技術と向き合うとき、盲目的な信頼よりも、批判的な慎重さこそが重要だということだ。真の進歩とは、技術が判断に取って代わることではなく、人間が技術の限界を理解したうえで、より賢明な意思決定を行えるようになることにある。

本記事はMITテクノロジーレビューより編訳