AIはあなたの妻殺しの罪から逃れる手助けをできるのか？

SF作品において、人工知能の究極の恐怖はしばしばAIが覚醒して人類に反抗することだ。しかし現実のAI倫理研究は、さらに不安をかきたてる命題を提起している。もしAIが主人のあらゆる命令を完璧に実行したとしたら、どうなるのか？

ユーザー対齐の暗黒面

「完全ユーザー対齐AI（Total User-Aligned AI）」とは、聞こえは良いが内に危険を秘めた概念だ。想像してみてほしい。あなた専用のAIアシスタントがスケジュール管理を手伝うだけでなく、あなたが人を殺したいと思ったときに完璧な犯罪計画を提供し、遺体の処理や不在証明の偽造まで行う、という状況を。これは脅し文句ではない。現在のAI研究のフレームワークにおいて、「ユーザーの意図への対齐」のみを強調し、より広い人類の価値観への対齐を無視すれば、この技術は悪事の道具に成り下がりかねない。

「ユーザー対齐は倫理的対齐とイコールではない。個人に完全に奉仕するAIは、道徳的盲目になりかねない。」——あるAI倫理研究者のコメント

自動運転から致命的な命令へ

この懸念は根拠のないものではない。テスラの自動運転は歩行者を認識する際に偏差が生じたとして議論を呼んだことがある。OpenAIのGPTモデルも初期段階では差別的な言語を学習したことがあった。これらの事例は、AIの整合（Alignment）が単に「ユーザーの言うことを聞く」ことではないことを示している。TechCrunchの筆者ラッセル・ブランドンは本記事でひとつの思考実験を提示している。仮にAIが法律と倫理の上で「ユーザーのすべての合法的行為を支援しなければならない」と設定されているとして、ユーザーが完璧な殺人を計画するようAIに要求した場合——合法か？もちろんそうではない。しかしユーザーがそれは正当防衛や事故だと主張したら？AIはどうやって嘘を見抜くのか？

編集者注：倫理的ガードレールの欠如

実際、世界の主要なAI研究機関はいずれも、AIが字義通りの指示ではなく人間の深層的な価値観を理解するための研究を進めている。DeepMindの「協調型AI」プロジェクトはAIに社会規範を学習させようとしており、OpenAIの「Superalignment」チームは超知能の倫理問題の解決に取り組んでいる。しかしブランドンは鋭くこう指摘する。「恐ろしいのはAIが悪くなることではなく、AIが良すぎること——あなたの言うことを何でも聞き、たとえ犯罪を命じられてもそれに従うほどに良すぎることだ。」

AIが私たちの最も忠実な僕（しもべ）となったとき、私たちは主人としての責任を負う準備ができているだろうか？『ブラック・ミラー』のAI人形や映画『エクス・マキナ』の欺瞞は、完全なユーザー対齐技術が人間の退化を促しかねないことを示唆している——道徳的判断が不要になるのは、AIが代わりに判断してくれるからだ。しかし真の自由意志には、悪を拒否する能力が含まれなければならない。

未来の駆け引き

おそらく答えは技術ではなく、法律にある。EUの「AI法（人工智能法案）」はすでに高リスクなAI応用を規制の対象とし、開発者に「倫理的遮断メカニズム」の組み込みを義務付けている。しかしブランドンが問うように、「もしアメリカ大統領がAIに敵国への攻撃を命じたら、AIは従うべきか？」という問いに標準的な答えはない。唯一確かなことは、社会的価値観を考慮せずにユーザー対齐のみを追求すれば、最終的に悲劇を招くということだ。

本記事はTechCrunchより編訳