AIのオプトアウトを強いるのはもうたくさん：デフォルトはオプトインであるべき

もう限界だ。新しいソフトウェア、アプリ、またはオンラインサービスを開くたびに、設定メニューを数分かけて探し回り、片隅に隠された「オプトアウト」スイッチを見つけなければならない。それは、強制的に有効化された生成AI機能を無効にするためのスイッチだ。これらの機能はアップデート時に自動的に有効化され、「体験の向上」という名目のもと、こっそりとユーザーのデータを分析し、コンテンツの提案を生成し、さらにはワークフローを変更することさえある。

最近の出来事で、私はとうとう限界を迎えた。普段使っているメモアプリがバックグラウンドでアップデートされた後、AI文章作成アシスタントがデフォルトで有効化されていたのだ。私が知らないうちに、そのアシスタントは文章を自動補完し、絵文字を挿入し、さらには私の技術文書まで「最適化」し始めた。無効にしようとしたところ、設定項目は三層のメニューの奥深くに埋もれており、しかも無効にするたびに、次のアップデートでこっそりと再び有効化されてしまう。これは特例ではない――Microsoft Copilot、Google WorkspaceのGemini、AppleのApple Intelligence、ほぼすべての大手テック企業が同じことをしている。

「オプトアウト」は本質的にデフォルトの同意だ。それは積極的に拒否する責任をユーザーに押し付け、企業はデータの恩恵を享受する。

デフォルトオンという「恐怖」の論理

なぜ企業はAIをデフォルトオンにしたがるのか？答えは単純だ：データだ。生成AIはモデルの訓練と改善のために、膨大なユーザーインタラクションを必要とする。ユーザーに積極的にオプトインさせようとすれば、大多数の人はそのチェックボックスにチェックを入れないだろう――未検証のツールが自分の創作プロセスに介入することを望む人などいない。しかしデフォルトオンにして無効化の入口を隠すことで、企業は素早く行動データを蓄積しながら、「大多数のユーザーが無効化していないということは、この機能を気に入っているということだ」と主張できる。これはまったくの論理的誤謬だ。

WIREDが以前報じた事例を例に挙げると、AdobeのAI画像生成機能がPhotoshopでデフォルト有効化された後、ユーザーは自分の過去の操作がモデルの訓練に使われていることに気づいたが、サブスクリプションのキャンセル手続きは極めて複雑に設計されていた。同様の行為はEUのGDPRの枠組みのもとでは巨額の罰金を招く可能性があるが、米国やその他の規制が弱い地域では、ユーザーは自力で「戦う」しかない。

ユーザーはテスターではない

イノベーションにはユーザーのフィードバックが必要なことは理解している。しかしそれは、ユーザーを無償のテスターおよびトレーニングデータとして扱う理由にはならない。ユーザー入力を分析し、コンテンツを生成し、さらにはドキュメントを修正するAIをデフォルトで有効化することは、事実上、ユーザーに「ノー」と言う機会を与えないまま、新しいインタラクションのパラダイムを強制することだ。

さらに懸念されるのは、これらのAI機能の触手がますます深くまで伸びていることだ。たとえばAppleがiOS 18で導入したシステムレベルのAI要約は、すべての通知とメッセージを自動的にまとめるもので、無効にするにはアクセシビリティ設定に入る必要がある。GoogleのGmailでデフォルト有効化されている「スマートリプライ」は、機密性の高いメールにさえ返信候補を自動生成する。これらの機能が誤用されれば、プライバシーの漏洩や不本意な事態を引き起こす可能性がある。

私はAIに反対しているわけではない――むしろ、生成AIには大きな可能性があると考えている。しかし、その可能性はユーザーの選択権を奪うことの上に築かれるべきではない。データ処理、行動分析、またはコンテンツの自動生成に関わる機能であれば、そのデフォルトのオン・オフの論理は極めて重要だ。

解決策：「オプトイン」を標準にする

業界はデフォルト設定の変革を必要としている。ユーザーのプライバシー、作業習慣、または創作の自主性に関わるセンシティブなAI機能については、デフォルトでオフにした上で、明確なガイダンスを通じてユーザーが自ら有効化を選択できるようにすべきだ。これは「プライバシー・バイ・デザイン」の原則に合致するだけでなく、テック企業が信頼を再構築するための必須の道筋でもある。

AppleがiOS 14でアプリにトラッキング許可のリクエストを義務付けた際、デフォルトオンではなく「透明性」のオプトインを選択したことは、一つのテンプレートとなるべきだ。

ユーザーとしてできることには限りがある：アップデートのたびに設定を確認し、不要なAI機能のスイッチを勇気を持ってオフにし、ソーシャルメディアで声を上げること。しかし真の変化には、規制と業界の自律が必要だ。EUの「AI法（AI Act）」はすでに高リスクなAIシステムに透明性の義務を課しているが、デフォルトオンの「低リスク」機能は依然としてグレーゾーンにある。

私は、あちこちで繰り広げられるこの「オプトアウト」モグラ叩きゲームにうんざりしている。次にデフォルトオンのAI機能をリリースする際には、ぜひ覚えておいてほしい：すべてのユーザーが設定メニューを掘り起こす時間や意欲を持っているわけではない。私たちの選択を尊重し、決定権を返してほしい。

本稿はWIREDより編訳