祖父母がAI製の粗悪な絵本を贈りまくり、親たちはうんざり

「この『冒険家トム』という絵本では、トムの髪の毛が突然緑色になり、物語の途中で火星に飛んでしまうんです」。ニューヨーク在住のサラ・チェンは、受け取ったばかりのプレゼントを呆れ顔で見せた。それは6歳の息子の実際の写真を基にAIが生成した児童絵本だった。今年に入ってこれで3冊目、すべてテクノロジー好きな祖父母からの贈り物だ。

この一年、AI画像・テキスト生成ツールの普及とともに、新たな「心温まる」プレゼントがひそかに流行している。祖父母が孫の写真を使い、AIでオリジナルのストーリーブックを作るというものだ。こうした本はAmazonやEtsyで数ドルから30ドル程度で販売されており、子どもだけの特別な読書体験を提供すると謳っている。しかし実態は期待を大きく裏切るものだ――キャラクターの顔は歪み、背景はストーリーとかみ合わず、展開は支離滅裂で、暴力的な内容が含まれるケースさえある。

混乱した「愛情」のプレゼント

SNS上では、同様の「ホラー絵本」を共有する親が増えている。あるユーザーが投稿したAI生成の絵本『こうさぎぴょんぴょん』では、娘の写真がウサギの体に不自然に合成されており、物語は突然「ウサギが宇宙でロボットと戦う」展開に転じていた。さらに驚くことに、本文中に「機械に手を挟まれないよう気をつけましょう」という文言があり、ストーリーとは全く無関係だった。

「祖父母たちはそれをクールだと思っている――写真を何枚かアップロードするだけで本ができあがるのだから」とコラムニストのエミリー・ブラウンは指摘する。「祖父母世代は最新テクノロジーで愛情を伝えようとしているが、AIが生成するコンテンツの質がいかに低いかを認識していない」。こうした絵本は通常、粗雑なプロンプトによって生成される。モデルは「女の子」「ビーチ」「虹」といったキーワードを認識できても、ストーリーの一貫性や子どもの心理を理解することはできない。

プライバシーと倫理のグレーゾーン

問題はコンテンツの質の低さだけにとどまらない。多くのAI絵本サービスは子どもの高解像度写真のアップロードを求めるが、プライバシーポリシーは曖昧なままだ。セキュリティ研究者のジェイソン・ミラーは警告する。「これらの写真はモデルのトレーニングに使われたり、悪意ある第三者に悪用されたりする可能性がある。祖父母はデータリスクを十分に理解しておらず、孫の肖像権を簡単に第三者企業に委ねてしまっている」

さらに、親の明確な同意なしに子どもの写真を使って商業的な制作物を作ることは、関連法規に違反する恐れがある。一部のプラットフォームは「私的利用のみ」と主張しているが、生成された本がECプラットフォームにアップロードされた時点で話は複雑になる。弁護士のマーガレット・チャンは述べる。「子どもの肖像権保護はAI生成のシナリオにまで拡張されるべきだが、現行法には明らかな遅れがある」

「祖父母の愛情は理解できますが、これは愛の正しい表現方法ではありません。親が子どもに必要としているのは、質が高く心のこもった読み聞かせの体験であって、アルゴリズムの誤りだらけの印刷物ではありません」――児童発達心理学者 リンダ・カーター

編集後記：AIツールはコンテンツ制作のハードルを下げた一方で、大量の「なんちゃって個人化」商品を生み出した。祖父母たちはマーケティングの謳い文句に引き込まれ、孫の顔が載った本を贈ることがクリエイティブなプレゼントだと思い込んでいるが、ストーリーそのものが子どもの認知発達に果たす重要な役割を見落としている。この現象は、より広い社会的問題を映し出している。テクノロジーが世代間の感情表現に介入するとき、利便性と質、革新と倫理をどうバランスさせるか。おそらく最もシンプルな解決策はこうだ――「生成」ボタンを押す前に、あの支離滅裂な文章を一度読んでみることだ。

本記事はWIREDより編訳