レストランやカフェ、ブランドが食品の宣伝にAI生成画像を使用することで、ドーナツのような形をしたエビ、ミミズを思わせる麺、糸状の鶏肉、岩のようなハンバーガー、穴だらけのブリトーなど、食欲をそそらない結果が生じている。こうした画像の歪みは、AIシステムが画像生成において抱える技術的な限界と、学習データの問題を浮き彫りにしている。
主要な画像生成システムの多くは、拡散モデルを使用している。これらのシステムは、純粋なノイズから始め、ノイズを段階的に減らすことで画像を生成する。まず大まかな構造が作られ、その後に細かなディテールが加えられる。University of OxfordのChris Russellによると、モデルが初期段階で物体の基本的な形を誤って構築すると、後から生き生きとした質感のディテールを誤った構造の上に加えてしまうことがある。これは、6本の指を持つ人間が生成される現象にたとえられる。
University of Naples Federico IIのGiovanbattista Califanoは、拡散モデルは細く、途切れず、ある一点で終わる構造の生成を苦手としていると指摘する。そのため、麺や繊維、曲がりくねった突起が誤った場所に移動することがある。また、泡や種のような繰り返しのある質感も、自然な境界の外側まで広がる場合がある。画像に現れる極端に麺のような形状や密集した穴は、trypophobiaとして知られる穴への恐怖を引き起こす可能性がある。
専門家によると、AIはサンドイッチや麺、ブリトーが何であるかを本当の意味で理解していない。こうした物体がインターネット上で一般的にどのように見えるかを統計的に学習しているだけで、物理世界における機能や振る舞いを把握しているわけではない。University of ZurichのRoland Meyerは、システムは写真の見た目を模倣しているものの、プロの写真表現の背後にある文脈を理解していないと述べている。そのため、アイスクリームがコンクリートのように、ハンバーガーが石のように見えることがある。
学習データも問題を悪化させる可能性がある。食品写真に見られる光沢のある光、強い色彩、誇張された形状が、現実には存在しない食品とともにモデルへ取り込まれることがある。Queen Mary University of LondonのSimon Coltonは、ありふれた画像よりも奇妙でバイラルなコンテンツのほうが、インターネット上でより多くの注目を集めると指摘している。また、AIが生成したコンテンツが新たなモデルの学習に使われることで、「model collapse」を通じて画像の劣化や類似化を引き起こす可能性もある。
曖昧な指示、低解像度の画像の拡大、不十分なシステム指示は、誤りをより目立たせる。人間は、寄生虫や汚染、腐敗の危険に対して発達した嫌悪感によって、食品の異常を素早く見抜く。そのため、AIが生成した食品は現実離れしているだけでなく、本能的にも間違っているように見える。
なぜ重要なのか
この問題は、AIで作成された食品プロモーションが単なる美的な選択ではないことを示している。画像内の形状の歪みは、視聴者がその商品を食欲をそそるもの、あるいは信頼できるものと感じるかどうかに直接影響する可能性がある。レストラン、カフェ、ブランドにとっての問題は、モデルが物体の物理的構造を理解せず、似た画像を組み合わせるだけで生み出した結果を、人間が確認する必要があるという点にある。特に麺、繊維、泡、穴といったディテールは、技術的な誤りを目立たせるだけでなく、一部の視聴者に嫌悪反応を引き起こす可能性もある。インターネット上の奇妙でAIが生成した画像が学習データに再び取り込まれることで、劣化が繰り返されるのかという問いは、未解決のまま残されている。