AIが作成したレストランのメニューに掲載された料理の画像は、完璧な左右対称性、過度になめらかな質感、そして現実に近い見た目でありながら不気味さを感じさせる点で注目を集めている。Reality DefenderのCTOであるAlex Lisleは、こうした画像を、基本原則を理解しないままピザを作ろうとする宇宙人にたとえている。一部の例では、チーズが異常に膨らんでいたり、エビが自分の尾を食べているように見えたりするため、人工的に生成されたものだと明らかに分かる。一方で、多くの画像では、問題に気づくのはより注意深く見た場合に限られる。
Lisleによると、この美的傾向はAIモデルの訓練方法と関係している。ChatGPTやMidjourneyなどのシステムで使われている大規模言語モデルや拡散モデルは、非常に大規模なデータセット内のパターンを学習し、ユーザーの要望に合ったコンテンツを生成しようとする。そのため、バーガーレストランのメニューを求められた場合、Wendy’s、Burger King、McDonald’sといったチェーンの、互いによく似たメニューのスタイルを基にすることがある。Lisleは、生成された画像が時に「2015年から残っているChili’sのメニュー」のように見える理由も、モデルが学習したデータセットにあると説明している。
AIが生成したコンテンツが再学習用データに取り込まれることで、モデルが自らの出力を材料に学習することになり得る。この状況が過度に進むと、「モデル崩壊」のリスクが生じる。Lisleはこれを、あるモデルの出力が繰り返しそのモデル自身に与えられることで生じる近親交配にたとえている。ただし、メニューで見られる現象は直接的なモデル崩壊ではなく、出力の品質を低下させる「収束」だと指摘している。Elon UniversityのImagining the Digital Future CenterのディレクターであるLee Rainieは一方で、モデルが攻撃的ではなく「好まれる」コンテンツを選ぶよう最適化されることで、画像や言語における識別しやすい特徴が削られ、均質化につながっていると述べている。
XでLabtecというユーザーが行った実験では、ChatGPTで作成したメニューを100回編集した結果、料理の画像が次第により丸く、滑らかになっていくことが確認された。TechCrunchも同様の実験を繰り返した。レストランが価格や商品名を変更するためにメニューを何度も編集すると、同じ効果が生じる可能性があるとされている。
ドイツのUniversity of Duisburg-Essenの研究者らは、AIが生成した料理の画像に「不気味の谷」現象が見られることを突き止めた。ほとんど現実のものに見える画像は、明らかに偽物の画像よりも強い嫌悪感や不安を引き起こす。この反応は、AIコンテンツに対する文化的な不信感とも重なっている。Lisleは、画像や音声の記録が証拠として疑いなく受け入れられていた時代は終わりを迎えており、その影響は裁判所を含むより広い分野に及んでいると指摘している。
なぜ重要なのか
これらの調査結果は、レストランがメニューを作成する際、視覚的な品質だけでなく、AIの出力を繰り返し加工することで生じる可能性のある画一化にも配慮する必要があることを示している。商品名や価格を変更する過程で画像が次第に似通っていけば、事業者のブランドを際立たせる要素が弱まり、顧客がメニュー写真に寄せる信頼にも影響を及ぼしかねない。問題が直接的なモデル崩壊ではなく、モデルが似通った好まれるサンプルへと向かうことで生じる収束であることは、解決策が単により多くのデータを使うことだけに限られない可能性を示唆している。現実に近く見える料理が不安感を引き起こすことは、議論を美的な問題から、AI生成画像が広告や証拠、日常のコミュニケーションにおいてどのように評価されるべきかという問いへと移している。