餐厅、咖啡馆和品牌在食品宣传中使用人工智能生成的图像，正造成一些令人倒胃口的结果，例如甜甜圈形状的虾、像蠕虫一样的面条、丝状的鸡肉、像岩石一样的汉堡，以及布满孔洞的墨西哥卷饼。这些图像中的变形，暴露出人工智能系统在图像生成方面的技术局限，以及训练数据中存在的问题。
大多数领先的图像生成器都使用扩散模型。这些系统从纯噪声开始，通过逐步减少噪声来生成图像；先形成粗略结构，随后再生成细节。University of Oxford 的 Chris Russell 表示，当模型在早期阶段错误构建了物体的基本形状时，之后可能会在错误的结构上添加逼真的纹理细节。这种情况被比作生成一个长着6根手指的人。
University of Naples Federico II 的 Giovanbattista Califano 表示，扩散模型不擅长生成纤细、连续且在某一点终止的结构。因此，面条、纤维和弯曲的延伸部分可能会被放到错误的位置；气泡和种子等重复纹理也可能越过合理的边界。图像中极度类似面条的形状和聚集成团的孔洞，可能会引发被称为 trypophobia 的密集恐惧症。
专家表示，人工智能并不真正知道三明治、面条或墨西哥卷饼是什么。它只是在统计层面学习这些物体在互联网上通常呈现的样子，并不理解它们在物理世界中的功能和行为。University of Zurich 的 Roland Meyer 表示，这些系统模仿的是照片的外观，却不理解专业摄影美学背后的语境。因此，冰淇淋可能看起来像混凝土，而汉堡则可能看起来像石头。
训练数据也可能加剧这一问题。食物照片中的明亮光线、浓烈色彩和夸张形态，有时会连同并不真实的食物一起被传递给模型。Queen Mary University of London 的 Simon Colton 指出，与普通图像相比，奇怪且容易走红的内容在互联网上往往能获得更多关注。此外，由人工智能生成的内容被用于训练新模型，可能通过“model collapse”导致图像失真和趋同。
模糊的指令、低分辨率图像的放大，以及不充分的系统指令，会让错误变得更加明显。而人们则会因为为防范寄生虫、污染和腐败危险而形成的厌恶感，迅速察觉食物中的异常。因此，人工智能生成的食物不仅不符合现实，在本能上看起来也不对劲。
为什么重要
这一问题表明，使用人工智能制作的食物宣传并不只是一种审美选择；图像中的形态失真，可能直接影响观众是否认为产品有食欲或值得信赖。对餐馆、咖啡馆和品牌而言，问题在于，模型并未理解物体的物理结构，只是将相似图像拼合起来，因此生成的结果需要经过人工审核。尤其是面条、纤维、气泡和孔洞等细节，既会暴露技术错误，也可能在一些观众中引发厌恶反应。互联网上奇怪的人工生成图像再次进入训练数据，则让这些失真是否会反复出现的问题悬而未决。