Le immagini dei piatti presenti nei menu dei ristoranti realizzati dall’intelligenza artificiale attirano l’attenzione per la loro simmetria perfetta, l’eccessiva levigatezza e il senso di inquietudine che suscitano nonostante il loro aspetto realistico. Alex Lisle, CTO di Reality Defender, paragona queste immagini a quelle che potrebbe realizzare un alieno intento a preparare una pizza senza comprenderne i principi fondamentali. In alcuni esempi, il formaggio che si gonfia eccessivamente o i gamberi che sembrano mangiare le proprie code rendono evidente la loro origine artificiale, mentre nella maggior parte delle immagini il problema si coglie solo osservandole più da vicino.
Secondo Lisle, questa estetica è legata al modo in cui vengono addestrati i modelli di intelligenza artificiale. I grandi modelli linguistici e i modelli di diffusione utilizzati in sistemi come ChatGPT e Midjourney apprendono gli schemi presenti in enormi insiemi di dati e cercano di generare contenuti conformi alle richieste degli utenti. Per questo, quando viene richiesto il menu di un ristorante di hamburger, possono basarsi sugli stili di menu simili tra loro di catene come Wendy’s, Burger King o McDonald’s. Lisle attribuisce proprio all’insieme di dati da cui i modelli traggono informazioni il motivo per cui le immagini risultanti a volte sembrano “un menu di Chili’s del 2015”.
L’inserimento dei contenuti generati dall’intelligenza artificiale nei dati di riaddestramento può fare sì che i modelli vengano alimentati con i propri output. Quando questo fenomeno diventa eccessivo, si presenta il rischio di “collasso del modello”. Lisle lo paragona alla consanguineità che si crea quando gli output di un modello vengono forniti ripetutamente allo stesso modello. Tuttavia, precisa che il fenomeno osservato nei menu non è un collasso diretto del modello, bensì una “convergenza” che riduce la qualità degli output. Lee Rainie, direttore dell’Imagining the Digital Future Center della Elon University, afferma invece che l’ottimizzazione dei modelli affinché privilegino contenuti non aggressivi e “piacevoli” porta all’omogeneizzazione, attenuando le caratteristiche distintive delle immagini e del linguaggio.
In un esperimento condotto su X da un utente chiamato Labtec, è emerso che, modificando 100 volte un menu creato con ChatGPT, le immagini dei cibi diventavano progressivamente più tonde e levigate. TechCrunch ha ripetuto un esperimento simile. Si osserva che la modifica ripetuta dei menu da parte dei ristoranti per cambiare i prezzi o i nomi dei prodotti potrebbe produrre lo stesso effetto.
Ricercatori della University of Duisburg-Essen in Germania hanno rilevato un effetto di “valle perturbante” nelle immagini di cibi generate dall’intelligenza artificiale. Le immagini che sembrano quasi reali suscitano più disgusto e inquietudine di quelle chiaramente false. Questa reazione si combina con la diffidenza culturale nei confronti dei contenuti generati dall’intelligenza artificiale. Lisle afferma che è finita l’epoca in cui immagini e registrazioni audio venivano accettate come prove senza essere messe in discussione, e che questo fenomeno sta influenzando ambiti più vasti, compresi i tribunali.
Perché è importante
Questi risultati mostrano che, nella preparazione dei menu, i ristoranti dovrebbero considerare non solo la qualità visiva, ma anche l’uniformità che potrebbe derivare dalla rielaborazione ripetuta degli output dell’AI. Il fatto che, mentre i nomi dei prodotti e i prezzi vengono modificati, le immagini diventino sempre più simili tra loro potrebbe indebolire gli elementi distintivi dei marchi e influire sulla fiducia dei clienti nelle fotografie dei menu. Il fatto che il problema non sia direttamente il collasso del modello, bensì la convergenza che si verifica quando i modelli tendono verso esempi simili e apprezzati, indica che la soluzione potrebbe non consistere soltanto nell’utilizzo di una maggiore quantità di dati. Il disagio suscitato dagli alimenti dall’aspetto quasi reale sposta invece il dibattito dall’estetica alla questione di come le immagini generate dall’intelligenza artificiale debbano essere valutate nella pubblicità, come prove e nella comunicazione quotidiana.