Il designer tedesco Simon Weckert ha progettato un tessuto dai colori saturi con l’obiettivo di rendere più difficile per le intelligenze artificiali che analizzano le immagini riconoscere come essere umano chi indossa il capo. I test condivisi mostrano che il tessuto è efficace, ma il motivo appariscente fa sì che l’utilizzatore sia facilmente individuabile anche dall’occhio umano. Resta incerto per quanto tempo il design sarà efficace di fronte ai progressi degli algoritmi.
Perché è importante
Questo design mostra che il modo in cui i sistemi di sorveglianza basati sull’intelligenza artificiale percepiscono le persone può essere messo alla prova non solo sul piano dell’accuratezza tecnica, ma anche attraverso schemi visivi. La questione è importante sia per chi fa affidamento sui sistemi di analisi delle immagini sia per le persone che potrebbero essere influenzate dalle decisioni di questi sistemi; un aspetto che rende più difficile essere percepiti come esseri umani, infatti, rende visibili i limiti del riconoscimento automatico. Tuttavia, esiste una tensione evidente tra l’efficacia del tessuto e la facilità d’uso: il motivo che mette in difficoltà l’algoritmo non può essere nascosto nemmeno all’occhio umano. La domanda fondamentale ancora aperta è in che misura questo approccio riuscirà a mantenere la propria validità man mano che i sistemi di intelligenza artificiale si adatteranno a nuovi schemi visivi e come le tecnologie di sorveglianza risponderanno a ciò.