Le designer allemand Simon Weckert a conçu un tissu aux couleurs saturées afin de compliquer la tâche des intelligences artificielles qui analysent les images lorsqu’elles tentent d’identifier comme humain une personne portant le vêtement. Les tests partagés montrent que le tissu semble fonctionner, mais son motif voyant permet également de repérer facilement son utilisateur à l’œil humain. La durée pendant laquelle le design restera efficace face aux progrès des algorithmes demeure toutefois incertaine.
Pourquoi c’est important
Ce design montre que la manière dont les systèmes de surveillance alimentés par l’IA perçoivent les êtres humains peut être mise à l’épreuve non seulement par leur précision technique, mais aussi par des motifs visuels. Cette situation est importante tant pour ceux qui font confiance aux systèmes qui analysent les images que pour les personnes susceptibles d’être affectées par les décisions de ces systèmes, car une apparence qui complique l’identification comme être humain rend visibles les limites de la reconnaissance automatisée. Il existe toutefois une tension évidente entre l’efficacité du tissu et sa facilité d’utilisation : le motif qui met l’algorithme en difficulté ne peut pas non plus échapper à l’œil humain. La principale question qui reste en suspens est de savoir dans quelle mesure cette approche conservera sa validité à mesure que les systèmes d’IA s’adapteront à de nouveaux motifs visuels, et comment les technologies de surveillance y répondront.