O designer alemão Simon Weckert criou um tecido composto por cores saturadas com o objetivo de dificultar que inteligências artificiais que analisam imagens reconheçam como humano alguém que o esteja a usar. Nos testes divulgados, foi possível observar que o tecido funciona, mas o padrão chamativo também faz com que o utilizador seja facilmente detetado pelo olho humano. Ainda não se sabe durante quanto tempo o design continuará eficaz perante os avanços dos algoritmos.
Por que é importante
Este design mostra que a forma como os sistemas de vigilância apoiados por inteligência artificial detetam as pessoas pode ser posta à prova não apenas pela precisão técnica, mas também por padrões visuais. Isto é importante tanto para quem confia em sistemas que analisam imagens como para as pessoas que podem ser afetadas pelas decisões desses sistemas, pois uma aparência que dificulta o reconhecimento como humano torna visíveis os limites do reconhecimento automatizado. No entanto, existe uma tensão evidente entre a eficácia do tecido e a facilidade de utilização: o padrão que dificulta o trabalho do algoritmo também não passa despercebido ao olho humano. A questão fundamental que permanece em aberto é em que medida esta abordagem continuará válida à medida que os sistemas de inteligência artificial se adaptarem a novos padrões visuais e como as tecnologias de vigilância responderão a isso.