El diseñador alemán Simon Weckert diseñó una tela compuesta por colores saturados con el objetivo de dificultar que las inteligencias artificiales que escanean imágenes reconozcan como persona a quien lleva puesta la prenda. En las pruebas compartidas, se observó que la tela funciona, pero el llamativo diseño también hace que quien la lleva sea fácilmente detectable por el ojo humano. Sigue sin estar claro durante cuánto tiempo el diseño será eficaz frente a los avances de los algoritmos.
Por qué es importante
Este diseño demuestra que la forma en que los sistemas de vigilancia basados en inteligencia artificial perciben a las personas puede ponerse a prueba no solo mediante la precisión técnica, sino también a través de patrones visuales. Esto es importante tanto para quienes confían en los sistemas que escanean imágenes como para las personas que podrían verse afectadas por las decisiones de estos sistemas, ya que una apariencia que dificulta ser percibido como ser humano hace visibles los límites del reconocimiento automatizado. Sin embargo, existe una tensión evidente entre el efecto de la tela y su facilidad de uso: el diseño que dificulta el trabajo del algoritmo tampoco puede ocultarse del ojo humano. La pregunta fundamental que sigue abierta es en qué medida este enfoque conservará su validez a medida que los sistemas de inteligencia artificial se adapten a nuevos patrones visuales y cómo responderán ante ello las tecnologías de vigilancia.