Der deutsche Designer Simon Weckert hat einen Stoff aus gesättigten Farben entworfen, um es bildverarbeitenden KIs zu erschweren, eine bekleidete Person als Menschen zu erkennen. In veröffentlichten Tests zeigte sich, dass der Stoff funktioniert, während das auffällige Muster dazu führt, dass der Träger auch mit bloßem Auge leicht zu erkennen ist. Wie lange das Design angesichts der Fortschritte bei Algorithmen wirksam bleiben wird, ist jedoch unklar.
Warum das wichtig ist
Das Design zeigt, dass die Art und Weise, wie KI-gestützte Überwachungssysteme Menschen wahrnehmen, nicht nur durch technische Genauigkeit, sondern auch durch visuelle Muster auf die Probe gestellt werden kann. Das ist sowohl für diejenigen von Bedeutung, die auf bildverarbeitende Systeme vertrauen, als auch für Personen, die von den Entscheidungen dieser Systeme betroffen sein könnten; denn ein Erscheinungsbild, das es erschwert, als Mensch wahrgenommen zu werden, macht die Grenzen der automatischen Erkennung sichtbar. Zwischen der Wirkung des Stoffes und seiner Alltagstauglichkeit besteht jedoch ein deutlicher Zielkonflikt: Das Muster, das den Algorithmus vor Herausforderungen stellt, lässt sich auch vor dem menschlichen Auge nicht verbergen. Die zentrale offene Frage ist, in welchem Maß dieser Ansatz seine Wirksamkeit bewahren wird, wenn sich KI-Systeme an neue visuelle Muster anpassen, und wie Überwachungstechnologien darauf reagieren werden.