Немецкий дизайнер Simon Weckert разработал ткань насыщенных цветов, чтобы затруднить распознавание человека в одежде системами искусственного интеллекта, анализирующими изображения. В опубликованных тестах было показано, что ткань работает, однако заметный рисунок позволяет легко распознать пользователя и человеческим глазом. При этом неизвестно, как долго дизайн будет сохранять эффективность на фоне развития алгоритмов.
Почему это важно
Этот дизайн показывает, что способ, которым системы наблюдения на основе искусственного интеллекта воспринимают людей, можно проверять не только по технической точности, но и по визуальным шаблонам. Это важно как для тех, кто полагается на системы, анализирующие изображения, так и для людей, на которых могут повлиять решения этих систем, поскольку внешний вид, затрудняющий распознавание человека как человека, наглядно демонстрирует границы автоматического распознавания. Однако между эффективностью ткани и удобством её использования существует очевидное противоречие: рисунок, затрудняющий работу алгоритма, невозможно скрыть и от человеческого глаза. Основной открытый вопрос заключается в том, насколько этот подход сохранит актуальность по мере того, как системы искусственного интеллекта будут адаптироваться к новым визуальным образцам, и как на это ответят технологии наблюдения.