Стремительное развитие систем наблюдения с использованием искусственного интеллекта беспокоит многих. То, что правительство может отслеживать отдельных граждан и опознавать их в толпе, грозит стать концом анонимности. Но исследователи раз за разом доказывают, что такие системы машинного разума можно обмануть.
Очередным примером этого стало исследование бельгийских студентов. Они опубликовали способ, как с помощью психоделических узоров можно помешать искину распознать на изображении человека.
Если распечатать такой узор и подвесить его себе на шею, вы становитесь невидимы для искина.
По словам исследователей, эту технологию можно использовать, например, при создании принтов для футболок, которые будут делать людей невидимыми для автоматических камер наблюдения.
Это явление известно как «соперничающие примеры» (adversarial examples). Такие узоры способны обмануть системы компьютерного зрения, заставив их видеть то, чего нет.
Многие ученые предупреждают об опасности этого явления. Ведь точно так же можно заставить машину-беспилотник принять стоп-сигнал за фонарный столб или сбить с толку медицинскую программу-диагноста.
Конечно, в данном конкретном случае следует учитывать, что этот камуфляж рассчитан только на алгоритм YOLOv2. Системы, разработанные, например, Google, он уже не перехитрит.
Так что универсальная футболка-невидимка пока что остается чем-то из области фантастики. Пока что. По мере того, как в мире запускают все больше систем автоматического слежения, все больше людей ищут анонимности. Кто знает, может, психоделические узоры и впрямь станут главным модным трендом будущего…
