Обмануть систему распознавания лиц можно благодаря «напылению» пикселей на фотографии

Orange

Мастер слова
Регистрация
7 Окт 2017
Сообщения
8,672
Реакции
1,319
В Чикагском университете сформирована наиболее эффективная технология обхода систем распознавания лиц. Основой представленной специалистами технологии стала работа специалистов Google, в которой рассматривались вопросы глубокого обучения нейронных сетей.

По данным доклада за 2014 год было установлено – благодаря «незаметным искажениям» изображений на самом деле можно обманывать даже ведущие алгоритмы распознавания. После публикации доклада появилось обилие исследований в сфере обхода систем распознавания изображений посредством состязательных атак.

guyfox1.jpg


В Чикагском университете представили программу Fawkes

Программа инженеров Чикагского университета получила название Fawkes в честь английского революционера Гая Фокса. Программа предполагает покрытие изображения незначительным количеством пикселей, которые обычному человеческому глазу не заметны.

Программа уже была протестирована в рамках ведущих систем распознавания лиц, включая алгоритмы Microsoft и Amazon – в каждом случае удавалось успешно обмануть проект. Сами исследователи напоминают – пока изобретение еще действительно далеко от совершенства. Если при обучении алгоритма использовать в Сети меньше 85% фотографий с подобным напылением, эффективность алгоритмов снижается до 39%. Поэтому по возможности необходимо снизить количество размещаемых в Сети своих фотографий без предварительных изменений.
 
Назад
Сверху