Реклама
Home Softnews Это веб-приложение, по всей видимости, настроит ваши фотографии так, чтобы они сбивали...

Это веб-приложение, по всей видимости, настроит ваши фотографии так, чтобы они сбивали с толку системы распознавания лиц. • The Register

Реклама


Группа компьютерных ученых выпустила веб-приложение, ориентированное на конфиденциальность, чтобы отравить изображения людей в Интернете, чтобы они запутали коммерческие системы распознавания лиц.

Реклама

Приложение под названием LowKey, предназначен для защиты людей от несанкционированного наблюдения. Он основан на технике состязательной атаки, разработанной профессионалами из Мэрилендского университета Валерией Черепановой, Микой Голдблюмом, Шиюан Дуан, Джоном Дикерсоном, Гэвином Тейлором, Томом Голдштейном и исследователем Военно-морской академии США Харрисоном Фоули. Он изменяет изображения, поэтому системы распознавания лиц не могут легко использовать данные, чтобы найти изображенного человека на другом изображении.

Исследователи описывают свою работу в бумага под названием «LowKey: использование состязательных атак для защиты пользователей социальных сетей от распознавания лиц», распространяется через ArXiv и планируется представить на Международной конференции по обучающим представлениям (ICLR) 2021 года в мае.

Авторы говорят, что системы распознавания лиц, развернутые государственными агентствами, подрядчиками и частными компаниями, зависят от огромных баз данных изображений, собранных из Интернета.

Скриншот из бумаги LowKey

Первый ряд: исходные изображения; Второй ряд: изображения, защищенные с помощью LowKey (средний); Третий ряд: изображения, защищенные LowKey (большие) … Нажмите, чтобы увеличить

«Практикующие заполняют свои базы данных, накапливая общедоступные изображения из социальных сетей, и поэтому пользователи вынуждены выбирать между хранением своих изображений вне поля зрения общественности или попыткой массового наблюдения», — объясняют они. «LowKey — это первый подобный инструмент уклонения, который эффективен против коммерческих API-интерфейсов распознавания лиц».

Были предложены и другие подобные системы, в частности Фоукс и атака классификации изображений Camera Adversaria [PDF], не говоря уже о методах физической маскировки, таких как CV Dazzle и новая нормальная маска от коронавируса.

Читайте также:
Android поглотит систему Chrome OS

Однако Черепанова, Голдблюм и их коллеги-ученые утверждают, что Фоукс основан на нескольких ошибочных предположениях, связанных с тем, как обучаются высокопроизводительные системы распознавания лиц, размером набора данных, используемого для тестирования, и акцентом на единичный результат. точность, а не ранжированные списки. Они также отмечают, что Fawkes еще не выпустил приложение или веб-инструмент и что большинство пользователей социальных сетей вряд ли потрудятся запустить его код.

Более того, они утверждают, что LowKey работает намного лучше, чем Fawkes, в тесте, который измеряет, можно ли сопоставить набор изображений галереи, используемых для обучения распознаванию лиц, с тестовыми или «зондированными» изображениями людей, изображенных в изображениях галереи.

Менее 1%

«Мы наблюдаем, что LowKey очень эффективен, и даже при настройке точности 50-го ранга Rekognition может распознать только 2,4% пробных изображений, принадлежащих пользователям, защищенным с помощью LowKey», — говорится в исследовательском документе, где «ранг-50» относится к поиску настоящий матч в топ-50 результатов. «Напротив, Fawkes терпит неудачу, при этом 77,5% пробных изображений, принадлежащих его пользователям, распознаются правильно в настройке ранга-1, и 94,9% этих изображений распознаются правильно при рассмотрении 50 наиболее близких совпадений».

В тесте ранга 1, когда алгоритм распознавания лиц просит сопоставить изображение с одним человеком из своей базы данных, Rekognition получает свое право в 93,7% случаев с чистым изображением, но только в 0,6% случаев с Изображение, обработанное LowKey.

"ведьма" Чучело горит ..

Устали от машин ИИ, очищающих ваши фотографии для распознавания лиц? Вот способ Фоукса их прямо

ПРОЧИТАЙТЕ БОЛЬШЕ

Читайте также:
Фонд Apache вытесняет соучредителя проекта TinkerPop за то, что он написал в Твиттере «оскорбительный юмор, граничащий с языком ненависти» °

LowKey работает еще лучше с API распознавания лиц Microsoft Azure, который распознает только 0,1% пробных изображений из галереи, защищенной LowKey. В документе говорится, что с помощью Fawkes система Azure может распознавать более 74 процентов изображений, измененных с помощью Fawkes, сохраняя при этом точность около 90 процентов с чистым изображением.

Авторы утверждают, что LowKey эффективен, потому что он изменяет изображения галереи (те, которые попадают в набор данных для распознавания лиц), поэтому они не соответствуют пробным (тестовым) изображениям. Это достигается путем создания искаженного изображения с векторами признаков, которые существенно отличаются от оригинала, но таким образом, что такие различия трудно воспринимать.

«Интуитивно это означает, что машины интерпретируют черты лица на исходном и искаженном изображениях по-разному, в то время как люди интерпретируют их почти одинаково», — объяснили Черепанова и Голдблюм в электронном письме по адресу: Реестр сегодня. «Таким образом, люди все еще могут распознать, кто находится на искаженном изображении, но представление системы распознавания лиц (« вектор признаков ») находится действительно далеко от того места, где оно должно быть».

Черепанова, докторант прикладной математики Университета Мэриленда, и Голдблюм, научный сотрудник UMD, рассказали Реестр что они надеются, что LowKey будет интегрирован в популярное программное обеспечение, особенно в платформы социальных сетей, хотя таких обсуждений еще не было.

Мы считаем, что для того, чтобы такой инструмент получил широкое распространение, он должен быть удобен для пользователей.

«Мы считаем, что для того, чтобы такой инструмент получил широкое распространение, он должен быть удобен для пользователей», — заявили они. «Принятие LinkedIn такими компаниями, как Facebook, будет иметь большое значение для достижения этой цели».

Читайте также:
Новый браузер Microsoft Edge совсем не популярен

Черепанова и Голдблюм утверждают, что, хотя самым зловещим аспектом распознавания лиц является массовое наблюдение, эта технология уже используется более конкретно полицейскими управлениями для ареста протестующих и может быть легко использована вне сценариев массового наблюдения.

«Кроме того, поведение систем машинного обучения не поддается интерпретации для людей, поэтому системы распознавания лиц, несмотря на то, что они быстрые и достаточно точные, могут совершать ошибки и демонстрировать высокую степень расовой дискриминации без ведома организаций, использующих их», — объясняют они. «Есть много причин, по которым обычные люди не хотели бы подвергаться воздействию этих систем».

Они говорят, что надеются, что их работа и связанные с ней проекты помогут убедить людей обмениваться меньшим объемом информации в Интернете, даже если такие инструменты, как LowKey, помогают защитить изображения, которыми люди хотят делиться. Они также признают, что такие системы, как LowKey, могут ухудшать качество изображений, и надеются, что дальнейшие исследования улучшат качество вывода. Но, как они отмечают в своей статье, LowKey не эффективен на 100 процентов и может быть побежден специально разработанными системами.

«Сложность обмана этих систем машинного обучения должна заставить людей задуматься о том, чтобы предоставлять общественности меньше личных данных», — сказали Черепанова и Голдблюм. ®

Реклама

NO COMMENTS