Можно ли «обмануть» системы распознавания лиц?

Оставаться инкогнито становится все сложнее, когда системы распознавания начинают внедряться повсеместно. В крупных городах можно отследить практически каждый шаг человека, имея только его фотографию. Технологии, лежащие в основе систем распознавания, становятся все более совершенными и точными. Скрыться от них в толпе больше не получится. Но есть ли способ «обмануть» их? Этот вопрос вполне закономерен – действие равно противодействию.

Размещая свои фото в социальных сетях, мы делает работу крупных компаний проще. Они собирают их свои базы, которые используют для обучения умных ИИ-алгоритмов. Делается все это, естественно, без ведома и согласия. Например, Clearview AI сообщает о том, что собрала с помощью Facebook, YouTube и Venmo не менее 3 миллиардов (!) фотоснимков людей со всего света. За деньги (при их наличии это не сложно!) можно получить доступ к такой базе и находить людей по фото. Цели поиска при этом могут быть самыми разными.

Можно ли «обмануть» системы распознавания лиц?
Фото умноебудущее.рф

Но уже найден способ бороться с этим произволом. Его представили разработчики из Университета Чикаго. Методика реализована на основе технологий искусственного интеллекта и получила название Fawkes. Ее суть заключается в том, чтобы внести едва заметные изменения в фото. Внешне фотография будет неотличима от оригинала, но для ИИ, занятого распознаванием, наложенная поверх снимка маска станет непреодолимым препятствием для идентификации конкретной личности. Система увидит не вас, а совершенно другого человека!

Разработчики провели серию тестов нового инструмента конфиденциальности. Они показали, что эффективность Fawkes достигает 100%. С его помощью можно легко «обмануть» практически все современные сервисы распознавания, включая Microsoft, Amazon и Face ++.

Поделитесь прочитанным — это не сложно, а для нас очень важно! Спасибо.

Хотите больше?

Получите полный доступ к новостям и аналитике бесплатно и без рекламы.

Анализ статьи

×
Организации
Упоминаются
Amazon.com, Inc.
Сфера деятельности:Розничная торговля
Microsoft
Сфера деятельности:Связь и ИТ
Университет Чикаго
Компании
Технологии
Упоминаются