Как работает распознавание лиц и можно ли обмануть эту систему

Психология

Система камер распознавания лиц в Москве признана одной из самых развитых в мире. Чем это нам грозит? Как работают алгоритмы и можно ли их обмануть? И какое будущее у этой технологии?

Что такое распознавание лиц?

Распознавание лиц – это технология, которая позволяет автоматически идентифицировать (распознавать, кто находится на фотографии) или проверять (подтверждать, что этот человек находится на фотографии) человека на фотографии, видео или в реальном времени. Для распознавания используются нейронные сети, способные считывать и анализировать уникальные характеристики человеческого лица, а затем проверять их относительно основы.

Об эксперте: Татьяна Гайнцева, преподаватель Школы глубокого обучения (МФТИ), автор блога об искусственном интеллекте и нейронных сетях.

Как развивалась технология распознавания лиц

  • Первые эксперименты в области автоматического распознавания лиц были представлены в 1960-х годах Вуди Бледсо, профессором Техасского университета в Остине и исследователем искусственного интеллекта. Его команда создала базу данных из 800 изображений людей с разных ракурсов. Затем ученые отметили лица 46 координатными точками, используя прототип современного планшета. Используя специальный алгоритм, система поворачивала лица под разными углами, увеличивая и уменьшая масштаб. На втором этапе алгоритм использовал 22 измерения, действуя в соответствии с байесовской теорией принятия решений, так что общий вывод был максимально точным. В результате система, разработанная Бледсо, работала в 100 раз быстрее, чем человеческая.
  • В 1988 году Майкл Кирби и Лоуренс Сирович из Университета Брауна применили подход Eigenface, используя линейную алгебру для анализа изображений. Для отметки лиц они использовали менее 100 различных значений.
  • В 1991 году Алекс Пентланд и Мэтью Терк из Массачусетского технологического института усовершенствовали технологию Eigenfaces, используя факторы окружающей среды. Им удалось автоматизировать процесс распознавания.
  • В конце 1990-х Агентство перспективных оборонных исследовательских проектов (DAPRA) и Национальный институт стандартов и технологий выпустили программу FERET с самой большой базой данных лиц – более 14 000 изображений. Первоначально он использовался для поиска и распознавания преступников по всему миру, но позже был выпущен для широкой публики.
  • С 2010 года Facebook использует распознавание лиц, чтобы находить пользователей на опубликованных фотографиях и предлагать им отмечать их.
  • В 2011 году власти Панамы и США запустили совместный проект FaceFirst. Это технология распознавания лиц, которая использовалась для пресечения незаконной деятельности в аэропорту Токумен в Панаме. В том же году полиция и спецслужбы США начали использовать распознавание лиц для идентификации мертвых тел, в том числе Усамы бен Ладена.
  • С 2014 года распознавание лиц используется в камерах мобильных телефонов, а с 2017 года – в розничной торговле.

Как работает распознавание лиц?

Технология основана на двух нейронных сетях:

Первый – это сеть элайнеров. Он делает снимок с камеры наблюдения, определяет все лица, которые может найти, «обрезает» их и «выравнивает.

Вот как это выглядит:

Как работает распознавание лиц и можно ли обмануть эту систему

Этап 1. Программа обрезает лица (Фото: wikipedia.org)

Программа вырезает обнаруженные лица (те, которые расположены близко друг к другу, повернуты в профиль или просто очень маленькие и нечеткие, система может не распознать).

Затем он их выравнивает: он определяет точки глаз, носа и рта на лице.

Как работает распознавание лиц и можно ли обмануть эту систему

Этап 2. Программа распознает ключевые точки лица (Фото: wikipedia.org)

Наконец, поверните и измените размер фотографии так, чтобы точки глаз, носа и рта находились в определенных местах.

Как работает распознавание лиц и можно ли обмануть эту систему

Шаг 3. Программа приводит фото в стандартный вид (Фото: Университет Цинхуа)

Некоторые алгоритмы используют более семи точек, то есть очерчивают контуры лица. Это может понадобиться, например, для создания дипфейка.

Второй – это сеть «распознаватель». Он принимает на вход выровненное изображение, которое было передано первой нейронной сетью, а на выходе излучает вектор лица, то есть набор чисел фиксированной длины. Эти операторы могут отличаться для разных сетей, но чаще всего они представляют собой степень двойки. Например 512:

Как работает распознавание лиц и можно ли обмануть эту систему

Как работает вторая нейронная сеть, распознающая лица (Фото: KDnuggets)

Сеть создает похожие векторы для похожих лиц и наоборот.

Сделайте снимок Анджелины Джоли и два снимка Брэда Питта и разместите их в Интернете. На выходе будет три вектора. Мы измеряем расстояние между вектором Анджелины Джоли и первым вектором Брэда Питта, а также между двумя векторами Брэда Питта. В первом случае расстояние будет большим – это разные люди, а во втором – маленьким: это один человек.

Читайте также:  Нерушимые мужские правила, которые нельзя нарушать

Как работает распознавание лиц и можно ли обмануть эту систему

Как нейронная сеть отличает одного человека от другого (Фото: KDnuggets)

Для обучения нейронных сетей используются огромные базы данных с человеческими лицами. На входе нейронные сети сообщают, кому принадлежит этот человек, а затем, в процессе обучения, обеспечивают наиболее точные результаты. После обучения на миллионах разных людей нейронная сеть начинает распознавать новые лица, которых не было в базе данных.

Технология Face ID в смартфонах работает немного иначе. Алгоритм распознает вас не по фотографии, а по инфракрасным точкам, которые проецируются на ваше лицо через камеру. Затем создается трехмерная модель и сравнивается с уже введенной ранее.

Где применяют распознавание лиц?

💣 Безопасность

Судебно-медицинские эксперты, полиция и спецслужбы используют системы автоматической биометрической идентификации (ABIS) для поиска преступников, доказательства преступлений и их предотвращения, например террористических атак или подделки документов.

Камеры распознавания лиц используются для обеспечения безопасности на массовых мероприятиях, для прохождения контроля в аэропортах, для контроля доступа в различных организациях. Системы помогают находить пропавших без вести детей, сбитых с толку взрослых или людей, находящихся в неволе.

💊 Здравоохранение и медицина

Распознавание лиц в больницах и домах престарелых помогает отслеживать, принимают ли пациенты лекарства, и следить за их состоянием с помощью специального монитора. Нейронные сети даже способны обнаруживать генетические заболевания лица на основе черт лица, таких как синдром ДиДжорджи, и оценивать общее состояние пациента.

🍕 Ретейл, общепит и банки

Технология распознавания лиц помогает идентифицировать клиента и предотвращать мошеннические покупки в магазине, анализировать поведение клиентов и оптимизировать сервис, чтобы продавать больше.

Используя онлайн-биометрию, вы можете открыть счет и получить ссуду, а также снять деньги в банкомате. Например, в китайском KFC и американском Amazon Go есть «оплата лицом к лицу». В России вместо традиционной идентификации планируется ввести биометрию во всех крупных банках.

Еще одно перспективное направление – распознавание эмоций. Например, для улучшения взаимодействия с клиентами и сотрудниками во время работы в Интернете или для анализа реакции пользователей на контент. В России аналогичными разработками занимается Neurodata Lab.

📚 Образование

Сервисы на основе распознавания лиц помогают во время онлайн-обучения: они гарантируют, что учащийся не отвлечется во время экзамена, не обманет и не использует словесные подсказки.

Самые продвинутые разработки в этой области

С 2016 по 2020 год точность распознавания лиц с помощью нейронных сетей повысилась в 50 раз: коэффициент ошибок составил 0,8%. Согласно исследованию рынка распознавания лиц в 2019 году, мировой рынок распознавания лиц оценивается в 3,2 миллиарда долларов. Прогноз на 2024 год – 7 миллиардов долларов, с ежегодным ростом на 16%.

Самые амбициозные разработки в области распознавания лиц исходят от Google, Apple, Facebook, Amazon и Microsoft (GAFAM).

В 2014 году Facebook запустил сервис DeepFace, который с точностью 97,25% определяет, принадлежат ли два сфотографированных лица одному и тому же человеку%.

В 2015 году компания Google представила свою разработку: FaceNet. Благодаря огромному объему данных, собранных сервисами Google, FaceNet достиг рекордной точности 99,63%. Эта технология, в частности, используется в Google Фото для сортировки изображений и автоматической пометки людей на них.

Amazon активно продвигает свой облачный сервис распознавания лиц под названием Rekognition, который используется правоохранительными органами США с 2018 года. Система может распознавать на фотографии до 100 человек и искать их в базах данных, содержащих десятки миллионов лиц.

По данным Центра стратегических и международных исследований, а также Управления науки и технологий Министерства внутренних дел США, FRT был признан лучшим решением 2020 года – точность его распознавания составила 99,97%.

На рынке распознавания лиц в России пять основных игроков:

  • NTechLab;
  • VisionLabs;
  • Смысловая лаборатория;
  • Группа ЦРТ. 

NTechLab – разработчик известного приложения FindFace, которое использовалось для поиска людей во ВКонтакте по фотографиям. Сервис неоднократно оказывался в центре скандалов о конфиденциальности. Максимальная точность их алгоритмов распознавания лиц – 99%. Компания также выступила подрядчиком по внедрению камер распознавания лиц в Москве.

Второй подрядчик московских властей в этой сфере – VisionLabs. Они также разрабатывали московские видеокамеры и участвовали в других городских проектах. Недавно VisionLab стала частью экосистемы Сбербанка, и теперь их разработки используются, в том числе, для внедрения биометрии в банковских сервисах.

В 2014 году Группа ЦРТ первой внедрила систему распознавания лиц в спорте. Его решения используются на стадионах «Газпром-Арена», «ВТБ-Арена» и других.

Что не так с распознаванием лиц в Москве?

В Москве действует одна из крупнейших в мире сетей с распознаванием лиц: более 200 тысяч фотоаппаратов на общую сумму около 5 миллиардов рублей.

Российская технология NTechLab была признана лучшей по результатам тестирования Национальным институтом стандартов и технологий США. NTechLab стала партнером Genetec, поставщика систем видеонаблюдения для правительства США и спецслужб.

Читайте также:  Зачем искать смысл жизни

Систему для Москвы начали разрабатывать в 2015 году, а в 2017 запустили пилотный проект – так во дворах и подъездах было 1,5 тысячи камер. В 2018 году система была расширена путем тестирования на чемпионате мира по футболу FIFA. Камеры помогли задержать около 100 преступников из базы уголовного розыска. В том же году разыскиваемый МВД грабитель был задержан с помощью камеры с распознаванием лиц.

Во время пандемии 2020 года использовалась московская система видеонаблюдения, с ее помощью было выявлено более 200 нарушителей карантина и самоизоляции, которым пришлось заплатить штрафы.

Правозащитники отмечают опасность техники для простых граждан. Например, адвокат Алена Попова неоднократно подавала в суд иски к МВД и Управлению информационных технологий города Москвы с требованием запретить систему распознавания лиц во время митингов.

Распознавание лиц и правда используют на митингах?

В феврале 2021 года сообщалось, что власти использовали камеры для отслеживания участников демонстраций в Москве и привлечения их к ответственности. Полиция останавливала людей у ​​входа в метро или приходила к ним домой. Так было и в других странах.

Во время протестов в Гонконге в 2019-2020 годах власти также использовали распознавание лиц для нацеливания на активистов. Для борьбы с этим протестующие использовали лазерные указки, маски для лица и проекторы для лица и разбили опоры фотоаппаратов.

По мнению оппозиции, для распознавания используется программа Face ++ китайского стартапа Megvii. Эта система была бы внесена властями США в черный список за нарушение прав человека.

Другой недавний пример – Faces of the Riot, созданный студентом из Вашингтона. Он использовал приложение с открытым исходным кодом для извлечения лиц из 827 видеороликов, размещенных на Parler во время штурма Капитолия 6 января 2021 года. Затем он применил нейронную сеть для распознавания лиц, сформировал из 200 000 фотографий базы ФБР и идентифицировал людей.

Какие еще проблемы есть у технологии сегодня?

👁️‍🗨️ Убытки. В этом случае в сети происходит утечка доступа к камерам наблюдения и результатов распознавания. За деньги вы можете проверить по фото, где и когда камеры обнаружили конкретного человека.

🤦 Ошибки распознавания. В 2018 году технология распознавания лиц Amazon ошибочно опознала 28 конгрессменов США как преступников. Недавний пример – москвич Сергей Межуев, которого метрополитен принял за разыскиваемого преступника. В результате мужчина был арестован, собрал все данные и не удалил подозреваемого до тех пор, пока не был найден настоящий подозреваемый.

Использование людьми без согласия. В США до недавнего времени использовали наборы данных с лицами из открытых источников для обучения нейронных сетей распознаванию лиц. Готовые наборы данных также были общедоступны. Однако теперь они удалены, так как это нарушает законы о защите персональных данных. Теперь к нему можно получить доступ по запросу и только для исследовательских целей (некоммерческих.

The New York Times опубликовала расследование о том, что система распознавания лиц ClearView использует фотографии из Facebook и Twitter, чтобы помочь полиции находить людей. Аналогичные претензии были и к NtechLab: компания имела доступ к фотографиям пользователей ВКонтакте».

😠 Дискриминация и расизм. Для обучения нейронных сетей используются наборы данных, которые содержат, прежде всего, фотографии людей, принадлежащих к стране и расе. В результате системы распознавания лиц плохо распознают азиатов, латиноамериканцев или афроамериканцев. Системы судебной экспертизы склонны идентифицировать чернокожих как потенциальных преступников.

Исследование MIT, проведенное в 2018 году, показало, что алгоритмы Microsoft, IBM и китайского Megvii (FACE ++) очень часто ошибочны при различении чернокожих женщин и светлокожих мужчин.

Есть примеры гендерной дискриминации: например, нейронная сеть, которая проектирует тело в бикини для женщины и тело в костюме для мужчины. Просто потому, что большинство изображений в сети именно такие.

Использование технологий для манипулирования людьми. Попадая в руки властей, системы распознавания лиц вместе с базами данных личных данных открывают безграничные возможности. Самый радикальный пример того, к чему это может привести, – это Китай.

Распознавание лиц в Китае: социальная антиутопия

В Китае распознавание лиц используется полицией, аэропортами, дорогами и общественным транспортом. Штат планирует расширить систему по всей стране: по данным CNBC, на конец 2018 года в Китае использовалось более 200 миллионов камер наблюдения, а к концу 2021 года их количество достигнет более 500 миллионов.

Одна из основных причин – введение системы социального рейтинга или кредитной системы. Каждый гражданин страны получает положительные баллы за общественно полезную деятельность, отсутствие нарушений, своевременную уплату налогов. Баллы снимаются за преступления. Низкий или отрицательный рейтинг имеет различные последствия: отказ в предоставлении кредита и социальных льгот, запрет на выезд из страны и работу в определенных организациях.

Кроме того, с помощью этой технологии китайское правительство контролирует представителей уйгурского этнического меньшинства. Сотни тысяч уйгуров были помещены в города-гетто и лагеря политических заключенных и всячески ограничивали их передвижение.

Читайте также:  Смайлы в смс — признак любви?

Можно ли обмануть систему распознавания лиц?

Для борьбы с «умными» камерами используются специальные маски, проекторы, лазеры и другие приемы:

  • В 2017 году Григорий Бакунов, руководитель отдела технологий искусственного интеллекта в Яндексе, придумал особый трюк, который якобы помогает обмануть нейронные сети. Создавая свой макияж, она использовала генетический алгоритм, который выбирает изображение по принципу антисходства.

Как работает распознавание лиц и можно ли обмануть эту систему

Пример трюка Григория Бакунова

  • Во время протестов в Лондоне в марте 2020 года участники пытались обмануть системы распознавания лиц с помощью цветных пятен на их лицах.
  • Специалисты «Видеомакс» пытались обмануть алгоритм Face-Intellect. Они обнаружили, что это возможно только при ношении длинноволосого парика и головного убора, наложения заплат и усов и одновременного нанесения синяков. При этом точность идентификации упала до 51%.
  • Вьетнамским разработчикам удалось взломать функцию Face ID на iPhone X с помощью 3D-маски, силикона и клейкой ленты. Но не все могут повторить их метод.
  • Противоречивые примеры: когда рядом с объектом ставятся специальные стикеры, объемные фигурки или изображения, они сбивают с толку нейросеть.

Однако вряд ли все эти методы помогут. Во-первых, мы не совсем знаем, по каким признакам нейронные сети распознают лица. Во-вторых, алгоритмы обучаются по разным схемам и на разных наборах данных. Чтобы обмануть их, нужно точно знать, как работает та или иная нейронная сеть.

Конечно, вы можете полностью скрыть свое лицо в общественных местах и ​​на массовых мероприятиях. Но во многих странах, в том числе в России и Китае, это запрещено законом.

Есть способы изменить уже готовые фото. Например, Generated Media создал анонимайзер – приложение, которое генерирует серию портретов из ваших фотографий и делает их неузнаваемыми для нейронных сетей.

Можно использовать специальную маску. Например, возьмем фото, на котором нейросеть узнала актрису Еву Лонгорию, и немного его изменим:

Как работает распознавание лиц и можно ли обмануть эту систему

Слева исходное фото, справа наложенная маска, по центру результат. Теперь алгоритм его не распознает, хотя для нас очевидно, что это та же женщина. Но этот метод можно применить только в том случае, если у вас есть доступ к архитектуре нейронной сети.

Как регулируют распознавание лиц в разных странах?

В ЕС и Великобритании действуют самые строгие правила защиты данных: GDPR. Он запрещает любое нарушение конфиденциальности человека частными компаниями и государственными учреждениями без их согласия. Это также относится к системам распознавания лиц.

В США нет единого закона, регулирующего использование технологий. Наиболее близким к европейскому GDPR является Закон Калифорнии о конфиденциальности потребителей (CCPA). В некоторых штатах есть ограничения для полиции и других агентств, например, Орегон, Вашингтон, Техас, Иллинойс, Массачусетс, Вермонт.

ИТ-компании настаивают на федеральном законодательстве. В 2020 году IBM объявила, что больше не будет продавать свои продукты для распознавания лиц. Вслед за ними Amazon и Microsoft временно приостановили сотрудничество с госструктурами в этой сфере. А в июле правозащитники ACLU подали иск против ClearviewAI за нарушение закона о биометрической конфиденциальности штата Иллинойс.

Распознавание лиц широко распространено в Китае, и государственные учреждения имеют безграничные возможности для применения этой технологии. В последнее время биометрия также стала обязательной при регистрации номера телефона.

В России действует закон о защите персональных данных. Но он направлен, прежде всего, на безопасность самих данных: они должны быть защищены, чтобы избежать утечки информации. Права самих граждан, данные которых используются, никоим образом не защищены. Безопасность биометрических данных в частной сфере пока не регламентирована, но власти имеют право использовать распознавание лиц в 2019 году без согласия граждан.

Какое будущее у этой технологии?

Эксперты считают, что в ближайшие пару лет распознавание лиц наконец станет основной технологией. Он будет использоваться в умных и обычных гаджетах, для идентификации и оплаты, для перехода в офис и регистрации в аэропорту, а также для доступа к онлайн-сервисам и учетным записям в социальных сетях. Через 15-20 лет мы полностью перейдем на биометрические паспорта. Но обмануть алгоритмы или спрятаться от камер с помощью распознавания лиц станет практически невозможно.

Это означает полную потерю приватности и приватности.

Читайте также:

Смерть не грозит: как воскрешают легендарных актеров с помощью технологий

«Торговое лицо» больше не метафора. Как люди продают свое лицо?

Цифровой тоталитаризм: можно ли в России контролировать всех 24/7?

Если вам понравился материал, подпишитесь на канал РБК Тренды в Яндекс.Дзен — это поможет нам развиваться!

Валерия Кузнецова
Главный редактор , psyban.ru
Психолог с многолетним стажем. Использую различные лайфхаки в личной жизни. Друзья постоянно говорят, чтобы я размещала свои советы в интернете. Будьте любимыми вместо со мной!
contact me
Оцените статью
psyban.ru
Добавить комментарий