Технологии распознавания лиц могут оказаться в США вне закона

7 минут

Сан-Франциско может стать первым городом США с официальным запретом на публичное применение технологий распознавания лиц. Соответствующий законопроект рассматривают в свете возможного ущемления прав и свобод граждан со стороны государства.

На шаг ближе к запрету

Сан-Франциско имеет все шансы стать первым городом США с законодательным запретом на использование программного обеспечения для распознавания лиц в муниципальном масштабе.

В случае принятия поправок к муниципальному законопроекту «Остановить секретное наблюдение» (Stop Secret Surveillance), впервые представленному в январе 2019 года, под запретом может оказаться использование любых технологий наблюдения в городе, включая считывание номерных знаков, камер наблюдения и ПО для профилактики преступлений.

Кроме того, постановление также может поставить вне закона биометрические системы, включая сканеры радужной оболочки глаза и программы для распознавания лиц или походки.

По словам Аарона Пескина (Aaron Peskin), председателя муниципального комитета Сан-Франциско по надзору и правилам, до голосования по поправкам в попечительном совете округа проект будет вынесен на открытое общественное обсуждение.

«Потенциальная опасность для гражданских прав и свобод от использования технологий распознавания лиц значительным образом перевешивает ее возможные преимущества. Эти технологии усугубят расовую дискриминацию и поставят под угрозу наши возможности жить без постоянного государственного наблюдения», — говорится в проекте законопроекта.

В поддержку запрета на использование систем распознавания лиц уже высказались «Объединенные преподаватели Сан-Франциско», ряд сотрудников государственной адвокатуры, а также члены Electronic Frontier Foundation.

Ключевые аргументы в поддержку запрета – возможное злоупотребление правительством и потенциально негативное воздействие по расовому признаку.

В качестве одного из аргументов сторонники запрета привели передовицу The New York Times с публикацией о применении ПО Microsoft в Китае для распознавания лиц и мониторинга поведения 500-тысячного уйгурского меньшинства мусульманского вероисповедания. «Мы не хотим, чтобы такое происходило у нас», — заявил Тим Кингстон (Tim Kingston), представитель общественной адвокатуры Сан-Франциско, выступая во время прений по законопроекту. Он отметил, что принятие закона передаст контроль за внедрением новых технологий наблюдения в руки общественности. «В настоящее время технология распознавания лиц является корпоративной, частной, она запатентована. Мы не знаем, что с этим связано, и у нас не будет доступа к этому, если не будет обеспечен надзор», — сказал он.

Если закон будет принят

Муниципальный законопроект, который в настоящее время рассматривает попечительный совет Сан-Франциско, в случае принятия вызовет необходимость разработки властями города специальных актов, регулирующих использование технологий наблюдения.

Мэрии также придется разработать нормативные документы о порядке приобретения новых инструментов наблюдения и форму ежегодных отчетов с подробным описанием методов наблюдения и сбора данных.

В случае принятия требований пакета Stop Secret Surveillance, мэрии также придется проводить ежегодные проверки оставшихся в легальном обороте инструментов наблюдения. Предполагается, что в случае возникновения необходимости власти города будут обязаны предварительно узнавать общественное мнение каждый раз, когда городским департаментам понадобятся новые системы наблюдения, до их приобретения и установки.

Законопроект также предусматривает ситуации, когда офис окружного прокурора Сан-Франциско и департамент шерифа будут освобождены от ограничений – в случае, если применение технологии будет сочтено необходимым для проведения расследования или судебного разбирательства. Но в любом случае, письмо с подтверждением такой необходимости будет обнародовано и затем рассмотрено в мэрии.

Федеральная волна против ИИ и видеонаблюдения

Случай с муниципальной инициативой Stop Secret Surveillance в Сан-Франциско не является единичным для США. В настоящее время по всей стране законодатели различных уровней рассматривают новые законы о конфиденциальности и правомерности применения технологий искусственного интеллекта.

Так, на прошлой неделе законодательное собрание штата Иллинойс почти приняло закон о запрете использования записывающих устройств без согласия.

В Сенате США находится на рассмотрении законопроект авторства представителей республиканской и демократической партий, который нацелен на правовое регулирование коммерческого использования ПО для распознавания лиц. Еще один громкий законопроект федерального масштаба – The Algorithmic Accountability Act, призван навести порядок в сфере разработки алгоритмов для таргетированной рекламы, найма на работу и других аспектов автоматизированной обработки персональных данных. Принятие этого закона должно гарантировать непредвзятое отношение к определенным людям или группам людей.

Мировая практика

Ничего подобного запретительным законам в США нет ни в России, ни в других странах мира. Однако в большинстве стран речь, скорее, о неготовности законодательной базы к нормированию новых технологий, нежели о каких-либо запретах. Технологии распознавания лиц повсеместно используются как государством, так и бизнесом, без ограничений.

Наиболее широкую практику по использованию систем видеонаблюдения и распознавания лиц имеет Китай. На конец 2018 года в этой стране было внедрено 170 млн «умных камер» видеонаблюдения. Помимо этого, в прошлом году китайским полицейским также начали выдавать «умные очки» с системой оперативного распознавания лиц.

На основании персональных данных и технологий искусственного интеллекта в Китае реализована система социального ранжирования (Social Credit Score), которая обеспечивает не только безопасность, но также мониторинг лояльности властям.

О социальном ранжировании в Китае. Китайская государственная «система социального кредитования» была представлена в 2014 году, ее полный запуск в масштабах страны намечен на 2020 год. Действие программы будет в обязательном порядке распространяться на жителей всего Китая.

Согласно формулировке правительственного документа, система направлена на укрепление идеи о том, что «поддерживать доверие — хорошо, подрывать доверие — позорно». Социальная оценка производится на основании истории слежения за гражданином в общественных местах – с помощью систем распознавания лиц, а также его действий в интернете.

Точная методика составления социального рейтинга засекречена. Среди примеров нарушений, понижающих социальный рейтинг, приводят такие как плохое вождение, курение в зонах для некурящих, покупка большого количества видеоигр, размещение поддельных новостей в Сети.

Алгоритм оценки социального рейтинга в Китае, по мнению западных аналитиков, также может содержать факторы, связанные с его политической благонадежностью и лояльностью властям: данные об участии в протестах, негативные высказывания о компартии Китая, и прочая диссидентская деятельность.

Со временем социальная оценка человека может изменяться в зависимости от его поведения.

Системы видеонаблюдения с идентификацией клиентов уже работают в государственных структурах и больницах Северной Кореи.

Идентификация личности с распознаванием лиц будет задействована в Токио во время летних Олимпийских и Паралимпийских игр в 2020 году. В Японии также есть планы использовать распознавание лиц в казино.

Системы распознавания лиц и сбора данных о клиентах для последующего подбора релевантных коммерческих предложений используются многими ведущими компаниями планеты. Интернет-компания Amazon даже торгует такой платформой.

Компания по аренде автомобилей Hertz планирует внедрить системы распознавания лиц в своих отделениях для повышения скорости обслуживания клиентов.

Распознавание лиц встроено в ПО Directorix Barista для кофеен. Решение определяет пол, возраст и настроение посетителя для последующего анализа и формирования соответствующего предложения.

Российский опыт

Системы распознавания лиц являются неотъемлемым компонентом национального стандарта «Умный город», утвержденного в марте 2019 года. В документе обозначено, что интеллектуальное наблюдение по всей стране будет внедрено к 2024 году.

Видеокамеры с отечественным ПО на базе технологии нейронных сетей способны установить личность, пол и возраст в реальном времени. Одной из наиболее крупных в России и в мире является система безопасности Москвы с идентификацией личности. Начиная с 2017 года увеличивается число видеокамер с распознаванием лиц, в 2019 году планируется распространение такой практики на все районы столицы, с доведением числа одновременных видеопотоков до 105 тысяч.

В московском метро система распознавания лиц работает в пилотном режиме с марта 2018 года. С ее помощью за год удалось задержать 81 нарушителя.

Для распознавания лиц камеры городской системы видеонаблюдения используют базу МВД. Алгоритм отслеживает в реальном времени лица людей и сравнивает результаты поиска с базами данных.

Распознавание лиц применялось на 12 стадионах ЧМ по футболу 2018 года в России. Система помогла задержать более 180 человек, включенных в базы правонарушителей, и даже предотвратить кражу спонсорского кубка.

Нормативно-правовая база РФ пока сырая

Законодательная база РФ, регулирующая применение систем распознавания лиц, пока что разработана не в полной мере. Так, Закон о персональных данных и Административный кодекс только частично разъясняют использование видео для фиксации нарушений. При этом идентификация личности через распознавание лица автоматически означает использование персональных данных без разрешения обладателя.

Отсутствие регулирования может привести к злоупотреблениям в использовании информации, ошибкам в оперативной правоохранительной деятельности или судебных решениях. По мнению специалистов, также необходимы качественные криптографические средства для защиты информации подобного рода от злоумышленников.

Group 40Group 44Group 43Group 46Group 41Group 27Group 42Group 39