Безопасность против этики: может ли «умное» видеонаблюдение предотвратить трагедии наподобие нападений на школы в Казани и Керчи
Видеоаналитика с распознаванием лиц уже давно знакома правоохранительным органам и бизнесу. В частности, технологию используют, как защиту устройства вместо стандартного пароля, для обеспечения безопасности в общественных местах и анализа потребительского поведения. Главным препятствием на пути к внедрению видеоаналитики стали вопросы этики и защиты персональных данных. Однако инциденты, аналогичные трагедии в Казани, могут значительно ускорить процесс. О том, насколько эффективны модули видеоаналитики, и о проблемах их внедрения в российских условиях в колонке журнала «Компания» рассказывает Заур Абуталимов, директор по продуктам Ivideon, одного из крупнейших сервисов облачного видеонаблюдения.
Что реально могут «распознать» модули видеоаналитики
Лидером в области видеоаналитики стал Китай, который активно внедряет в школы, тюрьмы, общественные места, дома престарелых и торговые центры не только модули распознавания лиц, но и модули распознавания эмоций. В тюрьмах это позволяет определить, насколько опасно поведение заключенных и не страдает ли кто-либо из них психическим расстройством, которое может привести к насилию или самоубийству. В школах модуль распознавания эмоций служит для контроля ненадлежащего поведения учителей и персонала, а модуль распознавания лиц является инструментом безопасности.
А вот Европа не торопится идти тем же путем. Например, Бельгия запретила использовать биометрические методы видеоанализа в частных, неполицейских камерах наблюдения, тем самым обозначив свою приверженность новым правилам ЕС, касающимся защиты частной жизни и включающим запрет на большую часть слежки и коммерческое использование облачной видеоаналитики персональных данных. Так, Европейская комиссия заявила в апреле, что приложения ИИ, которые позволяют правительствам проводить социальную оценку или эксплуатировать детей, будут запрещены, и это решение поддерживают правозащитные организации. В конце апреля Европейский надзорный орган по защите данных (EDPS) рекомендовал запретить технологии распознавания лиц как «недемократическое вторжение».
США тоже одними из первых в мире принялись активно использовать модули видеоаналитики. Однако Нью-Йорк в конце 2020 года ввел первый в стране мораторий на распознавание лиц в школах. Уже два штата — Техас и Иллинойс — приняли законы, регулирующие коммерческое использование биометрических идентификаторов, собранных с помощью определенных типов технологий распознавания лиц, а в штате Вашингтон на рассмотрении находится законодательство, регулирующее использование биометрических идентификаторов в коммерческих целях. 13 городов, среди которых Сан-Франциско, Бостон, Спрингфилд, Портленд и др., запретили полиции использовать технологию распознавания лиц. И это несмотря на то, что, например, все правонарушители, штурмующие Белый дом в Вашингтоне, были найдены за экстремально короткие сроки с помощью такой технологии.
Однако в целом можно отметить, что распространение видеоаналитических решений в США идет полным ходом. В настоящее время федеральные законы не содержат конкретных положений о распознавании лиц, но при этом американские штаты могут самостоятельно принять решение о регулировании подобных технологий. Это создает угрозу внутригосударственной несогласованности, а также вызывает опасения по поводу нарушения Торговой оговорки.
В государственном секторе технология распознавания лиц используется в основном для обеспечения общественной безопасности, например:
Федеральное бюро расследований (ФБР) заключило соглашения с многочисленными департаментами автотранспорта штатов (DMV), которые позволяют ФБР использовать распознавание лиц для сравнения объектов расследований ФБР с миллионами фотографий лицензий и удостоверений личности, хранящихся в соответствующих департаментах.
Таможенная и пограничная служба США проводит эксперименты по использованию технологии распознавания лиц для сравнения цифровых фотографий паспортов с лицами людей, проходящих с этими паспортами через таможню.
Полицейские силы как США, так и других стран используют распознавание лиц для борьбы с преступностью. Например, правоохранительные органы применяют технологию распознавания лиц для прямого сканирования толпы на публичных мероприятиях с целью выявления преступников или террористов.
Государственные автотранспортные службы с помощью технологии распознавания лиц предотвращают такое мошенничество, как дублирование лицензий на вождение автомобиля.
Если говорить про глобальную практику, то годом ранее, до ввода моратория на распознавание лиц в Нью-Йорке, округ Локпорт протестировал технологию распознавания лиц на территории восьми школ. Система просматривала лица, снятые сотнями камер, и вычисляла, соответствуют ли эти лица списку, составленному администрацией школы. В него были включены преступники из данного района, люди, у которых судебный запрет на встречи с учениками, бывшие сотрудники, которым было запрещено посещать школы, и прочие лица, которых правоохранительные органы сочли «угрозой».
Логика системы была следующей: когда она обнаруживает на школьной территории человека не из списка, то отправляет сигнал тревоги одному из сотрудников службы безопасности. Оператор просматривает фотографию человека в базе данных, и если он отклоняет совпадение с человеком на камере, сигнал тревоги отменяется. Если совпадение подтверждается, еще одно оповещение рассылается нескольким районным администраторам или полиции, которые решают, какие действия предпринять.
Важной особенностью технологии была функция обнаружения оружия. Если система распознает «предмет», в полицию немедленно отправляется уведомление. Однако сейчас по этическим причинам технология перестала использоваться в школах.
Российский опыт
Россия входит в топ-3 стран по количеству камер видеонаблюдения. Распознавание лиц используется как в коммерческих, так и в общественных целях. Для борьбы с коронавирусом, например, технологии распознавания лиц совмещают с тепловизионными решениями. 2021 год также выявил новый актуальный тренд — внедрение эмоционального ИИ в банковский сектор с целью анализа клиентского поведения в отделениях банков и обучения эмпатии телефонных бот-роботов.
В январе Минпросвещения и Минцифры анонсировали экспериментальный проект по внедрению в российских школах системы распознавания лиц. Об этом они сообщили в совместном приказе «Об утверждении стандарта «Цифровая школа». Согласно ему предполагается оснащение школ системой круглосуточного видеонаблюдения с модулями видеоаналитики с целью контроля итоговой аттестации и, главное, обеспечения безопасности учащихся. Будет осуществляться видеонаблюдение за входными группами, не менее 25% учебных кабинетов также оборудуют средствами видеонаблюдения, способными распознавать лица, выявлять оставленные предметы, работать детектором дыма или огня. Проект уже прошел этапы общественного обсуждения, его внедрение ожидается в 14 регионах России. Конкретные сроки запуска неизвестны, но, думается, трагедия в Казани актуализирует и ускорит данный проект.
Сколько стоит оборудовать школу «умными» камерами
Вопрос оценки стоимости проекта — комплексная задача. Следует учесть количество помещений, которые необходимо оборудовать камерами, и площадь каждого помещения, количество учащихся, определить возможности монтажа камер в местах наибольшего обзора. Помещения должны быть обязательно оборудованы камерами в зонах контроля: на входе и выходе из здания и в местах скопления (столовая, раздевалки, лестницы и пр.).
Стоимость во многом зависит от оборудования и сервиса. Сервис в данном случае включает решение по онлайн-видеонаблюдению с видеоаналитикой распознавания лиц, он также может включать СКУД-решение для бесконтактного доступа в здание школы и детектор скопления людей. Отметим, такое решение основано на принципах ИИ и требует обучения системы, и чем больше лиц должна распознавать и различать система, тем выше цена.
Из опыта Ivideon, для небольшой школы с количеством учащихся до 500 человек и с одним главным входом и одним пожарным потребуется как минимум две IP-камеры, цена которой будет от 5 тыс. руб. Сервис распознавания лиц для контроля доступа с возможностью получения уведомлений о посторонних посетителях будет стоить от 3 тыс. руб. в месяц для одной камеры по тарифу до 1000 лиц. Однако опять же стоимость проекта зависит от задач, которые школа пытается решить, поэтому вопрос таких решений всегда рассматривается в индивидуальном порядке.
Технологический прогресс против этического
В глобальной повестке все еще слышится мнение о недопустимости использования технологии распознавания лиц в школах, когда ее объектом становятся ученики. Так, например, на повышенный риск нарушения неприкосновенности частной жизни ссылается исследование Школы государственной политики Форда. В европейских странах эксперименты по внедрению технологии и вовсе провалились из-за признания ее дискриминирующей, неэтичной и небезопасной.
Важной задачей для эффективного распространения технологии является соблюдение конфиденциальности, строящейся на принципах справедливой информационной практики, именуемых FIPPs, регулирующих сбор, использование и раскрытие данных. В различных формулировках и с различными акцентами FIPPs были включены в законы США и ЕС о конфиденциальности и предусматривают как минимум предоставление пользователю уведомления и выбора.
Федеральная торговая комиссия США также продемонстрировала интерес к технологии распознавания лиц и высказала свои рекомендации компаниям, их использующим:
- предоставлять потребителям четкое уведомление о том, как работает распознавание лиц, какие данные собираются и как эти данные будут использоваться;
- предоставлять потребителям возможность выбора в отношении сбора и использования данных;
- разработать разумные средства защиты собранной информации и обоснованные методы определения того, когда хранить информацию и когда ее утилизировать;
- учитывать конфиденциальность информации при разработке своих продуктов и услуг по распознаванию лиц.
Кто главный потребитель таких модулей в России
Съемка в общественных местах в России не регламентируется специальным законодательством и, соответственно, не является вмешательством в частную жизнь граждан. Вас могут снимать в транспорте, на улицах, в кофейне и спортзале. В РФ модули видеоаналитики используются преимущественно как инструменты безопасности в общественных местах и для эффективного поиска правонарушителей.
Однако в последнее время наметился второй крупный потребитель модулей распознавания лиц, эмоций и сомнительных операций на кассах. Бизнес-сегмент активно изучает персонализированное потребительское поведение клиентов и их реакцию на оформление витрины, наличие товаров на полках, анализирует частоту посещения и качество обслуживания. Модули видеоаналитики позволяют анализировать офлайн-аудиторию столь же просто, как это происходит в интернет-маркетинге.
В 2019 году в Минэкономразвития РФ предложили ввести специальные правовые режимы для тестирования инновационных технологий — таких, как разработки на базе ИИ или беспилотники. Согласно инициативе, компании-разработчики на время тестирования будут освобождены от жесткого регулирования.
В марте этого года «Альянс ИИ», который объединил «Сбер», «Яндекс», «Газпром нефть», Mail.ru Group и МТС, сформулировал принципы этичного ИИ, которые должны стать основой будущей законодательной инициативы:
- контролируемость и управляемость;
- прозрачность и предсказуемость;
- стабильность и надежность;
- ответственное применение;
- непредвзятость.
Заур Абуталимов
По материалам: “Компания”
