Новости
Мэр Москвы Сергей Собянин заявил, что система видеонаблюдения с функцией распознавания лиц в московском метрополитене начнет работу в полном объеме до сентября. Глава юридической практики «Роскомсвободы» Саркис Дарбинян рассказал The Insider, что его организация продолжит добиваться моратория на внедрение этой системы до тех пор, пока не будут предоставлены гарантии от злоупотреблений, связанных с ее работой.
Мы поставили задачу: через законодательные либо судебные меры добиться моратория на внедрение системы распознавания лиц. Через судебные меры у нас не получилось, сейчас мы готовим второй иск. Процесс это не быстрый, он требует времени. Вместе с тем мы ищем сейчас политических союзников для внесения законопроекта наподобие того, что был принят в Калифорнии (об этом ниже).
Мы видим, что эта проблема беспокоит не только нас. Партия «Яблоко» недавно выпустила резолюцию и обсуждает вопрос о внесении законопроекта в Московскую городскую думу. Озабоченность выразили в КПРФ, поэтому мы сейчас активно работаем над разработкой законопроекта и пытаемся лоббировать приостановку внедрения технологии распознавания лиц.
Мы полагаем, что пока не будут приняты правовые гарантии от утечек и злоупотреблений, вводить эту технологию и разворачивать эту систему преждевременно. Мы признаем, что технология может использоваться в законных и легитимных целях, но для этого необходимо закрыть те дыры российского законодательства и правоприменения, которые допускают утечки и продажу персональных данных на черном рынке. В этом плане мы говорим, что мораторий должен быть временный, а не постоянный, в отличие от Алены Поповой и ее команды, которые требуют полностью запретить использование такой технологии, в том числе в системе «Умных городов».
Другая проблема, которая нас беспокоит, — это неавторизованный доступ. Неавторизованный доступ — это когда нет регламента, какие сотрудники имеют право получать доступ к базе, загружать фотографии. Это становится проблемой. В таком случае система может использоваться, чтобы вычислять тех, кто ходит на акции протеста или в мечеть. В отношении таких лиц могут применяться меры давления, в том числе через уголовный и административный кодекс и другие инструменты, которые мы уже знаем по протестам, когда через университет или через работодателя пытались запретить гражданам куда-то ходить. Это самостоятельный риск, и мы его выделяем.
В Калифорнии приняли решение как минимум на три года заморозить проект, связанный с технологией распознавания лиц. Там идет разговор и об аспекте коммерческого использования, и в контексте использования правоохранительными органами. Оба вопроса волнуют американских правозащитников. В настоящее время Калифорния полностью запретила полиции и администрации городов закупать, использовать, внедрять самостоятельно либо на подряде подобные системы.
По сути, это те же основания, о которых мы говорим в России, но там есть и другие проблемы. Они говорят, что технология сегодня дает ошибочное срабатывание, особенно это касается чернокожих. Система допускает ошибки, а это значит, что могут привлекаться к ответственности лица, которые не совершали никаких преступлений. Искусственный интеллект в результате обработки изображений может делать неправильные выводы. Тестирование показало, что ошибок много, и поэтому они останавливают использование технологии.
Наиболее актуален для них вопрос приватности, особенно в Кремниевой долине.
В России информацию о возможных ошибках в работе системы распознавания лиц не публикуют. Одно могу сказать, слова Колокольцева и Собянина надо делить на два, а может быть и на три. Когда они заявляли о количестве видеокамер в Москве, мы после небольшого расследования выяснили, что большая часть таких камер непригодна для использования с технологией для распознавания лиц, они уже устарели, были закуплены более 10 лет назад, у них слабое разрешение.
Я уверен, что и здесь у них не так все хорошо, как они заявляют. Москва сегодня заявляет, что она более 13 млрд рублей готова закопать в закупку камер, в разработку софта, поэтому если здесь будет дальнейшее вливание денег, они конечно преуспеют, и система в каком-то смысле заработает.
Но она может повлечь массовое нарушение прав человека и даже изменение поведения людей в больших городах.
Есть исследования американских социологов, которые отмечают, что люди меняют свое поведение, когда знают, что их снимают, становятся более закрытыми. Это большая социологическая проблема, которая сейчас изучается и называется в числе причин, по которым такие камеры не должны работать. Они серьезно ограничивают право на передвижение, право на свободу выражения, право на осуществление свободного гражданского протеста. Любой человек, который находится под прицелом видеокамеры, многого себе не позволяет, и, конечно, это относится к таким фундаментальным рискам, как массовое нарушение права на приватность и частную жизнь.