Во время пандемии коронавируса в России особенно остро встал вопрос хранения и обработки персональных данных граждан. То в Москве проверяют утечку данных из госприложения, собиравшего персональные данные нарушителей самоизоляции, то начинаются разговоры о цифровом профиле мигрантов. Одна новость при этом прошла незамеченной: с 1 июля в столице России запущен пятилетний эксперимент по тестированию искусственного интеллекта. Что это значит для москвичей и граждан всей России, могут ли уже сейчас власти собирать цифровые профили на жителей и можем ли мы стать вторым Китаем с его всеобъемлющей слежкой за населением — читайте в интервью с правовым аналитиком Международной правозащитной группы "Агора", адвокатом Станиславом Селезневым.
Данная публикация является первой из серии материалов, в которых мы анализируем политику IT-контроля Китая и попытки адаптации методов Поднебесной в России.
Хотите сообщить новость или связаться нами?
Пишите или посылайте нам голосовые сообщения в WhatsApp.
— Власти запустили в Москве пятилетний эксперимент по созданию необходимых условий для разработки и внедрения технологии искусственного интеллекта. Желающие (компании и физлица) могут попасть в реестр организаций, которые получат карт-бланш на тестирование искусственного интеллекта в столице. Что вы думаете про сам закон и насколько это нормально, когда государство пытается внедрять такую технологию?
— На мой взгляд, закон принимается в полном соответствии с генеральной линией и ориентирован на большую серьезную информатизацию — на внедрение самых новейших технологий во все сферы нашей жизни.
И это несмотря на то, что у нас фактически действует и применяется система распознавания лиц. Эти системы уже сейчас внедрены в нескольких регионах, как минимум — в Москве, Татарстане и на Сахалине. Но фактически, использование этих систем не соответствует ни Конституции, которая закрепляет право граждан на свободное перемещение и на тайну частной жизни, ни закону о защите персональных данных, который требует письменного согласия гражданина на обработку биометрических персональных данных.
У меня есть мнение, что закон этот введен именно с целью обучения машинных алгоритмов поиску и слежке за гражданами с использованием биометрических персональных данных, таких как изображение лица. Есть сложившаяся европейская позиция оценки такой неперсонализированной слежки за гражданами как не допустимое вмешательство в частную жизнь. Но этой позицией у нас власти не связаны и уже внедрили массовое видеонаблюдение с распознаванием лиц.
Фактически, власть получит возможность моделировать поведенческие паттерны каждого конкретного жителя Москвы
Чтобы хоть как-то сделать наблюдение законным, наши власти пошли обратным путем: сначала ввели систему, она показала себя видимо достаточно эффективно, и под машинное обучение, под совершенствование этих систем слежки и контроля вводится этот новый федеральный закон о создании экспериментальной зоны в Москве. Все это для внедрения технологии искусственного интеллекта. А что такое искусственный интеллект?
— "Комплекс решений, позволяющий имитировать когнитивные функции человека", так определяет закон.
— Да, такие функции как анализ, поступивших данных, синтез выводов. Индукция и дедукция. Для всех специалистов по нейронным сетям это достаточно бытовые понятия. То, что принято было считать исключительно прерогативой человечества разума, на сегодняшние день нейронные сети и другие разработки позволяют делать без участия человека.
Однако этот закон и его немалая часть посвящена изменению законодательства о защите и охране персональных данных. Именно поэтому я начал говорить о персональных данных.
Речь идет о том, чтобы внедрить машинное обучение и разрешить властям и компаниям (можно предположить, что список этих компаний уже определен) получать данные с камер видеонаблюдения. Это изображения людей, места наиболее частого их прибывания, места жительства. И с помощью этих данных создавать электронный образ человека, его наиболее частых предпочтительных маршрутов для поездки на работу, прогулок и других мест. Фактически, власть получит возможность моделировать поведенческие паттерны каждого конкретного жителя Москвы.
— Вы сказали про персональные данные, о том, что там изменения. Что именно поменяется в контексте этого закона?
— Вводятся дополнительные исключения, вносятся изменения в статьи 6 и 10 Закона о персональных данных. Это очень важные статьи. Так, статья 10, в частности, говорит о специальных категориях персональных данных, обработка которых требует особого разрешения. Это персональные данные, связанные с медицинской тайной, персональной тайной, связанной с тайной о родственниках. Здесь довольно большой список.
Этот закон позволяет частным компаниям, которые участвуют во внедрении искусственного интеллекта, собирать эту информацию с привязкой к конкретным людям. Если мы говорим о персональных данных, то это могут быть максимально подробные ФИО, фотография, место жительства, медицинский диагноз. Все это может использоваться для моделирования поведения, привычек людей с теми или иными диагнозами.
Можно говорить о том, что внедрение этого закона направлено на улучшение ситуации с прогнозированием пробок, может быть, или поиском местоположения для новых станций метро, парков, но тогда для этого не требовалось бы вносить изменение в законодательство о персональных данных. То обстоятельство, что в этом законе — №123 ФЗ, — такое серьезное внимание уделено персональным данным, позволяет говорить, что именно под разработку средств слежки и прогнозирование поведения граждан он и разрабатывается.
— Так как этот закон вступил в силу, никакой бумажки, условно, москвичам не придет о том, что им нужно согласиться на обработку метаданных или каких-то других? Все уже внесли, ничего не нужно и можно просто наблюдать сколько захочется?
— В том-то и дело. Изменения вносятся в законы о персональных данных, если раньше граждане были защищены, хотя бы частично, положениями этого закона, который запрещал без согласия граждан передавать эту информацию от властей частным фирмам, то сейчас этот запрет снимается. Этот закон №123 ФЗ приняли законодатели, за которых мы с вами проголосовали.
В последнее время в сфере IT встречается очень часто, когда принимается норма, не содержащая частных требований к лицам, которые в соответсвии с этой нормой действуют. У нас уже есть закон Яровой, о хранении данных, полученных при передаче по каналам связи, есть закон о блокировке VPN. Все они принимаются на уровне общего регулирования, а вот уже частное регулирование происходит огромным количеством каких-то положений, приказов, подзаконных актов, которые очень редко проходят настоящее общественное обсуждение, антикоррупционную экспертизу.
За неделю до массовых акций у властей могут быть на 90% верные списки лиц, которые действительно пойдут
Поскольку закон предполагает их принятие, то они становятся его частью, но вне контроля законодателя, вне контроля общественности и обычных граждан. А самое главное, сложно понять обычному гражданину потом нарушены его права или нет без доступа к внутренним ведомственным базам данных с этими положениями. Хорошо, если они будут опубликованы.
— Я заметила, что в законе нет ни одного слова о том, что это будут обезличенные данные.
— Об этом речь и идет. Здесь же есть статья 3 "Цели, задачи и основные принципы". Одним из принципов установлена "защита прав и свобод гражданина, обеспечение безопасности общества и государства и не дискриминационный доступ к результатам применения искусственного интеллекта".
По сути дела, изменения в закон о персональных данных для того и вносятся, чтобы иметь возможность участникам этого эксперимента, как властям, так и коммерческим организациям, работать с персонифицированными данными — ФИО, местами жительства, изображениями, диагнозами.
— С юридической точки зрения это называется экспериментальный правовой режим. В России что-то подобное вводилось до этого?
— Да. У нас есть понятие о регулятивной песочнице. С 2018 года у нас возможно введение экспериментальных правовых режимов. Ранее их не применяли в связи с серьезным вмешательством в основные права граждан. У нас в основном экспериментировал Центральный банк в финансовой сфере, не затрагивая на прямую таких прав человека как уважение тайны частной и семейной жизни, на право свободу перемещений, свободу выражения мнений. Эта же система позволяет подгрузить в нее ни только данные о перемещении граждан, но и данные из страниц в соцсетях москвичей и прогнозировать ни только перемещения, но и поведение на те или иные события.
— То есть, власти смогут узнать, был ли человек на том или ином митинге или другом массовом мероприятии, что он писал об этом и как относится к тем или иным событиям?
— За неделю до массовых акций у властей могут быть на 90% верные списки лиц, которые действительно пойдут. При том, что сами граждане еще не уверены, что там окажутся.
Одна лишь возможность появления в сознании лиц ощущения, что их частная жизнь станет предметом постоянного наблюдения, уже является неприменимым для Европы
Современные технологии искусственного интеллекта и машинные технологии, моделирующие человеческие реакции и действия, могут проанализировать сведения о перемещениях, реакциях человека за предыдущие несколько лет. Тогда они будут иметь 90% вероятность, что человек окажется на той или иной акции протеста, вплоть до того, что через какой выход метро он пойдет к месту проведения акции. И при необходимости его задержания можно будет именно здесь выставить пост и совершенно спокойно его там обнаружить.
— В законе сказано, что власти должны получить доступ ко всей информации от компаний, которые решат участвовать в этом эксперименте. Как это будет реализовано?
— Он, естественно, будет происходить в обе стороны. Власти будут представлять сведения, уже имеющие у них в данный момент, а частная организация их обрабатывать. Точно так же результаты обработки будут подавать властям и эта информация предполагает постоянный, возможно онлайн, ежеминутный, ежесекундный обмен информации. Потому, что камеры принадлежат Москве, а машинным данным в идеале необходим онлайн доступ к обработке этой информации. Поэтому обмен будем происходить онлайн, ежесекундно.
— Вы говорили про мировую практику — про Британию и другие европейские страны. Есть ли там что-то подобное именно с точки зрения закона и как это регулируется?
— Что касается применения технологий искусственного интеллекта, я говорил о слежке. О том, что в принципе сбор неперсонифицированной информации о гражданах, ни о тех, кто совершал преступления или кто подозревается, а в принципе — массовая неизбирательная слежка с учетом распознавания лиц. Огромный скандал был в США в связи со вскрытой системой слежки, вскрытой Эдвардом Сноуденом. Там, правда, речь шла о слежке по средствам телефонных разговоров. Но после того, как информация стала достоянием общественности, глава АНБ дал показания в Сенате. Выяснилось, что на нее потратили огромные средства, но при этом она не позволила выявить сколько-нибудь значительного числа действительно серьезных правонарушений. В то время как большое количество людей находились длительное время в состоянии персонифицированного, но не обоснованного контроля.
Точно также Европейский суд юстиции принимал решение по спору в 2014 году. Он провозгласил недействительной директиву хранения данных ЕС от 2006 года, которая была очень похожа на закон Яровой. Она требовала от поставщиков общедоступных услуг электросвязи хранить данные о трафике, местоположении абонента в течение периода от шести месяцев до двух лет.
Суд тогда отметил, что "раз эти данные сохранялись и использовались без сообщения об этом конкретному абоненту, что могло породить в сознании заинтересованных лиц ощущение, что их частная жизнь была предметом постоянного наблюдения и было недопустимым вмешательством в право о частной жизни". Одна лишь возможность появления в сознании лиц ощущения, что их частная жизнь станет предметом постоянного наблюдения, уже является неприменимым для Европы. У нас с вами никто в России по этому поводу беспокойство не проявляет. Все принимается как данность. Есть еще практика связанная с контролем телефонных переговоров. В частности, по жалобе Романа Захарова против России ЕСПЧ указал на необходимость строгого судебного контроля слежки за гражданами и установления максимально узких границ сбора информации о каждом отдельном лице.
— Есть в мире одна страна, которая очень известна тем, что она следит за своими гражданами — это Китай. Во многих профильных форумах люди часто пишут, что разрешение на слежку в России приведет к тому, что мы превратимся во второй Китай, где государство имеет полный доступ к нашим данным и мы не сможем скрыться от него.
— Анализ принимаемых норм и технологий, говорит о том, что Россия двигается по пути Китая. Зачастую, даже покупая китайские технологии для их внедрения. Мы можем говорить, что те же самые машинные технологии будут приниматься для формирования некого цифрового профиля гражданина. Одним из следующих законопроектов у нас станет законопроект о цифровом профиле, который будет тем или иным образом либо дискриминировать, либо вознаграждать граждан за поведение, которое поощряется или нет. Уже появились предложения о создании такого профиля для мигрантов в обязательном порядке.
— Во время режима самоизоляции какую-то часть граждан, которые должны были сидеть на карантине в Москве, вычисляли по камерам на домофонах и на домах. Было ли это законно, не пытались люди оспорить сам способ получения информации?
— На сегодняшний день заявления направлены, процесс судебный далек от завершения. В основном мы сейчас находимся на досудебной стадии по таким делам.
— Есть ли вероятность, что дела решатся в пользу заявителей?
— Я могу ответить на этот вопрос в том случае, если у меня в руке будет судейский молоточек. А если предскажу, то меня лишат адвокатского статуса.
Бойтесь равнодушия — оно убивает. Хотите сообщить новость или связаться нами? Пишите нам в WhatsApp. А еще подписывайтесь на наш канал в Telegram.
