Политолог Глеб Кузнецов: мы уже под цифровым контролем, вопрос лишь в том, насколько комфортными будут его рамки

«Клуб Регионов» обсудил с политологом Глебом Кузнецовым проект новой доктрины противодействия правонарушениям в цифровой среде до 2035 года. Документ обещает кардинально изменить правила игры: искусственный интеллект будет не просто фиксировать нарушения, а прогнозировать их и предотвращать. По мнению эксперта, ничего принципиально нового реализация доктрины в жизнь общества не привнесет: государство, по его словам, уже знает о нас достаточно много.

– Доктрина с одной стороны обещает отказ от централизованных хранилищ данных, с другой – вводит «цифровой токен», связывающий все действия конкретного гражданина воедино. В итоге государство будет знать о каждом из нас всё?

– Государство и так знает о нас немало. Дело не столько в объеме знаний, сколько в новом качестве. Доктрина добавляет к этому поведенческий контроль, в том числе с предиктивными механизмами. Что это означает на практике? Государство начинает ожидать от тебя определенного поведения. Если ты ведешь себя не так, как в его прогнозе, тебя постепенно могут начать ограничивать сначала в цифровых правах, а дальше, возможно, и в более широком круге.

– Речь о наказании правонарушителей?

– Не только о наказании плохих людей, но и о защите хороших. Тебя могут ограничить в правах, если, по мнению этой предсказывающей системы, ты рискуешь стать жертвой мошенничества.

– Как-то это не очень справедливо – поражать в правах того, кто сам почти пострадал.

– Это не навсегда, а скорее превентивная мера, чтобы не дать человеку совершить поступок, который причинит ему максимальный вред именно в этот момент. Когда система видит, что условный врач, который никогда не переводил крупных сумм, вдруг начинает вести себя иначе, в этот момент его пытаются защитить, временно ограничив в возможности совершить действие, которым он сам себе вредит.

Но остается классический вопрос: что делать при ошибках этой системы, при ложных срабатываниях, при злоупотреблениях? Потому что «неправильное поведение» – это не только перевод денег мошенникам. Это и, скажем, проявление нелояльности работодателю. Может ли это стать инструментом политического контроля? В принципе может, архитектура это допускает. Но доктрина прежде всего это набор идей, которые ее авторы считают хорошими. Посмотрим, что из этого получится на практике. По опыту могу сказать одно: систему контроля построить обычно легче, чем систему возмещения.

– Пора начать бояться, что мы окажемся в эпизоде «Черного зеркала»?

– Мы уже недалеко от этого. «Черное зеркало» в этом смысле скорее реалистичный сериал, чем фантастика. Систему тотального цифрового контроля, по сути, уже построили. Вопрос в другом, насколько комфортными будут ее рамки.

– От граждан что-то зависит? Те, кто не доверяет государству, и технопессимисты могут повлиять на ситуацию? Ждать ли протестов против сбора биометрии, как было со строительством 5G-вышек?

– В доктрине интересно написано про биометрию: формально она не обязательна, но по смыслу очевидно, что без нее нормально пользоваться сервисами будет сложно. По-настоящему обойтись без биометрии можно разве что уехав жить в тайгу, к Агафье Лыковой. Но, как мы видим, толпы туда не устремляются. Поэтому хочешь не хочешь, испытываешь технооптимизм или технопессимизм, образцы сдавать все равно придется.

– Доктрина включает появление новой профессии – антифрод-специалистов. Это будет новая бюрократически-силовая элита или просто техподдержка?

– Судя по тому, что там написано, лучшим антифрод-специалистом будет сам искусственный интеллект. А эти специалисты – обычные операторы, которые осуществляют контроль и пишут бумагу, если ИИ ошибся и что-то нужно поправить руками. Их влияние на систему невелико. Не стоит путать операторов ИИ и владельца ИИ – это совсем разные весовые категории.

– Кто из владельцев ИИ будет главным бенефициаром – «Яндекс», «Сбер» или Минцифры и ФСБ?

– «Яндекс», «Сбер» и прочие владельцы алгоритмов всегда подрядчики, которые работают по заказу и в согласовании с государством, по его техническому заданию. На вершине пирамиды у нас всегда стоит государство в отличие, например, от США, где коммерческие организации обладают значительно большей автономией, что, впрочем, тоже не делает простого человека счастливее.

Мы в целом движемся в сторону большего контроля и большей просчитанности. Власти обычно объясняют необходимость контроля тем, что дети и пожилые люди страдают от мошенников, но это лишь один из способов объяснить то, к чему система и так движется. Государство стремится видеть больше, и со временем будет видеть заметно больше.

– Допустим, граждане смирятся. А крупному капиталу удобно жить с большим братом?

– Возьмем условного крупного предпринимателя, какой ему смысл искать пути обхода? Здесь уместен известный мем про лису и ворону с сыром в клюве, где лиса говорит: «Ты пойми, отдавать сыр или нет – вопрос не стоит». Мы его уже отдали, личных данных, по сути, ни у кого не осталось.

Продолжая аналогию с «Черным зеркалом», можно представить появление специальной профессии человека, который сопровождает состоятельного клиента и выполняет за него цифровые действия. Сейчас у миллиардеров уже есть люди, которые, например, заказывают им самолеты, потому что сами они этого сделать не могут из-за санкций.

Но это скорее фантазия на тему, а в реальности прозрачность будет становиться более автоматизированной, алгоритмизированной и дешевой. Деться от нее будет особо некуда. Даже в тайге, чтобы иметь электричество, придется сдать биометрию и заключить договор с подрядчиком.

Бизнес и так уже предоставляет государству значительную часть нужной информации, так что принципиально нового тут немного. Разве что анонимности в сети станет заметно меньше – многие действия, которые раньше можно было совершать обезличено, придется делать под своим именем.

Всем, конечно, хочется драмы: чтобы кто-то сопротивлялся, чтобы государство делало одно, а бизнес другое. Но по факту они здесь давно действуют согласованно.

– Какой может быть роль регионов в реализации доктрины?

– Довольно скромная. Регионы в этой конструкции выступают в первую очередь источником данных, а не самостоятельным игроком.

– Насколько сильно доктрина может измениться к моменту, когда ее подпишет президент? Какие пункты могут уйти, что может добавиться?

– Важно понимать саму природу доктринальных документов. Это в значительной мере набор пожеланий. По факту это скорее направление движения, чем готовый набор решений, не закон прямого действия. Там и написано в соответствующем стиле: мы стремимся к тому-то, хотели бы того-то в целях обеспечения полной безопасности и заботы о гражданах. Поэтому это не столько про конкретные решения, сколько про то, как государственное цифровое руководство видит будущее. А видит оно его в поведенческом контроле через механизмы ИИ-предсказания.

И важно понимать: так будущее видит не только наше руководство, а вообще большинство государств, включая страны с гораздо более скромными технологическими возможностями, вроде Мьянмы. Вопрос лишь в том, у кого есть деньги на постройку такой системы. У более богатых стран денег больше, поэтому гражданина Франции, скорее всего, будут контролировать плотнее, чем гражданина России, а гражданина России плотнее, чем гражданина Мьянмы. Но направление движения в целом одно и то же.

– Как в целом наше руководство видит будущее: как дорогу, полную опасностей и мир в огне, или скорее позитивно?

– Все сценарии сегодня так или иначе пессимистичны. Прежде всего потому, что есть нерешаемые проблемы: низкая рождаемость, старение населения, вопросы энергетики и климата. Оптимистичных сценариев развития по большому счету не существует, а оптимистичные прогнозы чаще продают, чем описывают реальность.

– Каким будет итоговый уровень цифрового контроля у нас? Как в Китае?

– В Китае система заметно более отлаженная: ограничения там затрагивают минимальный набор действий, и в этом смысле это скорее образец административной аккуратности, до которого нам пока далеко.

– И напоследок про чиновников. Что насчет человеческого фактора? Сможет ли отдельно взятый чиновник использовать цифровой портрет гражданина, чтобы ему навредить?

– Это довольно абстрактный вопрос из серии «можно ли убить молотком». Кто захочет, тот сможет злоупотребить чем угодно, и для этого не обязательно быть чиновником. К примеру, о вас уже многое знает ваш интернет-провайдер – пространство для злоупотреблений начинается далеко не только на уровне госсистемы.