Зачем гражданину собственный AI-агент

Сюжет, который уже не фантастика

Представьте, что однажды утром выплата, на которую вы рассчитывали, не приходит. В личном кабинете — короткая строка: «Право на меру не подтверждено». Ни имени, ни телефона, ни объяснения, какой именно факт вашей жизни система прочитала не так. Вы звоните на горячую линию; оператор видит тот же экран, что и вы, и тот же вердикт. Он не спорит — он зачитывает. Где-то выше по цепочке модель сопоставила данные, присвоила вашему случаю метку риска, и эта метка стала решением быстрее, чем вы успели узнать, что ваш случай вообще рассматривался.

Такая конфигурация — автоматическая оценка на стороне государства и человек, в одиночку заполняющий форму, на стороне гражданина — уже приводила к задокументированным системным сбоям: нидерландское «дело о пособиях» и австралийский Robodebt (разбор ниже). Главный вопрос здесь не «можно ли доверять алгоритму», а другой: если у государства появляется сила видеть, считать и действовать машинно, что даёт сравнимую силу человеку?

Асимметрия, которая возникает по умолчанию

Когда государство автоматизирует решение, оно получает три преимущества разом: скорость, охват и память. Машина рассматривает миллионы случаев одинаково быстро, видит данные из множества ведомств сразу и не забывает ничего. Человек напротив неё — медленный, частичный и забывчивый: он не знает, какие данные о нём существуют, не успевает за темпом системы и не может в одиночку реконструировать логику, по которой его случай попал в «красную» категорию.

Эта асимметрия — не злой умысел. Она встроена в саму конфигурацию: одна сторона действует агентно, другая по-прежнему заполняет форму. И именно из этой конфигурации, а не из чьей-то жестокости, вырастают самые тяжёлые истории.

Самый задокументированный пример — нидерландский «toeslagenaffaire», скандал с пособиями на детей. На протяжении ряда лет (события 2005–2019) налоговая служба Нидерландов ошибочно обвинила в мошенничестве около 26 000 семей. Модель оценки риска присваивала заявкам метку, опираясь в том числе на признаки вроде гражданства и низкого дохода; высокорисковые случаи затем разбирали люди — но разбирали, уже глядя на ярлык, поставленный машиной. Людей заставляли возвращать десятки тысяч евро. На фоне скандала более 1 600 детей из пострадавших семей были помещены вне дома; здесь важно не преувеличивать причинность — это следствие всей цепочки ошибочных обвинений и взысканий, а не прямое действие алгоритма. В январе 2021 года правительство ушло в отставку.

Похожая история в другой юрисдикции — австралийский Robodebt: автоматическое «усреднение дохода» выставило около 794 000 незаконных долгов; королевская комиссия в 2023 году назвала схему «грубой, жестокой… ни справедливой, ни законной» и порекомендовала создать орган для аудита автоматических решений. Важно описать эти случаи точно: решала не «злая нейросеть» — решал процесс, в котором машинная метка получала слишком большой вес, а у человека напротив не было ни равной скорости, ни равного доступа, ни реального способа возразить вовремя. Технологию здесь нельзя «отменить»; но можно изменить расстановку сил.

Что такое гражданский агент — и чем он не является

В авторской модели у государства есть свой агент — государственный, который ведёт жизненную ситуацию со стороны власти: проверяет право на меры, готовит и исполняет решения. Логичный, но почти всегда упускаемый шаг: если у государства появляется агент, у человека должен появиться свой. Чтобы понять идею, проще сначала сказать, чем гражданский агент не является.

• Это не персональный ассистент в духе «напомни и подскажи». Ассистент оптимизирует ваш день; гражданский агент защищает ваши интересы в столкновении с властью.
• Это не государственный чат-бот. Чат-бот объясняет решения государства от лица государства; гражданский агент оспаривает их от лица человека.
• Это не просто удобство. Удобство можно отключить без последствий для прав; противовес — нельзя.
• Это не «робот-юрист», продающий услугу. Юридический сервис работает на свою компанию; гражданский агент должен работать только на своего человека.
• И это не государственная услуга в дружелюбной обёртке. Если «агент гражданина» технически принадлежит и подчиняется той же власти, которую он должен проверять, это не противовес, а ещё один её канал.

Что он делает по существу: понимает контекст человека — его права, цели, обстоятельства; говорит с государственными системами на их языке и на их скорости; следит за действиями государственного агента; требует объяснимости каждого значимого шага; и, когда нужно, инициирует оспаривание. Он возвращает человеку переговорную силу, которой у одиночки перед автоматизированной системой обычно нет.

Три свойства, без которых это не работает

Идея «дать человеку агента» звучит привлекательно ровно до того момента, пока не спросишь: а чей это агент на самом деле? Гражданский агент имеет смысл только при трёх условиях.

Собственность и лояльность. Агент должен принадлежать человеку и отвечать перед ним. Не перед ведомством, не перед платформой, не перед рекламодателем. Его единственная функция — представлять интересы своего человека, даже когда это неудобно государству.

Независимость от оспариваемой стороны. Нельзя проверять власть инструментом, который эта же власть контролирует. Агент, способный спорить с государственным решением, не может управляться тем органом, чьё решение он оспаривает, — иначе спор закончится, не начавшись.

Делегирование и согласие. Агент действует не «вместо» человека вообще, а в пределах явно переданных полномочий. Что он может делать сам, что — только с подтверждением, где проходит граница, за которой решение остаётся за человеком: всё это задаёт сам человек, а не система. Согласие здесь не галочка при регистрации, а живой, отзываемый контур доверия.

Из этих свойств следует ещё одно требование, о котором легко забыть в разговоре о технологиях: базовый доступ для всех. Если защита перед автоматизированным государством станет платной премиальной опцией, асимметрия не исчезнет — она просто сменит ось, разделив людей на тех, у кого есть представитель, и тех, у кого его нет. Поэтому минимальный гражданский агент — это, в логике модели, общественное благо, а не товар.

Тень: захват агента

У всякого серьёзного предложения есть своя тень, и честнее назвать её самому. Главная опасность гражданского агента — захват.

Захват государством: агент формально «ваш», но работает на инфраструктуре, которую контролирует та же власть; его обновления, доступы и логика подчинены ведомству. Тогда «представитель человека» превращается в вежливый интерфейс подчинения.

Захват коммерческим провайдером: агент принадлежит частной платформе, которая монетизирует ваше внимание, данные или сами споры. Тогда человек получает не защитника, а посредника с собственным интересом, и снова оказывается слабой стороной — только теперь перед связкой «государство плюс платформа».

Ни одну из этих теней нельзя объявить невозможной. Их можно только конструктивно ограничивать.

Предохранители

Чтобы гражданский агент остался противовесом, а не превратился в свою противоположность, модель опирается на набор институциональных условий — и это не технологические «фичи», а правила, без которых техника бессмысленна.

• Открытые стандарты и переносимость. Человек должен иметь возможность сменить провайдера агента, не теряя своей истории и полномочий, — как меняют оператора связи, сохраняя номер. Переносимость лишает любого провайдера власти удержания.
• Независимый аудит. И государственный, и гражданский агент действуют с проверяемым следом; их поведение можно проверить извне, а не верить им на слово.
• Явные границы полномочий. Что агенту делегировано, фиксируется и ограничивается технически, а не подразумевается.
• Право действовать без агента. Никого нельзя заставлять иметь агента. Должен сохраняться человеческий, не-агентный маршрут взаимодействия с государством — иначе «помощь» становится принуждением.

У этой защиты есть честная граница. Гражданский агент оспаривает применение решения к конкретному человеку — правильно ли система прочитала факты, было ли действие объяснено и законно. Он не делает несправедливый закон справедливым: если ошибочна сама норма, агент способен сделать ошибку видимой и оспоримой, но менять правила — задача политики, а не представителя. Это не слабость идеи, а её честная мера.

Честная граница: чего пока нет

Важно не выдавать предложение за действительность. Гражданский AI-агент в описанном смысле сегодня не существует как сложившийся общественный институт. Это авторская институциональная конструкция, собранная из уже существующих технологических и правовых элементов.

Правовые элементы уже частично есть — но как фрагменты, а не как система. В ЕС статья 22 Общего регламента о защите данных (GDPR) даёт человеку право не быть объектом решения, основанного исключительно на автоматизированной обработке и порождающего значимые последствия, — с оговорками и гарантиями, включая право на человеческое вмешательство и оспаривание. Регламент ЕС об искусственном интеллекте (AI Act) требует, чтобы системы высокого риска поддавались эффективному человеческому надзору, и прямо предупреждает об «автоматизированной предвзятости» — склонности людей чрезмерно доверять выводу машины. Европейский совет по защите данных уточняет: человеческое участие должно быть содержательным и способным изменить исход, иначе формальный «человек в контуре» не считается гарантией.

Это — европейский правовой контекст, а не действующая в России норма и не одобрение описанной модели. Но он показывает направление: право уже нащупывает идею, что у автоматического решения должны быть объяснимость, надзор и возможность спора. Гражданский агент — это попытка довести эту идею до институциональной формы: не разовое право, которым трудно воспользоваться в одиночку, а постоянный представитель, который пользуется этими правами от вашего имени, на скорости системы.

Почему это и есть главная развилка

Сильное, видящее и действующее государство — это, само по себе, не приговор и не утопия. Вопрос в том, остаётся ли рядом с ним кто-то на стороне человека. Без гражданского агента автоматизация усиливает только одну сторону, и даже благие намерения сходятся к односторонней машине решений. С гражданским агентом — при условии, что он действительно ваш, независим и ограничен предохранителями — у человека появляется то, чего у одиночки перед системой нет: способность понять, проверить, оспорить и действовать вовремя.

Это и есть ответ на исходный вопрос. Собственный AI-агент нужен гражданину не для удобства, а для симметрии. Государство получает агентов в любом случае. Выбор, который ещё открыт, — получит ли их человек.

Связанное

Материал развивает идеи книги Андрея Тихонова «Агентное государство». Каноническое определение и принципы — на странице «Агентное государство». Смежные материалы: Государственные и гражданские AI-агенты, Цифровой Левиафан, об авторе.