Государственное управление и конституционные права граждан: требования к использованию искусственного интеллекта органами публичной власти

Введение

Использование искусственного интеллекта органами публичной власти перестало быть исключительно технологическим экспериментом. Алгоритмы применяются при обработке обращений, распределении ресурсов, выявлении рисков, предоставлении государственных услуг, контроле и надзоре, кадровой аналитике, прогнозировании и подготовке проектов решений. Государственная политика связывает развитие искусственного интеллекта с национальными целями цифровой трансформации [7–9]. Одновременно алгоритмическая обработка данных способна влиять на осуществление прав, предусмотренных статьями 19, 23, 24, 29, 32, 33, 45, 46 и 55 Конституции Российской Федерации [1]. В связи с этим ключевой вопрос состоит не в допустимости технологии как таковой, а в конституционных условиях ее внедрения.

Традиционные гарантии административной процедуры создавались для решений, принимаемых должностным лицом и выраженных в мотивированном правовом акте. Алгоритмическая система меняет структуру процесса: данные могут собираться из множества источников, модель — обучаться на исторических массивах, критерии — формироваться статистически, а результат — представляться в виде рейтинга, сигнала риска или рекомендации. Формально окончательное решение подписывает человек, но фактически он может следовать машинному выводу без самостоятельной проверки. Поэтому правовое регулирование должно охватывать не только финальный акт, но и весь жизненный цикл системы.

Цель статьи — сформулировать конституционно-правовую модель использования искусственного интеллекта в государственном управлении. Применены формально-юридический, системный, функциональный и сравнительно-правовой методы. Научная новизна выражается в предложении выделить право лица на надлежащую алгоритмическую процедуру как комплексную гарантию, производную от достоинства личности, равенства, неприкосновенности частной жизни, права на информацию и судебную защиту. Содержание этой гарантии образуют законность цели, качество данных, уведомление, объяснимость, человеческий пересмотр, оспоримость, аудит и ответственность.

1. Искусственный интеллект как объект конституционно-правового регулирования Конституционное право регулирует не техническое устройство модели, а публичные отношения, возникающие в связи с ее применением. Когда алгоритм используется частной организацией для коммерческой рекомендации, основное значение имеют гражданско-правовые и информационные нормы.

Когда тот же алгоритм влияет на предоставление публичной услуги, проверку гражданина, назначение выплаты, доступ к образованию или административную ответственность, он становится элементом осуществления публичной власти. Следовательно, к нему применимы требования связанности власти правом, равенства, мотивированности, пропорциональности и судебного контроля.

В российской доктрине предлагаются разные подходы — от признания специального статуса искусственного интеллекта до регулирования конкретных сфер его использования [15–18]. Для публичного управления вопрос о самостоятельной правосубъектности системы имеет второстепенное значение. Алгоритм не должен выступать самостоятельным носителем государственно-властного полномочия:

юридическая ответственность сохраняется за органом и уполномоченным должностным лицом. Даже автономная техническая система является инструментом публичной администрации, а ее непрозрачность не может освобождать государство от обязанности объяснить и обосновать решение.

Необходимо различать автоматизацию, алгоритмическую поддержку и автоматическое принятие решения. В первом случае цифровая система выполняет арифметические, регистрационные или поисковые операции по заранее заданным правилам. Во втором она формирует прогноз, классификацию или рекомендацию, которую оценивает должностное лицо. В третьем юридически значимый результат возникает без индивидуальной человеческой оценки. Степень конституционного риска возрастает от первой модели к третьей; следовательно, интенсивность требований должна быть пропорциональна автономности системы и тяжести возможного воздействия. Предлагается использовать риск-ориентированную классификацию. Минимальный риск характерен для технических функций, не затрагивающих права. Ограниченный риск возникает при информационном взаимодействии с гражданином и требует маркировки машинного участия. Высокий риск охватывает системы, влияющие на доступ к публичным благам, контроль, трудоустройство на государственную службу, миграционный статус, биометрическую идентификацию и безопасность. Неприемлемый риск связан с практиками, которые объективно несовместимы с достоинством и свободой: скрытым социальным ранжированием населения, массовой дискриминационной профилизацией и полностью автоматическим назначением существенных санкций.

2. Современное российское регулирование: достижения и фрагментарность Базовые требования содержатся в Конституции Российской Федерации, Федеральном законе «Об информации, информационных технологиях и о защите информации» и Федеральном законе «О персональных данных» [1–3]. Они закрепляют режим информации, безопасность, законность обработки данных, права субъекта персональных данных и обязанности оператора. Однако эти акты создавались до массового распространения обучаемых моделей и не в полной мере отвечают на вопросы о происхождении обучающих данных, статистической дискриминации, объяснимости результата и распределении ответственности между разработчиком, поставщиком и государственным заказчиком.

Федеральный закон от 31 июля 2020 г. № 258-ФЗ сформировал правовую основу экспериментальных правовых режимов в сфере цифровых инноваций [4]. Эксперимент позволяет проверить технологию в контролируемой среде, но сам по себе не заменяет конституционных гарантий. Изъятия из общего регулирования должны быть точно определены, ограничены по сроку и территории, сопровождаться мониторингом и прекращаться при выявлении несоразмерного риска. Участник эксперимента не может лишаться права знать о применении специального режима и требовать возмещения вреда.

Федеральный закон от 24 апреля 2020 г. № 123-ФЗ о московском эксперименте создал специальную площадку для технологий искусственного интеллекта [5]. Его значение состоит в институционализации экспериментального подхода и правового режима данных. Вместе с тем последующее распространение алгоритмических решений за пределы эксперимента требует единых федеральных стандартов. Региональная или ведомственная фрагментация способна привести к различному уровню защиты граждан в зависимости от территории и органа.

Особый массив норм сформирован в сфере биометрической идентификации. Федеральный закон от 29 декабря 2022 г. № 572-ФЗ регулирует использование биометрических персональных данных и единой биометрической системы [6]. Биометрия повышает надежность дистанционных услуг, но обладает высокой чувствительностью: утрата шаблона не может быть устранена простой заменой, а ошибочная идентификация способна ограничить доступ к правам. Поэтому алгоритмы биометрического сопоставления должны проходить независимое тестирование на точность, различия ошибок между группами и устойчивость к подделкам.

Национальная стратегия развития искусственного интеллекта, утвержденная Указом Президента Российской Федерации от 10 октября 2019 г. № 490 и обновленная в 2024 г., закрепляет стратегические ориентиры технологического развития [7; 8]. Указ Президента Российской Федерации от 7 мая 2024 г. № 309 относит цифровую трансформацию к национальным целям [9]. Стратегические документы важны для координации, однако гарантии прав должны устанавливаться законом. Ведомственные кодексы этики и методические рекомендации не могут служить достаточным основанием ограничения права.

Федеральный закон от 26 июля 2026 г. № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации», вступающий в силу 1 сентября 2026 г., формирует новый общий контур государственной поддержки отрасли [10]. Его принятие свидетельствует о переходе от отдельных экспериментов к системной политике. Вместе с тем правовой режим поддержки разработчиков необходимо дополнять публично-правовым блоком гарантий при государственном применении. Стимулирование инноваций и защита прав не являются альтернативами: предсказуемые требования повышают доверие и качество решений.

3. Конституционный принцип равенства и алгоритмическая дискриминация Алгоритм может не использовать прямо запрещенный признак, но воспроизводить неравенство через косвенные переменные. Место проживания, история занятости, тип устройства, модель потребления или сеть социальных связей способны коррелировать с социальным положением, возрастом, состоянием здоровья и иными характеристиками.

Если обучающие данные отражают прежнюю административную практику, система закрепляет ее как статистическую норму. Формальная нейтральность модели не исключает дискриминационного эффекта [20].

Статья 19 Конституции Российской Федерации требует равенства перед законом и запрета ограничений прав по социальным и иным обстоятельствам [1]. Для алгоритмического управления этого недостаточно понимать равенство только как запрет намеренного различия. Государственный орган обязан оценивать последствия модели и предупреждать систематически худшее положение определенных групп. Предлагается закрепить оценку алгоритмического воздействия до ввода высокорисковой системы: определить затрагиваемые категории лиц, возможные различия ошибок, меры снижения риска и процедуру повторной оценки.

Статистическая точность в среднем не доказывает конституционную приемлемость.

Модель с общей точностью девяносто пять процентов может ошибаться значительно чаще в отношении малочисленной группы. В публичной сфере следует публиковать не только агрегированный показатель, но и структуру ложноположительных и ложноотрицательных результатов применительно к юридически значимым категориям. При этом раскрытие статистики должно исключать идентификацию конкретных лиц и злоупотребление системой.

Не всякое различие является дискриминацией. Публичная власть может учитывать релевантные обстоятельства, если цель законна, критерий объективно связан с ней, а мера соразмерна. Но использование корреляции вместо юридического основания недопустимо.

Высокая статистическая вероятность нарушения не равна факту нарушения; неблагоприятное решение требует индивидуальной проверки доказательств. Алгоритмический риск может служить основанием дополнительной проверки, но не самостоятельной санкцией. 4. Неприкосновенность частной жизни и пределы государственного профилирования Статьи 23 и 24 Конституции Российской Федерации защищают частную жизнь и запрещают сбор, хранение, использование и распространение информации о частной жизни без согласия, за исключением предусмотренных законом случаев [1]. Машинное обучение усиливает риск вторичного использования данных: информация собирается для одной услуги, объединяется с другими массивами и применяется для новой цели. Даже обезличенные данные могут быть повторно идентифицированы при сопоставлении. Поэтому принцип целевого ограничения должен распространяться на обучение, тестирование и эксплуатацию модели.

Согласие не всегда является достаточным основанием в отношениях с государством. Гражданин может фактически не иметь альтернативы цифровой услуге либо не понимать сложной цепочки обработки. Для обязательных публичных функций требуется прямое законное основание, определяющее категории данных, цель, сроки хранения, получателей и права лица. Формула об обработке «для повышения эффективности» чрезмерно широка и не соответствует требованию правовой определенности.

Профилирование представляет особый риск, когда государственный орган выводит неизвестные лицу характеристики: предполагаемую благонадежность, вероятность поведения, социальный статус или потребность в контроле. Такие выводы могут быть ошибочны и стигматизирующи. Следует запретить использование чувствительных предположений, не имеющих непосредственной связи с полномочием. Лицо должно иметь право узнать основные категории данных и выводов, исправить исходную информацию и потребовать исключения недостоверного профиля.

Принцип минимизации означает выбор наименее инвазивной архитектуры. Если цель достигается без персонализации, орган не вправе создавать индивидуальные профили. Если достаточно локальной обработки, передача данных в централизованное хранилище не оправдана. Если возможно использование синтетических или агрегированных наборов для тестирования, реальные персональные данные применяться не должны. Технические меры защиты становятся частью юридической обязанности государства.

5. Право на информацию, объяснимость и мотивированность Гражданин должен знать, что при рассмотрении его дела применялась алгоритмическая система. Скрытое машинное участие препятствует реализации права на возражение и оспаривание. Уведомление должно быть конкретным: наименование системы, роль в процессе, категории использованных данных, возможные последствия и способ получить человеческий пересмотр. Общая ссылка в пользовательском соглашении не соответствует значимости публичного решения.

Объяснимость не означает обязательного раскрытия исходного кода. Конституционная гарантия направлена на понимание юридически значимых причин. Орган должен сообщить, какие факторы повлияли на результат, каковы их правовая релевантность и фактическое содержание, какие данные можно оспорить. Коммерческая тайна поставщика не может исключать объяснение; государственный заказчик обязан заранее обеспечить договорное право на аудит и предоставление необходимой информации.

Мотивировка алгоритмически поддержанного решения должна быть индивидуальной.

Формула «система определила высокий риск» не является правовым основанием. Должностное лицо обязано сопоставить машинный вывод с материалами дела, проверить его применимость и указать собственные выводы. При невозможности объяснить результат модель не должна использоваться для неблагоприятного решения. Технологическая сложность не снижает стандарт обоснования, а повышает его. Полная публичность модели также может создавать угрозы: раскрытие параметров позволяет манипулировать системой, нарушать безопасность или права третьих лиц. Поэтому необходима многоуровневая прозрачность. Гражданину предоставляется индивидуальное объяснение; независимому аудитору и суду — расширенная техническая документация; обществу — сведения о назначении, владельце, точности, инцидентах и результатах оценки воздействия. Такой режим сочетает открытость с безопасностью.

6. Человеческий контроль и запрет фиктивного участия должностного лица Требование «человек в контуре» имеет смысл только при наличии реальной способности изменить результат. Если должностное лицо получает тысячи автоматических рекомендаций, не имеет времени, доступа к данным или полномочия отклонить вывод, человеческий контроль является фиктивным. Необходимо установить организационные нормативы нагрузки, обучение сотрудников, доступ к объяснениям и обязанность документировать случаи согласия и несогласия с системой.

Для решений высокой интенсивности — отказа в жизненно важной выплате, ограничения свободы, применения существенной санкции, включения в реестр риска — полностью автоматическая модель должна быть запрещена либо допускаться только для благоприятного решения. Неблагоприятный результат требует индивидуального рассмотрения. Такой асимметричный подход позволяет использовать автоматизацию для ускорения предоставления права, не перенося машинную ошибку на гражданина.

Должностное лицо не должно автоматически нести персональную ответственность за скрытый дефект модели, но и ссылка на алгоритм не освобождает орган. Следует разграничить ответственность: разработчик отвечает за несоответствие заявленным характеристикам, поставщик — за внедрение и сопровождение, государственный заказчик — за законность цели, данные и процедуру, должностное лицо — за добросовестность индивидуального рассмотрения. Для гражданина ответчиком остается публичный орган, который затем реализует регрессные и договорные механизмы.

Необходим журнал алгоритмического решения: версия модели, дата и входные данные, ключевые факторы, уровень уверенности, действия должностного лица и итог. Журнал должен храниться в течение срока обжалования и быть доступен суду. Без воспроизводимости невозможно установить причину ошибки, особенно если модель обновляется. Требование журналирования должно закрепляться для всех высокорисковых государственных систем.

7. Право на оспаривание и судебная защита Статья 46 Конституции Российской Федерации гарантирует судебную защиту прав и свобод [1]. Алгоритмическая форма решения не должна создавать процессуальный иммунитет. Гражданин вправе оспаривать не только итоговый акт, но и использование недостоверных данных, незаконную цель обработки, отказ в объяснении, отсутствие человеческого пересмотра и дискриминационный эффект.

Суд должен иметь возможность потребовать документацию и назначить техническую экспертизу.

Проблема распределения бремени доказывания особенно значима. Гражданин не располагает моделью и внутренними данными, поэтому не может точно доказать механизм ошибки. Достаточно представить признаки вероятной алгоритмической несправедливости: противоречие фактам, устойчивое различие результатов, отказ раскрыть причины.

После этого орган обязан доказать законность данных, валидацию, релевантность критериев и индивидуальную проверку. Иное делает защиту иллюзорной.

Судебный контроль не должен ограничиваться проверкой того, что должностное лицо формально подписало акт. Необходимо выяснять фактическую роль системы. Если рекомендация была определяющей, суд оценивает процедуру ее получения. Коммерческая тайна может защищаться закрытым заседанием и ограничением копирования, но не отказом в исследовании доказательств. Публичный орган, закупивший «черный ящик» без права аудита, принимает на себя риск невозможности доказать законность.

Помимо индивидуальной защиты требуется коллективный механизм. Ошибка модели обычно затрагивает множество лиц одинаковым способом. Прокурор, уполномоченный по правам человека, общественная организация или группа граждан должны иметь возможность требовать приостановления системы и устранения системного дефекта. Решение по такому делу должно распространяться на повторную проверку ранее принятых актов.

8. Институциональная модель государственного алгоритмического управления Предлагается создать федеральный реестр алгоритмических систем публичной власти. В открытой части указываются владелец, назначение, правовое основание, категория риска, поставщик, используемые типы данных, дата ввода, результаты оценки воздействия и контакт для обращений. Закрытая часть содержит техническую документацию и сведения безопасности. Отсутствие системы в реестре должно исключать ее использование для юридически значимых решений.

До внедрения высокорисковой системы проводится оценка алгоритмического воздействия. Она включает анализ законности цели, необходимости автоматизации, альтернатив, качества данных, риска дискриминации, влияния на частную жизнь, кибербезопасности, объяснимости и доступности обжалования. Документ проходит независимую экспертизу и общественное обсуждение в части, не содержащей охраняемой информации. После внедрения оценка повторяется при существенном обновлении.

Независимый аудит должен проверять не только код, но и организационную практику. Даже корректная модель причиняет вред при неправильных данных, чрезмерном доверии сотрудников или отсутствии пересмотра. Аудитор анализирует выборку реальных дел, различия ошибок, журналы решений, жалобы и инциденты. Для критических систем требуется периодическая сертификация; выявленный высокий риск влечет приостановление эксплуатации.

Государственные закупки искусственного интеллекта нуждаются в специальных условиях. Контракт должен предусматривать доступ к документации, право аудита, уведомление об обновлениях, требования к локализации и безопасности данных, показатели качества по группам, обязанность устранять дефекты и передавать сведения для судебного разбирательства. Ссылка поставщика на интеллектуальную собственность не может блокировать конституционный контроль.

Наконец, необходим компетентный надзорный центр, координирующий стандарты и расследующий серьезные инциденты.

Его функция не должна сводиться к выдаче разрешений. Он формирует методики, ведет реестр, принимает сообщения, инициирует аудит и публикует обзоры. При этом отраслевые органы сохраняют ответственность за содержание решений, а суд — окончательный контроль законности.

9. Законодательные предложения Предлагается принять федеральный закон об алгоритмических системах публичной власти либо включить самостоятельную главу в законодательство об информации. Закон должен определить понятия автоматического и алгоритмически поддержанного решения, категории риска, запрещенные практики, реестр, оценку воздействия, аудит и права граждан. Регулирование должно быть технологически нейтральным: применяться не к названию «искусственный интеллект», а к функциональной способности системы существенно влиять на права.

В Кодексе административного судопроизводства Российской Федерации целесообразно установить особенности доказывания:

обязанность органа раскрыть документацию, презумпцию незаконности при отсутствии журнала решения, возможность обеспечения иска в виде приостановления системы, коллективную защиту и специальную экспертизу. В законодательстве о персональных данных следует прямо закрепить право на информацию о логике и значимых факторах автоматизированной обработки, а также право на человеческий пересмотр.

Федеральный закон № 243-ФЗ о поддержке развития технологий искусственного интеллекта целесообразно дополнить принципом конституционно ответственных инноваций [10]. Получатель государственной поддержки, создающий систему для публичного сектора, должен соблюдать требования качества данных, документирования, тестирования и недискриминации. Бюджетное стимулирование необходимо связывать не только с технологическими показателями, но и с доказанной безопасностью для прав человека.

Предлагается закрепить семь обязательных гарантий: уведомление о применении системы; доступ к индивидуальному объяснению; право исправить данные; право на человеческий пересмотр; запрет полностью автоматического неблагоприятного решения в высокорисковой сфере; независимый аудит; эффективное возмещение вреда. Совокупность этих гарантий образует право на надлежащую алгоритмическую процедуру. Оно не создает привилегий для цифровой среды, а адаптирует традиционные принципы правового государства к новой форме осуществления власти.

Заключение

Искусственный интеллект способен повысить скорость, последовательность и доступность государственного управления, но его преимущества не имеют самостоятельного конституционного приоритета. Эффективность публичной власти измеряется не только количеством обработанных дел, но и законностью, справедливостью и возможностью гражданина быть услышанным. Алгоритмическая система должна усиливать способность должностного лица принимать обоснованное решение, а не создавать непрозрачный источник власти.

Российское регулирование включает информационные, персональные, экспериментальные, биометрические и стратегические нормы, а в 2026 г. дополнено законом о поддержке технологий искусственного интеллекта [2–10]. Следующий этап должен быть связан с конституционализацией государственного применения: риск-ориентиро- ванной классификацией, реестром, оценкой воздействия, аудитом, журналированием и процессуальными гарантиями. Особенно важно не допустить подмены юридического основания статистической корреляцией.

Право на надлежащую алгоритмическую процедуру объединяет требования равенства, частной жизни, информации, мотивированности и судебной защиты. Его признание позволяет сохранить человеческое измерение публичной власти: лицо остается участником правового отношения, а не объектом профилирования. Будущее цифрового государства зависит от способности встроить инновацию в конституционный порядок таким образом, чтобы технология была проверяемым инструментом, а окончательная ответственность оставалась у человека и государства.