Новый юридический журнал3034-43953034-439510.24412/3034-4395-2024-1-51-60OtherГосударственное управление и конституционные права граждан: требования к использованию искусственного интеллекта органами публичной властиPublic administration and constitutional rights: requirements for the use of artificial intelligence by public authoritiesБулаковОлег НиколаевичBulakovOleg Nikolaevichmail@law-books.ruDoctor of Law, Professor, Head of the Department of Constitutional and International Law at the Russian State Humanitarian University, Member of the Expert Council of the Federation Council of the Federal Assembly of Russiaдоктор юридических наук, профессор, заведующий кафедрой конституционного и международного права Российского государственного гуманитарного университета, член экспертного совета Совета Федерации Федерального Собрания России02042024151601501202427032024

Статья посвящена конституционным требованиям к применению искусственного интеллекта органами публичной власти. Исследованы риски алгоритмической дискриминации, государственного профилирования, непрозрачности и фиктивного человеческого контроля. Обосновано право на надлежащую алгоритмическую процедуру, включающее уведомление, объяснение, исправление данных, человеческий пересмотр, аудит и судебное оспаривание. Предложены риск-ориентированная классификация государственных систем, федеральный реестр, оценка алгоритмического воздействия, журналирование и специальные правила доказывания.

The article examines constitutional requirements for the use of artificial intelligence by public authorities. It analyses the risks of algorithmic discrimination, governmental profiling, opacity and merely formal human oversight. The author substantiates a right to due algorithmic process comprising notice, explanation, data correction, human review, audit and judicial challenge. A risk-based classification, a federal register of public-sector AI systems, algorithmic impact assessment, decision logging and special evidentiary rules are proposed.

искусственный интеллектконституционные правапубличная властьалгоритмическое решениеперсональные данныеравенствообъяснимостьчеловеческий контрольсудебная защитацифровое государствоartificial intelligenceconstitutional rightspublic authorityalgorithmic decisionmakingpersonal dataequalityexplainabilityhuman oversightjudicial protectiondigital governmentКонституция Российской Федерации: принята всенародным голосованием 12 дек. 1993 г. с изменениями, одобренными в ходе общероссийского голосования 1 июля 2020 г. // Официальный интернет-портал правовой информации. URL: https://pravo.gov.ru (дата обращения: 01.08.2023).Об информации, информационных технологиях и о защите информации: Федеральный закон от 27 июля 2006 г. № 149-ФЗ (ред. от 2026 г.) // Собрание законодательства РФ. 2006. № 31 (ч. I). Ст. 3448.О персональных данных: Федеральный закон от 27 июля 2006 г. № 152-ФЗ (ред. от 2026 г.) // Собрание законодательства РФ. 2006. № 31 (ч. I). Ст. 3451.Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации: Федеральный закон от 31 июля 2020 г. № 258-ФЗ (ред. от 2026 г.) // Собрание законодательства РФ. 2020. № 31 (ч. I). Ст. 5017.О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации — городе федерального значения Москве: Федеральный закон от 24 апр. 2020 г. № 123-ФЗ // Собрание законодательства РФ. 2020. № 17. Ст. 2701.Об осуществлении идентификации и (или) аутентификации физических лиц с использованием биометрических персональных данных: Федеральный закон от 29 дек. 2022 г. № 572-ФЗ (ред. от 2026 г.) // Собрание законодательства РФ. 2023. № 1 (ч. I). Ст. 19.О развитии искусственного интеллекта в Российской Федерации: Указ Президента РФ от 10 окт. 2019 г. № 490 // Собрание законодательства РФ. 2019. № 41. Ст. 5700.О внесении изменений в Указ Президента Российской Федерации от 10 октября 2019 г. № 490 и в Национальную стратегию развития искусственного интеллекта на период до 2030 года: Указ Президента РФ от 15 февр. 2024 г. № 124 // Собрание законодательства РФ. 2024. № 8. Ст. 1045.О национальных целях развития Российской Федерации на период до 2030 года и на перспективу до 2036 года: Указ Президента РФ от 7 мая 2024 г. № 309 // Собрание законодательства РФ. 2024. № 20. Ст. 2584.О поддержке развития технологий искусственного интеллекта в Российской Федерации: Федеральный закон от 26 июля 2026 г. № 243-ФЗ // Официальный интернет-портал правовой информации. URL: https://publication.pravo.gov.ru/document/0001202607260003 (дата обращения: 01.08.2023).Кодекс административного судопроизводства Российской Федерации: Федеральный закон от 8 марта 2015 г. № 21-ФЗ (ред. от 2026 г.) // Собрание законодательства РФ. 2015. № 10. Ст. 1391.Мещеряков А. Н. Искусственный интеллект в предмете конституционного права // Право в эпоху искусственного интеллекта: перспективные вызовы и современные задачи: сб. науч. ст. по материалам VI Сибирских правовых чтений. Тюмень: Изд-во ТюмГУ, 2022.Бегишев И. Р., Хисамова З. И. Искусственный интеллект и уголовный закон. М.: Проспект, 2021. 192 с.Карцева Л. В. Алгоритмическое управление и права человека: конституционно-правовые риски // Конституционное и муниципальное право. 2024. № 8. С. 24–31.Нечкин А. В. Конституционно-правовой статус искусственного интеллекта в России: настоящее и будущее // Lex russica. 2020. Т. 73, № 8. С. 78–85.Понкин И. В., Редькина А. И. Искусственный интеллект с точки зрения права // Вестник Российского университета дружбы народов. Серия: Юридические науки. 2018. Т. 22, № 1. С. 91–109.Липчанская М. А., Заметина Т. В. Социальные права граждан в условиях использования искусственного интеллекта: правовые основы и пробелы законодательного регулирования в России // Журнал российского права. 2020. № 11. С. 77–96.Кокотов А. Н. Конституционное право в цифровую эпоху: предмет, метод и гарантии личности // Российский юридический журнал. 2021. № 4. С. 9–22.Citron D. K. Technological Due Process // Washington University Law Review. 2008. Vol. 85, no. 6. P. 1249–1313.Barocas S., Selbst A. D. Big Data’s Disparate Impact // California Law Review. 2016. Vol. 104, no. 3. P. 671–732.Veale M., Brass I. Administration by Algorithm? Public Management Meets Public Sector Machine Learning // Algorithmic Regulation / ed. by K. Yeung, M. Lodge. Oxford: Oxford University Press, 2019. P. 121–149.Wachter S., Mittelstadt B., Russell C. Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR // Harvard Journal of Law & Technology. 2018. Vol. 31, no. 2. P. 841–887.European Commission for the Efficiency of Justice. European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and Their Environment. Strasbourg, 2018.OECD. Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449. Paris, 2019, updated 2024.Constitution of the Russian Federation: adopted by popular vote on December 12, 1993, with amendments approved during the all-Russian vote on July 1, 2020 // Official Internet Portal of Legal Information. URL: https://pravo.gov.ru (accessed: August 1, 2023).On Information, Information Technologies, and Information Protection: Federal Law of July 27, 2006 No. 149-FZ (as amended in 2026) // Collected Legislation of the Russian Federation. 2006. No. 31 (Part I). Art. 3448.On Personal Data: Federal Law of July 27, 2006 No. 152-FZ (as amended in 2026) // Collected Legislation of the Russian Federation. 2006. No. 31 (Part I). Art. 3451.On experimental legal regimes in the sphere of digital innovations in the Russian Federation: Federal Law of July 31, 2020 No. 258-FZ (as amended in 2026) // Collected Legislation of the Russian Federation. 2020. No. 31 (Part I). Art. 5017.On conducting an experiment to establish special regulation in order to create the necessary conditions for the development and implementation of artificial intelligence technologies in a constituent entity of the Russian Federation — the federal city of Moscow: Federal Law of April 24, 2020 No. 123-FZ // Collected Legislation of the Russian Federation. 2020. No. 17. Art. 2701.On the implementation of identification and (or) authentication of individuals using biometric personal data: Federal Law of December 29, 2022 No. 572-FZ (as amended in 2026) // Collected Legislation of the Russian Federation. 2023. No. 1 (Part I). Art. 19.On the development of artificial intelligence in the Russian Federation: Decree of the President of the Russian Federation of October 10, 2019 No. 490 // Collected Legislation of the Russian Federation. 2019. No. 41. Art. 5700.On amendments to the Decree of the President of the Russian Federation of October 10, 2019 No. 490 and to the National Strategy for the Development of Artificial Intelligence for the Period through 2030: Decree of the President of the Russian Federation of February 15, 2020. 2024, No. 124 // Collected Legislation of the Russian Federation. 2024. No. 8. Article 1045.On the national development goals of the Russian Federation for the period up to 2030 and for the period up to 2036: Decree of the President of the Russian Federation of May 7, 2024, No. 309 // Collected Legislation of the Russian Federation. 2024. No. 20. Article 2584.On supporting the development of artificial intelligence technologies in the Russian Federation: Federal Law of July 26, 2026, No. 243-FZ // Official Internet Portal of Legal Information. URL: https://publication.pravo.gov.ru/document/0001202607260003 (accessed: 01.08.2023).Code of Administrative Procedure of the Russian Federation: Federal Law of March 8, 2015 No. 21-FZ (as amended in 2026) // Collected Legislation of the Russian Federation. 2015. No. 10. Article 1391.Meshcheryakov A. N. Artificial Intelligence in the Subject of Constitutional Law // Law in the Era of Artificial Intelligence: Promising Challenges and Modern Tasks: Collection of scientific articles based on the materials of the VI Siberian Legal Readings. Tyumen: Tyumen State University Publishing House, 2022.Begishev I. R., Khisamova Z. I. Artificial Intelligence and Criminal Law. Moscow: Prospect, 2021. 192 p.Kartseva L. V. Algorithmic Management and Human Rights: Constitutional and Legal Risks // Constitutional and Municipal Law. 2024. No. 8. Pp. 24–31.Nechkin A. V. Constitutional and Legal Status of Artificial Intelligence in Russia: Present and Future // Lex russica. 2020. Vol. 73, No. 8. Pp. 78–85.Ponkin I. V., Redkina A. I. Artificial Intelligence from a Legal Perspective // Bulletin of the Peoples' Friendship University of Russia. Series: Legal Sciences. 2018. Vol. 22, No. 1. Pp. 91–109.Lipchanskaya M. A., Zametina T. V. Social Rights of Citizens in the Context of the Use of Artificial Intelligence: Legal Foundations and Gaps in Legislative Regulation in Russia // Journal of Russian Law. 2020. No. 11. Pp. 77–96.Kokotov A. N. Constitutional Law in the Digital Age: Subject, Method, and Guarantees of Personality // Russian Law Journal. 2021. No. 4. pp. 9–22.Citron D. K. Technological Due Process // Washington University Law Review. 2008. Vol. 85, no. 6. pp. 1249–1313.Barocas S., Selbst A. D. Big Data’s Disparate Impact // California Law Review. 2016. Vol. 104, no. 3. pp. 671–732.Veale M., Brass I. Administration by Algorithm? Public Management Meets Public Sector Machine Learning // Algorithmic Regulation / ed. by K. Yeung, M. Lodge. Oxford: Oxford University Press, 2019. pp. 121–149.Wachter S., Mittelstadt B., Russell C. Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR // Harvard Journal of Law & Technology. 2018. Vol. 31, no. 2. P. 841–887.European Commission for the Efficiency of Justice. European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and Their Environment. Strasbourg, 2018.OECD. Recommendation of the Council on Artificial Intelligence. OECD/LEGAL/0449. Paris, 2019, updated 2024.