Кузнецова Светлана Сергеевна - кандидат юридических наук, доцент, доцент кафедры конституционного права.
д. 21, Комсомольская ул., Екатеринбург 620066
Svetlana S. Kuznetsova - Cand. Sci. (Law), Associate Professor, Associate Professor, Department of Constitutional Law, Ural State Law University named after V.F. Yakovlev.
Ekaterinburg
В работе проведен анализ правового регулирования скоринговых моделей в США и ЕС. Рассмотрены отдельные вопросы рейтингования личности с применением автоматизированных систем: источники информации и предъявляемые к ней требования, основания обработки данных, прозрачность скоринговых моделей; осуществлена оценка законодательства о регулировании систем искусственного интеллекта с позиции его эффективности в обеспечении защиты прав человека. Уделяется внимание вопросу недобросовестной практики обработки данных, в том числе с применением скоринговых моделей, брокерами данных в США, что обусловлено неэффективным, «лоскутным» подходом к правовому регулированию. Сделан вывод о том, что в цифровом пространстве согласие на обработку персональных данных, в том числе специальное — для использования полностью автоматизированных систем, утратило ценность и американский подход по предоставлению права на отказ от автоматизированной обработки предпочтителен. Обоснована особая значимость правового отражения принципов достоверности и полноты информации, положенной в основу скоринговой модели, а также оценки качества данных, используемых для разработки системы искусственного интеллекта. Сделан вывод о недостаточной правовой разработанности в европейском законодательстве обязанностей оператора системы искусственного интеллекта по обеспечению непредвзятости при работе с системой. Автор обращается к отдельным проблемам цифрового скоринга, т.е. рейтингования личности с использованием цифровых следов. На основании правоприменительной практики определен объем информации, подлежащей раскрытию в связи с применением скоринговых моделей, в том числе производных данных.
The paper analyzes the legal regulation of scoring models in the USA and the EU. It examines specific issues of personal rating using automated systems: information sources and requirements for it, legal grounds for data processing, transparency of scoring models; legislation on the regulation of artificial intelligence systems is evaluated from the perspective of its effectiveness in ensuring the protection of human rights. Attention is being paid to the issue of unfair data processing practices, including the use of scoring models by data brokers in the United States, which is caused by an ineffective «patchwork» approach to legal regulation. It is concluded that in the digital space consent to the processing of personal data, including the allocation of a special one for the use of fully automated systems, has lost its value and the American approach to granting the right to refuse automated processing is preferable. The author substantiates the special importance of the legal reflection of the principles of reliability and completeness of the information underlying the scoring model, as well as the assessment of the quality of data used to develop an artificial intelligence system. The conclusion is made about the insufficient legal elaboration in the European legislation of the duties of the operator of the artificial intelligence system to ensure impartiality when working with the system. The author addresses specific problems of digital scoring, i.e., personal rating using digital footprints. Based on law enforcement practice, the amount of information to be disclosed in connection with the use of scoring models, including derived data, has been determined.
The authors declare that there are no conflicts of interest present.