lexrussicaLex russicaLex Russica1729-59202686-7869MSAL10.17803/1729-5920.2024.211.6.023-034lexrussica-3733Research ArticleЧАСТНОЕ ПРАВО / JUS PRIVATUMPRIVATE LAW / JUS PRIVATUMСистемы искусственного интеллекта и внедоговорная гражданско-правовая ответственность: риск-ориентированный подходArtificial Intelligence Systems and Non-Contractual Civil Liability: A Risk-Based ApproachИжаевО. А.IzhaevO. A.

Ижаев Осман Аликович, кандидат юридических наук, доцент кафедры теоретических и публичноправовых дисциплин Института государства и права 

д. 16, Ленина ул., г. Тюмень 625003

Osman A. Izhaev, Cand. Sci. (Law), Associate Professor, Department of Theoretical and Public Law Disciplines, Institute of State and Law

Tyumen

izhaev.osman@gmail.comКутейниковД. Л.KuteynikovD. L.

Кутейников Дмитрий Леонидович, кандидат юридических наук, руководитель лаборатории «Социально-правовые подходы использования искусственного интеллекта и робототехники»

д. 16, Ленина ул., г. Тюмень 625003

Dmitry L. Kuteynikov, Cand. Sci. (Law), Head of the Laboratory of Socio-Legal Approaches  to the Use of Artificial Intelligence and Robotics

Tyumen

kuteynikov@me.comТюменский государственный университетTyumen State University2024150620247762334Copyright © Ижаев О.А., Кутейников Д.Л., 20242024Ижаев О.А., Кутейников Д.Л.Izhaev O.A., Kuteynikov D.L.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://lexrussica.msal.ru/jour/article/view/3733

Согласно законодательству при причинении вреда системами искусственного интеллекта (ИИ) третьим лицам восстановление нарушенных прав осуществляется по правилам строгой или виновной ответственности. Строгая ответственность применяется в случае, если система ИИ признается источником повышенной опасности или имеет недостаток. Для всех остальных случаев используется виновная гражданско-правовая ответственность. Авторами разработан новый подход к внедоговорной гражданскоправовой ответственности для случаев причинения вреда системами ИИ, основанный на учете уровня рисков систем ИИ. В соответствии с ним для систем ИИ, создающих неприемлемый или высокий риск в отношении прав и свобод человека, предлагается применять строгую ответственность их разработчика, а для систем ИИ, относящихся к классификационной группе с низким риском, использовать правила виновной ответственности для восстановления нарушенных прав и компенсации причиненного вреда. В отношении базовых моделей предусматривается использование виновной ответственности, за исключением ситуаций, когда на их основе создаются ИИ-продукты с неприемлемым или высоким риском. Предлагаемый подход может стать альтернативой использованию концепции источника повышенной опасности применительно к системам ИИ и позволит перенести строгую ответственность от владельцев высокорисковых систем ИИ к их разработчикам, которые в большей мере влияют на безопасность и надежность систем ИИ.

Under the legislation, when artificial intelligence (AI) systems cause harm to third parties, the restoration of violated rights is carried out according to the rules of strict or culpable liability. Strict liability is applied if the AI system is recognized as a source of increased danger or has a defect. For all other cases, culpable civil liability is used. The authors have developed a new approach to non-contractual civil liability for cases of harm caused by AI systems based on the criterion of the risk level of AI systems. According to this approach, for AI systems that create unacceptable or high risk in relation to human rights and freedoms, it is proposed to apply strict liability to their developer, and for AI systems belonging to the low-risk classification group, the rules of culpable liability to restore violated rights and compensate for the harm caused should be applied. With regard to the basic models, the use of culpable liability is envisaged, except situations where AI products with unacceptable or high risk are created on their basis. The proposed approach can become an alternative to using the concept of a source of increased danger in relation to AI systems and will allow transferring strict responsibility from owners of high-risk AI systems to their developers, who have a greater impact on the safety and reliability of AI systems. 

искусственный интеллектсистемы ИИбазовые моделистрогая ответственностьвиновная ответственностьисточники повышенной опасностириск-подходнепрозрачностьавтономностьвредartificial intelligenceAI systemsbasic modelsstrict liabilityculpable liabilitysources of increased dangerrisk approachopacityautonomyharmReferencesАгибалова Е. Н. Деликтные обязательства : учеб. пособие. Волгоград : РАНХиГС, 2021.Agibalova EN. Tort obligations: A course book. Volgograd: RANEPA Publ.; 2021. (In Russ.).Апостолова Н. Н. Ответственность за вред, причиненный искусственным интеллектом // Северо-Кавказский юридический вестник. 2021. № 1. С. 112–119.Apostolova NN. Responsibility for the harm caused by artificial intelligence. North Caucasus Legal Vestnik. 2021;1:112-119. (In Russ.).Гаджиев Г. А., Войниканис Е. А. Может ли робот быть субъектом права (поиск правовых норм для регулирования цифровой экономики)? // Право. Журнал Высшей школы экономики. 2018. № 4. С. 24–48.Balkin JM. The Path of Robotics Law. California Law Review. 2015;6.Лаптев В. А. Понятие искусственного интеллекта и юридическая ответственность за его работу // Право. Журнал Высшей школы экономики. 2019. № 2. С. 79–102.Barfield W, Pagallo U. (eds.). Research Handbook on the Law of Artificial Intelligence. UK: Edward Elgar Publ.; 2018.Российское гражданское право. Т. 1 / отв. ред. Е. А. Суханов. 4-е изд. М. : Статут, 2015.Buiten M. et al. The law and economics of AI liability. Computer Law & Security Review. 2023;48.Харитонова Ю. С., Савина В. С., Паньини Ф. Гражданско-правовая ответственность при разработке и применении систем искусственного интеллекта и робототехники: основные подходы // Вестник Пермского университета. Юридические науки. 2022. Вып. 58. С. 683–708.Chamberlain J. The Risk-Based Approach of the European Union’s Proposed Artificial Intelligence Regulation: Some Comments from a Tort Law Perspective. European Journal of Risk Regulation. 2023;14(1).Щедрин Н. В. Источник повышенной опасности, объект повышенной охраны и меры безопасности // Государство и право. 2008. № 7. С. 16–24.Dimatteo A. et al. (ed.). The Cambridge Handbook of Artificial Intelligence. Global perspectives on law and ethics. UK: Cambridge University Press; 2022.Algorithms and Law / еd. by M. Ebers, S. Navas. UK : Cambridge University Pres, 2020.Ebers M, Navas S. Algorithms and Law. UK: Cambridge University Pres; 2020.Balkin J. M. The Path of Robotics Law // California Law Review. 2015. Vol. 6. P. 45–60.Gadzhiev GA, Voynikanis EA. Could robot be a legal subject? (in search of legal forms for digital economy regulation)? Law. Journal of the Higher School of Economics. 2018;4:24-48. (In Russ.).Buiten M., Streel A., Peitz M. The law and economics of AI liability // Computer Law & Security Review. 2023. Vol. 48. Art. 105794.Kharitonova YuS, Savina VS, Pagnini F. Civil liability in the development and application of artificial intelligence and robotic systems: basic approaches. Perm University Herald. Juridical Sciences. 2022;58. (In Russ.).Chamberlain J. The Risk-Based Approach of the European Union’s Proposed Artificial Intelligence Regulation: Some Comments from a Tort Law Perspective // European Journal of Risk Regulation. 2023. Vol. 14. Iss. 1. P. 1–13.Kuteynikov DL, Izhaev O. Global perspectives Analysing Risk-Based Approach in the Draft EU Artificial Intelligence Act. Legal Issues in the Digital Age. 2023;3(4).Kuteynikov D. L., Izhaev O. A. Analysing Risk-Based Approach in the Draft EU Artificial Intelligence Act // Legal Issues in the Digital Age. 2023. No. 3. Vol. 4. Р. 97–116.Laptev VA. Artificial intelligence and liability for its work. Law. Journal of the Higher School of Economics. 2019;2:79-102. (In Russ.).Liability Regimes in the Age of AI: a Use-Case Driven Analysis of the Burden of Proof / D. F. Llorca [et al.] // Journal of Artificial Intelligence Research. 2023. Vol. 76. P. 613–644.Llorca DF. et al. Liability Regimes in the Age of AI: a Use-Case Driven Analysis of the Burden of Proof. Journal of Artificial Intelligence Research. 2023;76.Papyshev G., Yarime M. The limitation of ethics-based approaches to regulating artificial intelligence: regulatory gifting in the context of Russia // AI & Society. 2022. P. 1–16. URL: https://doi.org/10.1007/s00146-022-01611-y.Novelli C. et al. Taking AI risks seriously: a new assessment model for the AI Act. AI & Society. 2023;38(3).Philipp H. The European AI liability directives — Critique of a half-hearted approach and lessons for the future // Computer Law & Security Review. 2023. Vol. 51. P. 1–42.Papyshev G, Yarime M. The limitation of ethics-based approaches to regulating artificial intelligence: regulatory gifting in the context of Russia. AI & Society. 2022;1-16. DOI: 10.1007/s00146-022-01611-yResearch Handbook on the Law of Artificial Intelligence / ed. by W. Barfield, U. Pagallo. UK : Edward Elgar Publ., 2018.Philipp H. The European AI liability directives — Critique of a half-hearted approach and lessons for the future. Computer Law & Security Review. 2023;51:1-42.Smith B., Neznamov A. It’s Not the Robot’s Fault! Russian and American Perspectives on Responsibility for Robot Harms // Duke Journal of Comparative & International Law. 2019. Vol. 30:141.Shchedrin NV. A source of increased danger, an object of increased security and security measures. State and Law. 2008;7. (In Russ.).Taking AI risks seriously: a new assessment model for the AI Act / C. Novelli [et al.] // AI & Society. 2023. Vol. 38. No. 3.Smith B, Neznamov A. It’s Not the Robot’s Fault! Russian and American Perspectives on Responsibility for Robot Harms. Duke Journal of Comparative & International Law. 2019;30:141.The Cambridge Handbook of Artificial Intelligence. Global perspectives on law and ethics / ed. by L. A. Dimatteo [et al.]. UK : Cambridge University Press, 2022.Sukhanov EA (ed.). Russian civil law. Vol. 1. Moscow: Statute Publ.; 2015. (In Russ.).Widder D., Nafus D. Dislocated accountabilities in the «AI supply chain»: Modularity and developers’ notions of responsibility // Big data & Society. 2023. January–June: 1–12.Widder D, Nafus D. Dislocated accountabilities in the «AI supply chain»: Modularity and developers’ notions of responsibility. Big data & Society. 2023; January — June.

The authors declare that there are no conflicts of interest present.