Бахтеев Дмитрий Валерьевич, доктор юридических наук, доцент, профессор кафедры криминалистики
д. 21, Комсомольская ул., г. Екатеринбург 620137
Dmitry V. Bakhteev, Dr. Sci. (Law), Associate Professor, Professor of the Department of Criminology
Yekaterinburg
Задачей настоящей работы является формулирование моделей ответственности интеллектуальных систем в ситуациях причинения вреда (в виде любых правонарушений, в том числе преступлений). Для этого в статье рассматривается современное состояние технологий искусственного интеллекта с позиций морально-волевой и интеллектуальной автономности для моделирования подходов к их правосубъектности. Такая автономность может быть выражена только через программную часть технологической системы, то есть даже в случае роботов (киберфизических систем) для их правовой оценки требуется анализ того, как осуществляются операции по оценке входящей информации, а не физические характеристики такой системы. Анализируются позиции, согласно которым интеллектуальные системы могут по объему и характеру их правоспособности сопоставляться с юридическими лицами, физическими лицами, животными, метаправовыми конструкциями. Делается вывод о необходимости самостоятельной правовой оценки систем искусственного интеллекта, вне сравнения с уже существующими правовыми категориями. Необходимость обучения системы на ограниченном датасете, то есть без дообучения в реальной среде, состязательные атаки и внутренние ошибки интеллектуальных систем рассматриваются как актуальные примеры технических ограничений технологии, не позволяющих в полной мере ставить на данный момент вопрос о ее субъектности. Автор указывает на то, что для определения ответственности за причиненный интеллектуальной системой вред следует установить круг лиц, между которыми она дифференцируется: сама интеллектуальная система, ее разработчик и оператор (пользователь). На основании этого предлагаются 10 моделей распределения ответственности между ними.
The objective of this paper is to define the models of responsibility for intelligent systems in situations when harm is caused (in the form of any wrongdoings, including crimes). For this purpose, the paper examines the current state of artificial intelligence technologies from the standpoint of moral, volitional and intellectual autonomy for modeling approaches to their legal personality. Such autonomy can be expressed only through the software element of a technological system, that is, even in the case of robots (cyberphysical systems), their legal assessment requires an analysis of how operations are carried out in order to evaluate incoming information rather than the physical characteristics of such a system. The author analyzes approaches according to which intelligent systems can be compared with legal entities, individuals, animals, and meta-directional structures in terms of the volume and nature of their legal capacity. The conclusion is made about the need for an independent legal assessment of artificial intelligence systems beyond their comparison with the existing legal categories. The need to train a system using a limited dataset, that is, without additional training in a real environment, adversarial attacks and internal errors of intelligent systems are considered as examples of technical limitations of technology that do not allow to raise the question of its subjectivity at the moment. The author highlights that in order to determine responsibility for the harm caused by an intelligent system, it is necessary to establish a circle of persons between whom it is distrubuted: an intelligent system itself, its developer and the operator (user). Thus, the author defines 10 models of responsibility distribution between them.
The authors declare that there are no conflicts of interest present.