Яо Ли, доктор юридических наук, Институт докторантуры международного права
д. 555, Лунюйань ул., г. Шанхай 201620
Yao Li, Dr. Sci. (Law), Institute of Doctoral Studies in International Law
Shanghai
Ядром технологии «дипфейк» является генеративно-состязательная сеть, построенная на комбинации двух нейронных сетей: генеративная сеть (сеть G) создает образцы, дискриминативная сеть (сеть D) старается отличить правильные («подлинные») образцы от неправильных. Сети G и D конкурируют друг с другом тысячи или даже миллионы раз, пока сеть G не улучшит свою производительность, так что сеть D уже не сможет отличить настоящие данные от поддельных. С развитием больших данных и технологий машинного обучения сценарий применения технологии «дипфейк» постепенно изменился: от создания звуковых моделей и имитации текста до глубокой подделки видео. Долгое время изображения, измененные с помощью традиционных Photoshop-технологий и других, легко распознавались, технология «дипфейк» изменила эту ситуацию, усложнив выявление подделок. Будучи важной технологической инновацией в области искусственного интеллекта, технология «дипфейк» широко используется в различных сферах жизни общества, создавая огромную прикладную ценность. Однако любая технология — это обоюдоострый меч. Применение технологии «дипфейк» несет большую угрозу личной конфиденциальности, безопасности имущества и даже национальной безопасности. Для того чтобы найти баланс между технологическими инновациями и предотвращением и контролем рисков, страны по всему миру активно изучают различные пути управления. В статье описаны основные риски, которые несет в себе современная технология «дипфейк», приведен обзор правового регулирования в данной области в Китае и предложен эффективный путь решения проблем.
The core of the deepfake technology is based on a generative-adversarial network built on a combination of two neural networks: a generative network (network G) creates samples, a discriminative network (network D) tries to distinguish correct («genuine») samples from incorrect ones. Networks G and D compete with each other thousands or even millions of times until network G improves its performance. Thus, the network D will no longer be able to distinguish real data from fake data. With the development of big data and machine learning technologies, the scenario for using deepfake technology has gradually changed from creating sound models and imitating text to deep video forgery. For a long time, images modified using traditional Photoshop and other technologies were easily recognized. Deepfake technology changed this situation, making it more difficult to identify fakes. As an important technological innovation in the field of artificial intelligence, deepfake technology is widely used in various areas of society, creating enormous applied value. However, any technology is a double-edged sword. The use of deepfake technology poses a great threat to personal privacy, property security and even national security. In order to find a balance between technological innovation and risk prevention and control, countries around the world are actively exploring various ways to manage. The paper describes the main risks posed by modern deepfake technology, provides an overview of legal regulation in this area in China and offers an effective way to solve problems.
The authors declare that there are no conflicts of interest present.