Preview

Lex russica (Русский закон)

Расширенный поиск

Алгоритмическая прозрачность и подотчетность: правовые подходы к разрешению проблемы «черного ящика»

https://doi.org/10.17803/1729-5920.2020.163.6.139-148

Полный текст:

Аннотация

В статье изучены правовые подходы Европы и Соединенных Штатов Америки, на которых основывается законодательство, регулирующее использование компьютерных алгоритмов, т.е. систем автоматизированного принятия юридически значимых решений. Установлено, что в указанных юрисдикциях применяются существенно разные концепции.
Европейский подход предусматривает регулирование применения систем автоматизированного принятия решений посредством законодательства о персональных данных. Авторы приходят к выводу о том, что Общий регламент по защите данных не возлагает юридической обязанности на контролеров раскрывать техническую информацию, т.е. открывать «черный ящик», субъекту персональных данных, в отношении которого алгоритм принимает решение. Это может случиться в перспективе, когда законодательные органы конкретизируют положения названного Регламента, в соответствии с которыми контролер должен предоставлять субъекту персональных данных значимую информацию о логике принимаемых в его отношении решений.

В США вопросы прозрачности и подотчетности алгоритмов регламентируются при помощи различных антидискриминационных актов, регулирующих отдельные сферы жизнедеятельности человека. При этом они носят фрагментарный характер и их совокупность не представляет собой комплексную, связанную между собой систему нормативных правовых актов. На практике правовое регулирование осуществляется ad hoc со ссылкой на отдельные законодательные положения, запрещающие обработку чувствительных видов персональных данных. 
В статье утверждается, что в России правовое регулирование алгоритмической прозрачности и подотчетности находится на этапе становления. Имеющееся законодательство о персональных данных позволяет предположить, что отечественный подход к разрешению проблемы «черного ящика» близок к европейскому. При разработке и принятии соответствующих нормативных правовых актов необходимо исходить из того, что субъект персональных данных должен обладать правом на получение информации, объясняющей в доступной форме логику принятого в его отношении решения.

Об авторах

Д. Л. Кутейников
Московский государственный юридический университет имени О.Е. Кутафина (МГЮА)
Россия

кандидат юридических наук, старший преподаватель кафедры конституционного и муниципального права 

Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993
 



О. А. Ижаев
Московская городская избирательная комиссия
Россия

кандидат юридических наук, консультант юридического отдела 

Моховая ул., д. 11, стр. 8, г. Москва, Россия, 125009
 



С. С. Зенин
Московский государственный юридический университет имени О.Е. Кутафина (МГЮА); Южно-Уральский государственный университет (национальный исследовательский университет)
Россия

кандидат юридических наук, директор Научно-исследовательского института, доцент кафедры конституционного и муниципального права, ведущий научный сотрудник кафедры теории государства и права, конституционного и административного права 

Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993



В. А. Лебедев
Московский государственный юридический университет имени О.Е. Кутафина (МГЮА)
Россия

доктор юридических наук, профессор, профессор кафедры конституционного и муниципального права 

Садовая-Кудринская ул., д. 9, г. Москва, Россия, 125993
 



Список литературы

1. Bruckner M. A. Promise and Perils of Algorithmic Lenders’ Use of Big Data // Chicago-Kent Law Abstract. — 2019. — Vol. 93. — Iss. 1.

2. Burrell J. How the machine «thinks». Understanding opacity in machine learning algorithms // Big Data & Society. — 2016. — № 1-12 (January — June).

3. Isak M., Lee A. B. The Right Not to Be Subject to Automated Decisions Based on Profiling // EU Internet Law: Regulation and Enforcement / ed. T. Synodinou, P. Jougleux, C. Markou, T. Prastitou. — Springer, 2017.

4. Malgieri G. Automated decision-making in the EU Member States: The right to explanation and other «suitable safeguards» in the national legislations // Computer law & security review. — 2019. — № 35.

5. Malgieri G., Comandé G. Why a Right to Legibility of Automated Decision-Making Exists in the General Data Protection Regulation // International Data Privacy Law. — 2017. — Vol. 7, Iss. 4.

6. Selbst A. D., Powles J. Meaningful information and the right to explanation // International Data Privacy Law. — 2017. — Vol. 7, Iss. 4.

7. Talia B. G., Jann S. Big Data and Discrimination // University of Chicago Law Abstract. — 2019. — № 459.

8. Wachter S., Mittelstadt B., Floridi L. Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation // International Data Privacy Law. — 2017. — Vol. 7, Iss. 2.


Для цитирования:


Кутейников Д.Л., Ижаев О.А., Зенин С.С., Лебедев В.А. Алгоритмическая прозрачность и подотчетность: правовые подходы к разрешению проблемы «черного ящика». Lex russica (Русский закон). 2020;73(6):139-148. https://doi.org/10.17803/1729-5920.2020.163.6.139-148

For citation:


Kuteynikov D.L., Izhaev O.A., Zenin S.S., Lebedev V.A. Algorithmic Transparency and Accountability: Legal Approaches to Solving the "Black Box" Problem. Lex Russica. 2020;73(6):139-148. (In Russ.) https://doi.org/10.17803/1729-5920.2020.163.6.139-148

Просмотров: 27


Creative Commons License
Контент доступен под лицензией Creative Commons Attribution 4.0 License.


ISSN 1729-5920 (Print)
ISSN 2686-7869 (Online)