ИНТЕЛРОС > №2, 2020 > Туманности нейросетей: «черные ящики» технологий и наглядные уроки непрозрачности алгоритмов

Андрей Кузнецов
Туманности нейросетей: «черные ящики» технологий и наглядные уроки непрозрачности алгоритмов


10 августа 2020

В статье анализируется проблема нейтральности и прозрачности технологий. Во-первых, показывается связь этой проблемы с ключевым для исследований наук и технологий (STS) тропов раскрытия “черных ящиков” технологий. Во-вторых, обсуждаются социально-политическое и методологическое измерения метафоры “черного ящика”. В-третьих, анализируются три типичных ответа на проблему нейтральности технологий внутри и за пределами конструктивистских STS. Демонстрируется, что несмотря на поверхностные различия между ними все три ответа одинаково концептуализируют технологию как нейтральный проводник. В-четвертых, альтернатива этой логике ищется в акторно-сетевой теории Бруно Латура. Здесь технологии понимаются как событийная ассоциация разнородных сущностей, нередуцируемая к условиям ее возможности. Конструирование технологий понимается как процесс медиации, где создания удивляют своих создателей и наоборот. В акторно-сетевой теории Латура технологии рассматриваются как непрозрачные и не-нейтральные сущности. Наконец, наглядным примерам из области технологий на основе нейросетей и алгоритмов глубокого машинного обучения, которые являются эмпирическим подтверждением латуровской концепции технической медиации. Отдельное внимание уделяется непрозрачности и (не)подотчетности алгоритмов машинного обучения.


Вернуться назад