Символическое изображение сотрудничества между человеком и искусственным интеллектом.
Журнальный клуб Интелрос » Курьер ЮНЕСКО » №3, 2018
Искусственный интеллект (ИИ) способен помочь человечеству в решении многих серьезных социальных проблем. Он же поднимает и немало сложных вопросов в плане этики, прав человека и безопасности. Несмотря на это, до сих пор не существует международных этических рамок, затрагивающих все сферы разработки и применения ИИ. Генеральный директор ЮНЕСКО убеждена: такие рамки необходимы.
Генеральный директор ЮНЕСКО Одрэ Азуле отвечает на вопросы Ясмины Шоповой
Почему ЮНЕСКО интересуется ИИ?
Эксперты единодушны: человечество находится на пороге новой эры. Искусственный интеллект (ИИ) преобразит нашу жизнь так, как мы и представить себе не можем. Изменения уже начались, и они затрагивают все аспекты нашей жизни. ИИ широко применяется в самых различных областях, включая здравоохранение, образование, культуру, безопасность, оборону... В последние годы в этой сфере ведется все больше исследований, значительные средства в ИИ инвестируют не только Интернет-гиганты GAFAM (Google, Apple, Facebook, Amazon и Microsoft), но и многие страны, становясь активными участниками «четвертой промышленной революции».
В эпоху перемен ЮНЕСКО надлежит сыграть значимую роль. Прежде всего, потому что ИИ непосредственно затрагивает сферы компетенции Организации. Глубокой трансформации подвергнется образование. Методики преподавания, средства обучения, получения знаний и подготовки учителей коренным образом изменятся. В этой связи будет возрастать актуальность вопроса о формировании новых навыков, необходимых для существования в мире, который все более автоматизируется.
ИИ уже широко востребован в области культуры. Так, созданные с его помощью трехмерные изображения можно использовать при восстановлении объектов культурного наследия, что мы и намерены сделать в отношении древнего города Мосул в Ираке. ИИ применяется и в науке. Например, в наших экологических программах и подводных исследованиях он используется для классификации изображений планктона и автоматического обнаружения и учета китообразных и морских птиц. Конечно же, достижения в области ИИ самым непосредственным образом отражаются на связи и работе с информацией. ЮНЕСКО надлежит провести тщательный анализ преимуществ и угроз, которые ИИ несет в себе для образования, культуры, науки, коммуникации и информации.
Каковы, по Вашему мнению, эти угрозы?
ИИ может предоставить нам грандиозные возможности по достижению целей, поставленных в Повестке дня на период до 2030 года, но при условии, что этические вопросы, которые он поднимает, начнут решаться без промедления. Да, это наш шанс, так как технологии ИИ помогают быстрее двигаться к реализации Целей устойчивого развития. Они позволяют повысить точность оценки рисков и прогнозирования, ускорить обмен знаниями за счет инновационных решений в образовании, здравоохранении, экологии, урбанизме и творческих индустриях, улучшить качество жизни людей. Но это и риск, ибо автоматизация и так называемая цифровизация создают новые диспропорции, понижают разнообразие культурных индустрий, лихорадят рынки труда, порождают нестабильность, увеличивают неравенство между имеющими доступ к новым технологиям и теми, кто его лишен.
В этом вопросе ЮНЕСКО также призвана сказать свое слово, поддерживая входящие в нее государства и сокращая неравенство в доступе к знаниям и исследовательским разработкам. Существует риск, что технологический разрыв многократно усилит социальное неравенство. ЮНЕСКО должна быть в состоянии помочь своим государствам-членам адаптироваться к новым реалиям и получить доступ к технологиям.
Как именно ЮНЕСКО может оказывать такую поддержку?
Одна из проблем, испытываемых государствами-членами, состоит в нехватке сложного, инновационного инженерно-технического оборудования и достаточно компетентных людских ресурсов – ученых и инженеров. ЮНЕСКО может оказать поддержку и содействовать сглаживанию различий между странами с помощью своих Центров образования и подготовки кадров в области науки, техники и инноваций (НТИ), Глобальной обсерватории инструментов политики в области НТИ (GO-SPIN) и Международной программы по фундаментальным наукам (МПФН).
Какие проблемы поднимает ИИ в области образования? Как ЮНЕСКО намерена их решать?
Пожалуй, это главная для Организации сфера, и для нее текущая революция также влечет за собой как положительные, так и отрицательные последствия. Образовательные компьютерные программы на базе ИИ уже используются для децентрализации и индивидуализации обучения, консультирования студентов по учебным планам и сертификации. Однако эти технологии стоят дорого и потому недоступны большинству людей. Отсюда риск увеличения пропасти между богатыми и бедными.
В качестве ведущего учреждения Руководящего комитета по осуществлению ЦУР – «Образование-2030», который координирует усилия по достижению Цели 4 в области устойчивого развития, посвященной образованию, ЮНЕСКО находится в выгодном положении, чтобы заниматься решением этой проблемы, выявляя то, каким образом ИИ может способствовать обеспечению общедоступности образования, и оценивая его потенциальное воздействие на будущее просвещения.
Одним из наших приоритетов станет распространение технологий ИИ, находящихся в свободном доступе, с целью способствовать инновациям на местном уровне.
Чтобы подготовить подрастающие поколения к тому новому пейзажу на рынке труда, который сейчас рисует ИИ, необходимо будет также переосмыслить образовательную программу, заостряя внимание на точных науках, технологии, технике и математике, не забывая, однако, о первостепенной важности гуманитарных наук и знаний в области философии и этики.
Какова связь между ИИ, философией и этикой?
Надо полагать, в своей взрослой жизни сегодняшние школьники и студенты столкнутся с проблемами, природа которых нам сегодня неизвестна. Трудно предвидеть, как изменятся эти постоянно усложняющиеся машины, каждый день становящиеся немного самостоятельнее, в каком-то смысле уже бросающие вызов человеческой личности. Поэтому знания в области этики, социальных и гуманитарных наук будут в целом столь же важны, сколь и компетентность в области наук точных. Ведь в своей работе интеллектуальная система может использовать и предвзятые данные – например, гендерные предрассудки. В связи с этим требуется обеспечить большую прозрачность таких систем, а для внесения в них корректировок необходимо опираться на твердые этические принципы.
Почему эволюцию ИИ трудно предсказать?
Исследования в области ИИ движутся вперед с весьма большой скоростью, тогда как юридическая, социальная и этическая среда, которая должна их окружать, меняется очень медленно. Насколько автономной может быть та или иная машина в своих действиях и принятии решений? На кого ляжет ответственность при несчастном случае? И кто решает, каковы должны быть ценности, формируемые у машин в ходе их так называемого «обучения»? Сегодня на эти и многие подобные им вопросы ответа все еще нет.
Например, было обнаружено, что системы, обучение которых велось на образцах обычного человеческого языка, «усвоили» предрассудки и стереотипы, содержащиеся в разного рода текстах из нашей повседневной жизни. Как не встревожиться из-за риска однажды стать свидетелем появления робота с дискриминационным, расистским или неприязненным поведением?
Основания для беспокойства имеются и по множеству иных поводов: защита частной жизни и целевая реклама в Интернете, свобода выражения мнений и цензурные алгоритмы, автоматизированная журналистика, монополия на информацию и т. д.
И хотя фундаментальные исследования в этой области в целом полны благих намерений, невольные отклонения – как, впрочем, и преднамеренные – все же возможны. Поэтому необходимо сделать все, чтобы эти технологии развивались в строгом соответствии с установленными этическими нормами.
Что может в этом плане сделать ЮНЕСКО?
Если мы хотим извлечь лучшее из открывающихся перед миром возможностей, надо сделать так, чтобы ИИ служил на благо людям, уважая достоинство и права человека.
Однако до настоящего времени не существует международных этических рамок, затрагивающих все сферы разработки и применения ИИ.
ЮНЕСКО представляет собой уникальный глобальный форум с более чем двадцатилетним опытом разработки международных документов, связанных с биоэтикой и с этикой науки и техники*. Организация также может опереться на два консультативных органа, которые объединяют экспертов, активно работающих в этих направлениях. Это Всемирная комиссия по этике научных знаний и технологий (КОМЕСТ) и Международный комитет по биоэтике (МКБ).
Мы обязаны провести всемирное и просвещенное обсуждение этой проблемы – обсуждение не техническое, а сугубо этическое – с тем, чтобы встретить новую эпоху с открытыми глазами, не жертвуя нашими ценностями, и, если государства-члены сочтут необходимым, привести к общему знаменателю наши моральные принципы.
Дополнительная информация:
Всеобщая декларация о геноме человека и правах человека (1997 г.)
Международная декларация о генетических данных человека (2003 г.)
Всеобщая декларация о биоэтике и правах человека (2005 г.)
Декларация об этических принципах, связанных с изменением климата (2017 г.)
Рекомендация в отношении научной деятельности и научных работников (2017 г.)
