Другие журналы на сайте ИНТЕЛРОС

Журнальный клуб Интелрос » Курьер ЮНЕСКО » №3, 2018

Мигель Бенасайяг: Мышление за пределами мозга

 

cou_03-18_benasayag_01.jpg

Работа из серии Constellations («Созвездия», 2014 г.) испанского художника Хорди Исерна.

Слово «интеллект» в выражении «искусственный интеллект» (ИИ) – не более чем метафора. И хотя вычислительные способности ИИ превышают возможности человека, он не в состоянии понять смысл своих действий. Аргентинский философ и психоаналитик Мигель Бенасайяг полагает, что выразить всю сложность живого существа компьютерным кодом столь же нереально, сколь абсурдно предположение о том, будто машины могут заменить собой человека.

 

Мигель Бенасайяг отвечает на вопросы Режиса Мейрана

 

Чем искусственный интеллект отличается от человеческого?

Живой интеллект – не вычислительная машина. Это процесс, тесно связанный с такими понятиями, как эмоциональность, телесность, ошибка. Он предполагает наличие у человека желаний и осознания им собственной истории в долгосрочной перспективе. Человеческий интеллект нельзя рассматривать отдельно от всех других психических и физиологических процессов.

В отличие от людей и животных, осуществляющих мыслительную деятельность при помощи мозга, заключенного в тело, которое, в свою очередь, находится в непосредственном взаимодействии со средой, машина производит вычисления и дает прогнозы, будучи не способной осмыслить свои действия. Вопрос о том, может ли машина заменить собой человека, абсурден по своей сути. Смысл явлениям придает живое существо, а не математические расчеты. Так что различие между живым и искусственным интеллектом прежде всего качественное, а вовсе не количественное, как считают многие ученые, занимающиеся изучением ИИ.

Говорят, что в рамках проекта Google Brain два компьютера научились общаться между собой на «языке», который они сами же и создали и который человек не в состоянии расшифровать. Что вы об этом думаете?

Это нонсенс. На самом деле оба компьютера каждый раз обмениваются информацией по одной и той же схеме, в одинаковой последовательности. Этот процесс ничего общего не имеет ни с языком, ни с общением. Это просто неудачная метафора, как если сказать, что замок «узнает» ключ.

Точно так же некоторые люди говорят, что «дружат» с роботом. Есть даже приложения для смартфона, которые якобы позволяют вести с роботом «диалог». Этой теме посвящен фильм Спайка Джонза «Она» (2013 г.), где операционная система (ОС) сначала задает главному герою вопросы, затем на основании его ответов составляет карту его головного мозга, синтезирует женский голос и вступает с мужчиной в общение, по ходу которого наш герой влюбляется в ОС. Но возможен ли роман между роботом и человеком? Конечно, нет, ведь любовь и дружбу нельзя свести к передаче нервных импульсов в мозге.

Любовь и дружба выходят за рамки человека и даже за рамки взаимодействия двух человек. Когда я говорю, я вношу частичку себя во что-то, что мы с вами разделяем, – в наш язык. То же можно сказать и о любви, дружбе и мышлении – это символические процессы, в которые мы привносим часть себя, становясь их участниками. Никто не думает внутри себя. Разум дает нам энергию для участия в мыслительной деятельности.

В ответ на утверждения, что машина может думать, мы должны отвечать: было бы очень странно, если бы машина думала, учитывая, что даже мозг этого не делает!

То есть вы считаете, что главным недостатком ИИ является сведение сущности живых организмов к коду?

Совершенно верно. Некоторые специалисты в области ИИ, словно мальчишки за игрой в конструктор, настолько увлекаются своими техническими достижениями, что перестают видеть полную картину происходящего и попадают в ловушку редукционизма.

В 1950 году американский математик и основоположник кибернетики Норберт Винер писал в своем труде «Человеческое использование человеческих существ: Кибернетика и общество» о возможности «телеграфирования человека». Сорок лет спустя трансгуманисты развили эту идею и разработали гипотезу о «загрузке», якобы позволяющей представить все объекты реального мира в виде блоков информации, которые можно затем переносить с одного вычислительного устройства на другое.

Идея о том, что живое можно моделировать, представляя его в виде блоков информации, встречается и у французского биолога Пьера-Анри Гуйона, например, с которым я опубликовал сборник интервью Fabriquer le vivant? («Создание живого?», 2012 г.). По его мнению, дезоксирибонуклеиновая кислота (ДНК) является носителем кода, который можно перенести на другие виды носителей информации. Однако заявляя, что все живое можно описать в виде блоков информации, мы забываем, что сумма этих элементов не является живым организмом, а исследование того, что моделировать в принципе невозможно, нас не интересует.

Немоделируемость живого не подразумевает связь с божественным началом или обскурантизмом, как думают некоторые. Принципы непредсказуемости и неопределенности присутствуют во всех точных науках. Именно поэтому идея трансгуманистов о возможности обладания всеми знаниями мира отражает слепое и совершенно иррациональное преклонение перед технологиями. И если эта идея пользуется такой популярностью, то это лишь потому, что она способна утолить интерес наших современников к метафизическим явлениям. Трансгуманисты мечтают о жизни, где нет места неопределенности. Однако и в повседневной, и в научной деятельности нам приходится сталкиваться с массой неизвестных, случайных обстоятельств, над которыми мы не властны.

Согласно трансгуманизму, благодаря ИИ мы сможем стать бессмертными.

В условиях общества эпохи постмодерна, где мы больше не задумываемся о взаимосвязи между объектами и явлениями и где преобладают тенденции к редукционизму и индивидуализму, на смену платоновской пещере приходит обещание трансгуманистов о вечной жизни. Для греческого философа смысл жизни был не в материальном мире, а в идеях. Трансгуманисты, двадцать четыре века спустя, видят истинную жизнь не в теле, а в алгоритмах. Тело для них есть не более чем симулякр: следует извлечь из него всю необходимую информацию и избавиться от природных недостатков. Именно так они и намереваются достичь бессмертия.

На научных семинарах мне довелось встретиться с рядом членов Университета сингулярности [трансгуманистической направленности], носивших на шее медальон в знак того, что после их смерти их голова будет подвержена криогенной заморозке. Я вижу в этом зарождение новой формы консерватизма, хотя меня самого можно принять за биоконсерватора, поскольку я против философии трансгуманизма. Однако когда мои противники называют меня реакционером, они прибегают к тем же аргументам, что и политики, которые под видом реформ и модернизации разрушают социальные права граждан, обвиняя в консерватизме тех, кто всего лишь стремится сохранить свои права!

 


Робот (2013 г.). Хореографическая композиция для танцовщиков и роботов. Ее автор, франко-испанский хореограф Бланка Ли, приглашает зрителей задуматься о мире, в котором сосуществуют люди и машины.

 

Гибрид человека и машины уже стал реальностью. Это также является одной из высших целей трансгуманистов.

Мы еще безмерно далеки от полного понимания жизни и гибридизации. На данном этапе развития биотехнологий мы почти ничего не знаем о жизни, которая представляет собой намного больше, чем моделируемые физико-химические процессы. Несмотря на это, гибридизация машины и живого организма – уже реальность, и новые технологии, несомненно, позволят нам продвинуться в этом еще дальше.

Уже сейчас в нашем распоряжении есть широкий спектр машин, с которыми мы работаем и которым поручаем выполнение многочисленных функций. Вопрос в том, действительно ли нам нужны все эти устройства. Я работал над кохлеарным имплантатом и культурой глухих: миллионы глухих людей требуют признания своей особой культуры – которая не получает достаточного уважения – и отказываются от установки кохлеарного имплантата, предпочитая общаться на языке жестов. Можно ли считать этот инновационный прибор прогрессом, учитывая, что его использование может привести к исчезновению культуры глухих? Ответить на этот вопрос не так-то просто.

Прежде всего мы должны следить за тем, чтобы при гибридизации соблюдался принцип уважения к жизни. Однако сегодня мы являемся свидетелями не столько гибридизации, сколько колонизации живого мира машинами. Массовое распространение всевозможных внешних устройств привело к тому, что многие люди сами уже ничего не помнят. При этом их плохая память не является результатом дегенеративных заболеваний.

Возьмем, к примеру, GPS-навигатор. Исследование среди таксистов в Париже и Лондоне, которые отличаются довольно запутанной сетью улиц, выявило интересные закономерности. Если лондонские таксисты ездили по городу без навигатора, парижане регулярно пользовались GPS. Психологические тесты после трех лет эксперимента показали, что у последних атрофировались подкорковые ядра, отвечающие за ориентацию во времени и пространстве (такая атрофия обратима при условии, что человек перестает пользоваться навигатором). У них развилась своего рода пространственно-временная дислексия. Это и есть последствия колонизации: если выполнение какой-либо функции перекладывается на внешнее устройство, то отвечающие за нее участки мозга атрофируются, а компенсаторные механизмы при этом не включаются.

Что беспокоит вас больше всего?

Меня беспокоит чрезмерная погоня за инновациями. Прогресс сегодня уже никого не интересует. Его вытеснила концепция инновации, которая в корне отлична: если прогресс подразумевает движение вперед, то у инноваций нет ни исходной, ни конечной точки, они не являются ни положительными, ни отрицательными. По этой причине следует относиться к ним критически. Работать с текстом на компьютере намного проще, чем на пишущей машинке Olivetti, которой я пользовался в 1970-х годах, и для меня это очевидный прогресс. Однако на каждом смартфоне установлены десятки различных приложений, но много ли людей задаются вопросом, сколько из них действительно им необходимы? Мудрость заключается в том, чтобы не позволить восхищению перед высокоэффективными и развлекательными технологиями затуманить наш рассудок.

Кроме того, в условиях современного общества, утратившего ориентиры и скептически относящегося к метанарративам, речи трансгуманистов вызывают особое беспокойство: они развивают в людях инфантильность и возводят новые технологии на пьедестал, вместо того чтобы посмотреть на них критическим взглядом. На Западе технические достижения всегда ассоциировались с расширением границ возможного. Еще в XVII веке французский философ Рене Декарт, считавший тело машиной, допускал возможность существования мышления вне тела. Человеку свойственно мечтать о том, что наука поможет нам освободиться от нашего тела и связанных с ним ограничений – а трансгуманисты утверждают, что нашли способ, как это сделать.

Однако мечта о всемогущем постчеловеке с неограниченными возможностями влечет за собой самые различные последствия для общества. Мне кажется, что она даже заслуживает отдельного анализа в связи с распространением религиозных фундаменталистских течений, настаивающих на важности человеческих качеств, заложенных природой. Для меня фундаментализм и трансгуманизм представляют собой две иррациональные крайности, расположенные по разные стороны баррикад.

Фото: Хорди Исерн(link is external)

 

Мигель Бенасайяг

Аргентинский философ и психоаналитик, геварист и противник перонизма, Мигель Бенасайяг на своей родине подвергался тюремному заключению и пыткам, однако в 1978 году ему удалось бежать из страны. В настоящее время он проживает в Париже, Франция. Недавно во Франции вышли его книги Cerveau augmenté, homme diminué (2016 г.) и La singularité du vivant (2017 г.).

Архив журнала
№4, 2020№1, 2021№2, 2021№3, 2021ю№4, 2021№2, 2020№1, 2020№3, 2019№4, 2019№2, 2019№1, 2019№4, 2018№2, 2018№3, 2018№1, 2018№3, 2017№2, 2017№4, 2011
Поддержите нас
Журналы клуба