Интеллект не может быть искусственным, так же как робот не может быть натуральным. Это просто замечание о философской грамматике. Научная фантастика, жаргон IT-специалистов и заявления исследователей в области философии сознания и когнитивных наук могут вводить нас в заблу­ждение, но это не меняет сути дела. Сказать о машине, что она обладает интеллектом, разумом или сознанием, что машина размышляет, думает или, например, разгова­ривает — значит совершить ошибку. Или, если угодно, мы можем использовать слова такого рода о машинах, но мы никогда не сможем говорить так о них в том же смысле, что и о человеке. Значения слов «интеллект», «мыслить», «думать», «говорить» применительно к людям и машинам будут различаться не меньше, чем значение слова «рабо­тать» применительно к столяру и деревообрабатывающему станку. Сложно расставаться с привлекательным образом разумных роботов. Хочется верить, что очередной успех в области машинного перевода или киберпротезирования приближает нас к созданию того, что мы сможем с чистой совестью назвать сильным искусственным интеллектом. Но, увы, это не вопрос количества, не вопрос вычисли­тельных мощностей или технологий и, в конечном итоге, это не вопрос времени. Это вопрос грамматики нашего языка, правил применения наших слов.

Источниками наших иллюзий насчёт искусственного разума являются следующие два фактора: во-первых, не­понимание фундаментальной роли нашей эмоционально­сти, чувственности, нашей животности для мышления и, во-вторых, систематическая недооценка важности прак­тики при обсуждении вопросов человеческой природы, сознания и языка.

Достигнув ясности относительно этих двух пунктов, мы сможем по-иному взглянуть на проблему искусственного интеллекта. Забегая вперёд, скажу, что сами пункты связа­ны между собой: животное поведение составляет базис че­ловеческой деятельности (языковых игр), которой, в свою очередь, соответствуют такие понятия, как «интеллект», «разум», «мышление», «вычисление» и им подобные. Я по­пытаюсь продемонстрировать, что машина не способна к поведению, и, следовательно, к деятельности и, соот­ветственно, к мышлению. Это значит, что употребление ментальных терминов в отношении машин либо нарушает грамматику, либо носит метафорический, шуточный или литературный характер.

Мышление, самосознание, разум — это то, чем «облада­ет» человек и «не обладает» животное. Именно концепту «животное» посвящена работа Джорджо Агамбена «Открытое». Отталкиваясь от размышлений по пово­ду средневековой миниатюры, на которой спасшиеся и пирующие после апокалипсиса праведники изображены с головами животных, он переходит к теме конца истории, рассуждает о принципе работы антропологической маши­ны в те или иные эпохи, углубляясь при этом в различ­ные «технические» трудности, с которыми сталкивались схоластика и естествознание при работе с концептами «животное», «человек», а также с проблемой телесности. Одним из ключевых для данной работы является понятие антропологической машины, функцией которой являет­ся производство человечности (не в смысле гуманности, а скорее в смысле человеческой сущности и исключи­тельности), благодаря чему выстраивается иерархическое различение между человеком и животным (человек, само собой, занимает более высокое место в создаваемой иерар­хии). Единственный доступный нам способ определить, что такое человек — это определить человека в перспек­тиве животного, которым он сам в совершенно опреде­лённом смысле является (плоть, тело), но от которого при этом разительно отличен (сознание, дух). Особенностью антропологической машины является то, что нам вовсе не обязательно обладать полным и чётким определением или описанием животного: животности достаточно присутство­вать в качестве не вполне ясного фона.

Агамбен обращается к исследованиям биолога Якоба фон Икскюля, касающимся окружающего мира и поведения животных: «Икскюль начинает с различения Umgebung [окружающая среда], объективного пространства, где мы видим живые существа в движении, от Umwelt [окружаю­щий мир], складывающегося из более или менее обшир­ного ряда элементов, которые он называет носителями значения и носителями признаков и которые только и интересуют животных». В этом контексте особый интерес для Агамбена представляет пример Икскюля с клещом, окружающий мир которого ограничен всего четырьмя типами «носителей значения» (термин Икскюля): светом (который клещ воспринимает всей поверхностью тела и к которому он ползёт), масляной кислотой, содержащейся в поте зверей (почувствовав её запах, он падает с ветви), теплом, а также гладкой поверхностью кожи (почувствовав которые, клещ впивается в тело жертвы). Кроме них клещ ничего не воспринимает. Мир клеща настолько скуден, что в нём нет места даже для крови, которую он пьёт: клещ не воспринимает её вкус и вообще не имеет органа вкусового восприятия.

Пример с клещом особенно заинтересовал Хайдеггера и послужил материалом для его рассуждений об отноше­нии между живым существом и Dasein. Хайдеггер изме­няет терминологию: он именует «растормаживателем» то, что Икскюль называл носителем значения; «способ­ностью к» — действующий орган (орган восприятия), а также заменяет метафизически нагруженный термин «жиз­ненный мир» на нейтральный «цикл растормаживания».

Животное, по Хайдеггеру, обделено миром; его способ бытия — это бытие в оцепенелости. Оно полностью погру­жено в своё взаимодействие с растормаживателями, кото­рые, несмотря на то, что целиком захватывают животное, никогда не открыты ему. Животное не способно на дей­ствие, только на поведение. Оно не открыто ни миру, ни себе. Оно захвачено и погружено в мир, которого лишено – в том смысле, что не способно ничего воспринять как таковое, как сущее. Это отсутствие открытости не означа­ет наличия закрытости, здесь просто нет места для таких альтернатив, нет таких грамматических возможностей.

Человек отличается от животного не отсутствием растор­маживателей (они есть, как и погруженность в цикл рас­тормаживания), а открытостью, способностью воспринять сущее как сущее, как таковое. Dasein — это животное, которое способно прервать свою захваченность расторма­живателем, способно открыться ему, а также открыться своей захваченности, открыться своей животности, то есть открыться своей неоткрытости, сокрытому как таковому.

Перенося эти рассуждения в область исследования искусственного интеллекта, можно утверждать, что для создания мыслящей машины сперва надо создать захва­ченное миром животное, которое было бы оглушено сво­ими растормаживателями и погружено во взаимодействие с ними. Это представляется мне невероятным, даже более невероятным, чем взять уже готовое животное и наделить его интеллектом, так сказать, «вдохнуть искру разума». Машина намного ближе к камню или водопаду, чем к клещу, жаворонку или человеку. Бессмысленно и нелепо говорить о машине, что она захвачена текстом, перевод которого она осуществляет. Человеку соответствует откры­тость миру в возможности воспринять сущее как сущее, животному — лишённость мира в отсутствии сокрытости и несокрытости сущего, машине соответствует отсутствие мира: мир ей не открыт, она его не лишена, он не сокрыт для неё — о машине просто нельзя сказать ничего подоб­ного, как и о камне, например.

Но нам мало сделать машины способными быть оглу­шёнными и захваченными. Нам нужно включить такие машины в практики, в языковые игры. Нам нужно сделать так, чтобы уже способные к оцепенению перед миром машины не просто получили возможность прерывать это оцепенение своей открытостью миру, но и научились разыгрывать различные «когнитивные» языковые игры так, как это делаем мы сами: исходя из своих интересов, преследуя собственные цели, испытывая скуку или любо­пытство, сомневаясь или чувствуя уверенность, осознавая свои действия или не задумываясь, «автоматически» и т.д. То есть машины должны научиться для начала эмоциям и чувствам, а лишь затем языку и вычислениям. Но это нонсенс! Да мы и не пытаемся создать сомневающиеся или уверенные машины, мы создаём их для других целей, и эти цели наши, а у машин нет собственных целей, как и действий или хотя бы поведения. У них есть только применение. Люди, создающие и применяющие машины, преследуют собственные цели, но от этого машины не становятся действующими целенаправленно. Мой ноут­бук заинтересован в написании этого текста не больше, чем печатная машинка или гусиное перо, которыми я мог воспользоваться.

Целью создателей машины может быть имитация челове­ческих действий, например, говорения. Но разговаривать и имитировать разговор — это разные языковые игры, тем более что субъектом игры в имитацию будут выступать программисты и инженеры, а вовсе не их машина.

«Мышление — феномен жизни, — писал Питер Хакер в работе ‘‘Wittgenshtein on human nature’’. — Оно прояв­ляется в бесконечно разнообразных видах поведения в потоке жизни. Его формы — это аспекты формы жизни и культуры. Мы не должны бояться, что наши машины нач­нут думать лучше нас, хотя мы вполне могли бы бояться, что они приведут нас к тому, что мы перестанем думать сами».