Другие журналы на сайте ИНТЕЛРОС

Журнальный клуб Интелрос » Финиковый Компот » №8, 2015

Дмитрий Волков
Аргумент внутреннего времени
Просмотров: 1485

Аргумент внутреннего времениСёрл известен своим мысленным эксперимен­том Китайской Комнаты. Аргумент впервые появился в статье «Сознание, мозг и про­граммы» в 1980 г. С помощью этой истории Сёрл оспаривает тест Тьюринга как критерий рациональности, идею о том, что мышление представляет собой вычислительный процесс, и функционалистские теории сознания. Его вывод в том, что, вне зависимости от программы, компьютер не может обладать интеллектом, даже если симулирует поведение разумного существа. Для разума, считает Сёрл, необходимы биологические процес­сы. Как построена Китайская Комната?

В Комнате заперт человек. Он не знает китайского, но у него множество справочников с правилами формирова­ния ответов и наборы иероглифов, из которых эти ответы должны формироваться. Люди снаружи, владеющие китай­ским, передают в Комнату вопросы, узник по справочни­кам из имеющихся у него иероглифов составляет отве­ты. У людей снаружи создается впечатление, что узник понимает китайский, тогда как он ничего не понимает, а просто следует инструкциям. Для узника обмен сооб­щениями — только синтаксические операции, действия с символами. Для понимания необходима связь между символами и их смыслом, семантика. А она отсутствует.

Китайская Комната это метафора компьютера. Узник — центральный процессор, инструкции — программы, а наборы иероглифов — данные. Из ситуации интуи­тивно следует, что, какие бы манипуляции не произво­дил компьютер, в конечном итоге он имеет дело только с синтаксисом. Для значений и понимания нет места. На Китайскую Комнату бурно откликнулись сторонники искусственного интеллекта. С первых дней существования она стала магнитом для возражений.

Возражение 1. Системный аргумент

Одним из возражений на Китайскую Комнату является системный аргумент. Его сторонники считают, что пони­мание китайского языка должно быть не у узника, а у всей Комнаты. И оно, вполне возможно, есть. Человек вну­три — только часть механизма системы, но в нее входят также справочники, используемые им для формирования ответов, кусочки бумаги с написанными на них иерогли­фами. Именно в справочниках и наборах символов в боль­шей степени сосредоточен интеллект системы, без которо­го действительно никакого понимания быть не может. Это возражение любопытно, но его можно парировать.

Ответ Сёрла — ксеноглоссия. Представьте, что человек вышел из Комнаты в поле, говорит Сёрл. Но перед этим человек запомнил все символы и каждое правило. Тогда вся система сосредоточена в его голове. Он теперь сво­бодно общается по-китайски без Комнаты, но, согласно нашим интуициям, он по-прежнему ничего не понимает! Это должно выглядеть как ксеноглоссия — предполагае­мая в парапсихологии истерия, обычно связанная с рели­гиозными переживаниями, в ходе которой человек начи­нает говорить на реально существующих языках, которые он никогда не учил. Человек из Китайской Комнаты слышит вопросы и мгновенно на них отвечает, не пони­мая при этом сам ни единого слова.

Пусть системный аргумент плохо согласуется с интуи­циями. Но по-другому и быть не может. Чтобы Комната работала так, как обещает Сёрл, она должна содержать миллионы томов инструкций, а сам узник — носиться по ней с ошеломляющей скоростью. Это перегружает воображение. Как тут оно может не подвести? Интуитивно способность «понимать» также плохо согласуется и с фи­зическими процессами, которые происходят в мозге.

Представим ещё одну фантастическую ситуацию. У но­сителя китайского языка возникает дефект мозга — нейромедиаторы перестают передавать сигналы между нейронами. Тогда ему встраивают механизм, который заменяет работу нейромедиаторов. Назовём его демо­ном Сёрла. Демон носится между нейронами и передает электрические импульсы в точности, как делали бы это нейромедиаторы. Что будет с поведением человека? Если демон полностью симулирует работу нейромедиаторов, поведение человека не изменится. Он точно так же будет способен разговаривать на китайском. Но будет ли он при этом понимать речь? Когда этот вопрос задают Сёрлу, он высказывается утвердительно. Но из этого, по-видимому, следует, что Сёрл принимает системный аргумент! Сёрл не задает вопрос, понимает ли китайскую речь демон. Возможно, как и узник Китайской Комнаты, демон про­сто следует инструкциям. Понимает речь человек. Задавая вопрос о том, понимает ли узник китайский язык, Сёрл совершает категориальную ошибку. Понимать язык может не какая-то часть системы, а система целиком.

Возражение 2. Аргумент Робота

Другой аргумент против Китайской Комнаты — аргумент Робота. Для того чтобы описать механизм, способный к пониманию, считают его сторонники, нужно предста­вить не Комнату с символами и инструкциями, а её ана­лог, реализованный в роботе. Компьютерная программа будет установлена в контрольном центре робота. Там будут обрабатываться не только языковые данные, но и данные от «органов восприятия». Такой робот будет способен не только говорить, но и сообразно действовать. Он должен понимать любой язык, на котором будет говорить.

Ответ Сёрла — Китайский Робот. Эти новые условия усложняют ситуацию, но принципиально ничего не ме­няют. По мнению Сёрла, робот не может добавить ничего для понимания и появления интенциональных содержа­ний. Просто вместо компьютера мы помещаем в робота Китайскую Комнату. Теперь у нас Китайский Робот! И уз­ник обрабатывает не только символы-вопросы, но и дан­ные от «органов восприятия». Обратно он тоже отправляет символы как для ответов, так и для управления Роботом. Но понимания всё равно не возникает. «Я получаю ‘‘ин­формацию’’ от ‘‘перцептуального’’ аппарата робота и даю инструкции его ‘‘моторному’’ аппарату, ничего об этом не подозревая, — говорит Сёрл от лица узника. — Я являюсь ‘‘гомункулюсом’’ этого робота, но, в отличие от тради­ционного гомункулюса, я не знаю, что происходит. Я не понимаю ничего, кроме правил манипуляции символами»i. Сёрл не видит принципиальной разницы между Комнатой и Роботом. Но разница есть.

Различие Робота и Комнаты.

Комната с Кока-Колой

На различие двух сценариев обращает внимание В.В. Ва­сильев. Он считает, что, в отличие от Робота, Комната вообще не способна пройти тест Тьюринга. Васильев предлагает вообразить дополнительные детали: «Допустим, я знаю китайский и веду диалог с Сёрлом, запертым в его Комнате вместе с программой и целыми горами иерогли­фов. Допустим также, что перед экспериментом я зашёл в комнату и поставил банку Кока-Колы на стол, за кото­рым будет сидеть Сёрл. И вот мы начинаем наш диалог»ii. Эксперт спрашивает узника, что находится перед ним. По правилам Китайской комнаты, узник должен обратиться к инструкциям, чтобы сформировать ответ. Но как инструк­ции могут «знать», что находится в Комнате перед узни­ком? Узник и программа не могут дать нужного ответа, а значит, они не способны пройти тест Тьюринга.

Васильев проводит оригинальную атаку на аргумент Сёр­ла. Но, мне кажется, её можно отбить. Можно показать, что этот ход незаконный, что он нарушает аналогию меж­ду Комнатой и рациональным агентом. Сколько нейронов у Вас в голове? Приблизительно пятьдесят-сто миллиар­дов? А точнее? Неужели, если Вы не знаете точное число нейронов у себя в голове, Вы не в состоянии пройти тест Тьюринга? Как выглядит орган, соединяющий ваше правое и левое полушарие? А вдруг там находится банка с Кока-Колой? В конце концов, демон Сёрла, пока вы се­годня спали, мог туда её установить. Неспособность агента дать ответы о своем внутреннем устройстве и изменениях «внутри Комнаты» не дают основания полагать, что агент не рационален.

Внутреннее время

Но позицию Васильева можно развивать. Даже без по­сторонних предметов Комнату можно поставить в тупик. Нужно задать ей вопрос о фактах, доступных обеим сторо­нам, ответ на который нельзя было бы подготовить зара­нее. Набор этих фактов сильно ограничен, т.к. у Комнаты нет органов чувств. Но в ходе беседы с экспертом эти факты появляются. Например, сколько вопросов было уже задано с начала беседы? Подобный вопрос может быть опробован несколько раз в ходе испытания. Как програм­ма будет реагировать на него? Наверное, можно написать такие инструкции, чтобы, в зависимости от контекста, узник давал разные удовлетворительные ответы. Для этого в его распоряжении должны быть варианты всех воз­можных разворачивающихся бесед. Вообразите масштаб библиотеки!iii Допускаю, что, когда узнику будут задавать одни и те же вопросы и он обнаружит, что дает разные ответы, у него появится серьезная подсказка. И он даже сможет вычислить остальные значения по нейiv. Но пока не вижу способа это окончательно доказать. Програм­му, которая бы правильно отвечала на вопросы о самой беседе, все равно можно помыслить. Тогда члены жюри должны задавать вопросы о внутреннем чувстве. Напри­мер, вопрос, сколько времени прошло с момента первого вопроса. Разговор с узником может длиться сколь угодно долго, интервалы между вопросами могут быть любыми, поэтому программа не сможет заранее предусмотреть от­вет. Жюри знает, что у узника нет часов (иначе это будет банка с Кока-Колой) и ему придется ориентироваться только на внутреннее чувство, но, чтобы казаться рацио­нальным, он должен уметь отличить 10 минут от 10 дней. Чтобы поставить программу в тупик, можно попросить узника сравнить между собой два интервала времени или что-нибудь подобное. Насколько я понимаю, нельзя на­писать инструкции так, чтобы предусмотреть правильный разумный ответ. Значит, аргумент от времени показыва­ет, что Комната, способная только к лингвистическому поведению, все-таки не сможет пройти тест Тьюринга. И поэтому аргумент Сёрла не представляет угрозы для функционалистских теорий сознания.

 

Примечания

i. Сирл Дж.Р. Разум, мозг и программы // Хофштадтер Д., Деннетт Д. Глаз разума. — Самара: Издательский Дом «Бахрах-М», 2003. С. 322.

ii. Васильев В.В. Кока-Кола и секрет Китайской комнаты // Философия сознания: классика и современность. — М., Издатель Савин С.А., 2007. С. 88.

iii. Подобный вопрос предложил И. Солнцев. Он пред­лагает спросить Комнату о содержании предыдущего вопроса. Этот вариант, по моему мнению, можно париро­вать. Комната теоретически может иметь все комбинации вопросов и ответов. Тогда и на этот у нее будет правиль­ный ответ.

iv. Правда, во время беседы с такими вопросами у узни­ка, возможно, появятся перспективы разбираться в китай­ском. Представьте, что Вам задают один и тот же вопрос, но с течением времени вы вынуждены давать на него разные ответы. Учитывая, что Ваши ответы истинны, очевидно, что они описывают что-то, что за это время изменилось. А что могло измениться в комнате, где ниче­го «особенного» не происходит? Подобные соображения могут стать ключом к расшифровке.



Другие статьи автора: Волков Дмитрий

Архив журнала
№13, 2018№11, 2016№10, 2016№9, 2015№8, 2015
Поддержите нас
Журналы клуба