Материя и мышление (стр. 10 )

162 МЫСЛЯЩИЕ МАШИНЫ

то, что мы когда-либо достигнем этого уровня, не только по причине сложности мозга, но еще и потому, что логическая система, согласно Гёделю, не является достаточной для своего собственного обоснования» [61]. С другой стороны, известен знаменитый афоризм Кабаниса: «Мозг выделяет мысль, как печень — желчь». Что до меня, я разделяю точку зрения Франсуа Жакоба о биохимии мозга и об относительно банальном характере молекул, составляющих структуру и участвующих в элементарных функциях нашего мозга. Это подтверждается и данными, получаемыми с 1970 года. Но я не являюсь его сторонником в том, что касается применимости теоремы Гёделя к нейронаукам. Разумеется, здесь возникает интересная методологическая проблема: нейробиолог, изучающий собственный мозг в состоянии самоисследования. Тем не менее, при современном состоянии науки я не вижу фундаментальных препятствий для изучения функционирования высшей нервной системы кого-либо из коллег, например тебя, с помощью методов визуализации, без прямого вторжения. А еще лучше исследовать функционирование нервной системы какого-либо вида животных, близкого к человеку (обезьян, например) методами экспериментальной нейрофизиологии. По той простой причине, что суть так называемого метода редукции или реконструкции, которые все мы используем в экспериментальных науках, как раз и заключается в поиске на нижележащем уровне объяснения феноменам, происходящим на вышележащем уровне. Иначе говоря, опираясь на организацию, правила взаимодействия и свойства элементов, составляющих нижний уровень, можно объяснить соответствующие свойства уровня верхнего. Так нейробиологи и исследуют неврологические основы высших функций человеческого мозга. И на этой стадии, насколько мне известно, не существует никаких теоретических препятствий. Главными препятствиями, как мне кажется, оказываются сложность организации мозга, его изменчивость от индивида к индивиду и возможное взаимовлияние методов наблюдения и собственно функционирования высшей нервной системы. Впрочем, подобная проблема существует и в физике, где методы наблюдения также могут взаимодействовать с наблюдаемыми объектами.

Вернемся к теореме Гёделя. Можно считать, что перевод ее с языка математики сводится к знаменитому философскому парадоксу: «Все жители Крита лгуны, как сказал Эпименид, критский мыслитель». Невозможно решить, является это утверждение ис-

г

2. ТЕОРЕМА ГЁДЕЛЯ 163

тинным или ложным. Мы оказываемся, таким образом, в ситуации неразрешимой задачи. Какое бы ты дал определение теореме Гёделя? Как бы ты применил ее к нейронаукам и, в частности, к моделированию функционирования высшей нервной системы, мозга, решающего математическую задачу?

А, К.: Насколько мне известно, существуют два фундаментальных результата Гёделя относительно недостаточности, по выражению Ф. Жакоба, логической системы для своего собственного обоснования. Первый указывает на то, что невозможно, вследствие самоотносимости, доказать, что теория множеств является непротиворечивой. Это, впрочем, верно для любой теории, даже более рудиментарной, при условии, что она содержит очень простые, вполне определенные аксиомы. Затем теорема о неполноте. Для того, чтобы объяснить этот второй результат, мне нужно сначала уточнить, что такое неразрешимое высказывание в системе аксиом (например, в теории множеств). В качестве объяснения я хотел бы рассказать небольшую историю. В течение нескольких лет я каждый четверг навещал своего друга — математика, который был убежден в том, что доказал одну теорему. Он работал тогда над задачей, носящей имя одного довоенного польского математика. Задача формулировалась так: можно ли упорядоченное множество вещественных чисел охарактеризовать неким свойством. Задача эта занимала мысли моего друга на протяжении почти тридцати лет. И всякий раз, как я приходил к нему в четверг, он предлагал мне новое решение этой задачи. Он полагал, что отыскал доказательство, и при каждом моем посещении происходила примерно одинаковая последовательность действий. Он давал мне свое решение, чаще всего в письменном виде. Я искал ошибку. Иногда я находил ее сразу же, иногда мы возвращались к доказательству через неделю. И каждый раз он опять возвращался к задаче и что-то изменял в доказательстве, снова и снова. В действительности, я с самого начала знал, что какое бы то ни было доказательство в данном случае невозможно. Но я также знал и то, что я не могу указать ему на ошибку посредством приведения контрпримера. Почему? Потому что еще в шестидесятые годы было доказано, что эта задача неразрешима. Иногда в математике такое случается. В данном конкретном случае мы знаем, что если добавить к аксиомам теории множеств еще одну аксиому — например, аксиому континуума, — то можно доказать, что на поставленный в задаче вопрос имеется-таки ответ, причем положительный. Ее-

164 МЫСЛЯЩИЕ МАШИНЫ

ли же мы добавим какую-либо другую подходящую аксиому, то можно доказать, что ответ будет, и будет отрицательным. Другими словами, ситуация такова, что без добавления к аксиомам теории множеств каких-то других аксиом математик не может доказать результат. Для меня было равно невозможно привести ему контрпример, не воспользовавшись какой-либо дополнительной аксиомой, на которую он с легкостью нашел бы множество возражений. Следует очень четко представлять себе, что такое неразрешимость. Она всегда имеет смысл...

Ж.-П. Ш.: ... в рамках данной системы аксиом.

А. К.: Вот именно. Высказывание неразрешимо, если можно доказать либо его истинность, либо его ложность, не опровергая аксиом, с которыми мы имеем дело каждый день... если, конечно, не учитывать возможной противоречивости самой теории множеств.

Ж.-П. Ш.: Значит, собственных аксиом системы для решения не достаточно.

А. К.: Совершенно верно. Теперь можно перейти к теореме Гёделя о неполноте. Согласно этой теореме, какими бы ни были аксиомы, будь их конечное количество или они заданы рекурсивно, всегда найдутся вопросы, на которые мы не сможем ответить, которые останутся неразрешимыми вследствие недостатка у нас информации. Иначе говоря, теорема Гёделя указывает, что невозможно ограничиться конечным числом аксиом таким образом, чтобы в рамках данной системы оказался разрешим любой вопрос. Это не означает, что вопрос нельзя проанализировать, исходя из того, что уже известно, это означает лишь, что число новых увлекательных вопросов, на которые необходимо отыскать ответ, бесконечно. Вот как следует понимать теорему Гёделя. На мой взгляд, было бы ошибкой делать из этого вывод, что мощь человека-машины ограничена. Эта теорема утверждает лишь то, что обладая конечным числом аксиом, на все вопросы ответить невозможно. Впрочем, если тот или иной вопрос неразрешим, и неразрешимость эта доказана, то ничто не мешает нам просто присвоить ему какой-либо ответ и продолжать рассуждение.

Это означает, что каждый новый неразрешимый вопрос порождает бифуркацию в той точке, где мы выбираем ответ, положительный или отрицательный. Мир, в котором мы живем, содержит множество всевозможных бифуркаций. И все они имеют значе-

2. ТЕОРЕМА ГЁДЕЛЯ 165

ние. Однажды ответив на вопрос, мы можем продолжать ставить перед собой все новые и новые вопросы. Прежние вопросы становятся, таким образом, разрешимыми, каковыми они раньше не были. Каждый неразрешимый вопрос создает бифуркацию и вынуждает делать выбор. Например, бифуркацию порождает теорема Поля Коэна о континуум-гипотезе. Необходимо выбрать: либо не существует кардинальных чисел между счетным множеством рациональных чисел и континуумом, либо таких чисел существует 36. Первый ответ кажется предпочтительнее в силу своей простоты. При этом важно, чтобы выбор ответа в каждом конкретном случае основывался на прежних ответах на как можно более простые вопросы. И в самом деле, существуют вопросы более простые, чем вопросы о континууме.

Ж.-П. Ш.: Значит, фундаментального теоретического препятствия ты здесь не видишь...

А. К.: На данный момент я говорю только о проблеме неразрешимости. Если перед нами встает неразрешимый вопрос (например, вопрос о континууме) то нужно всего-навсего сформулировать гипотезу, которая сделает его разрешимым. Затем изучить следствия из этой гипотезы и ее способность прояснить другие вопросы. Например, если мы принимаем гипотезу континуума, то можно доказать (результат, полученный Г. Мокободски), что любой последовательности, состоящей только из действительных чисел, можно задать предел lim^ (αη) таким образом, что будет выполняться неравенство нижний ПРЕДЕЛ (ап) < limw (αη) < ^ ВЕРХНИЙ ПРЕДЕЛ (αη), при этом предел limw измеримо зависит от (ап) и взаимозаменяется интегралом. Этот результат оказывается весьма полезен в той математике, о которой мы сейчас говорим. Когда к системе добавляется гипотеза — например, континуум-гипотеза, — нужно, очевидно, убедиться в ее неразрешимости, т. е. в двух вещах: во-первых, эта гипотеза не должна выводиться из прежних аксиом системы (теорема Коэна для континуум-гипотезы), а во-вторых, ее отрицание также не должно быть следствием из прежних аксиом (для континуум-гипотезы этот результат был получен Куртом Гёделем). На практике эти результаты всегда доказываются на основании предположения о том, что теория множеств непротиворечива. Однако я считаю, что использовать теорему о неполноте для доказательства ограниченности нашего механизма понимания не совсем уместно. Она лишь дает нам понять, что выбирать так или иначе придется и что рекурсив-

166 МЫСЛЯЩИЕ МАШИНЫ

ных способов сделать этот выбор раз и навсегда не существует. Вот каков смысл этой теоремы.

Ж.-П. Ш.: Ответ есть альтернатива. Эта теорема описывает, скорее, процесс приобретения знаний, нежели логическую и эпистемологическую невозможность. Значит, нейробиологи могут успокоиться. Рано или поздно мы разберемся в деятельности мозга!

А. К.: Теорема Гёделя определяет своего рода горизонт понимания, определяемого конечным числом уже осуществленных выборов. Чем больше это число, тем дальше горизонт. Представление о существовании горизонта не должно быть статическим, когда конечное число аксиом дает раз и навсегда ответ на все вопросы. Напротив, наше понимание носит динамический характер. Каждый раз, когда понимание расширяется, мы становимся способны ответить на большее количество вопросов. В каждой новой бифуркации мы можем делать такой выбор, чтобы горизонт отдалялся от нас. Очевидна иллюзорность мысли, что когда-нибудь мы все поймем. Это проблема науки вообще. Однако не следует замыкать себя в границах и терять надежду только из-за того, что якобы утверждает теорема Гёделя.

На самом деле, в ее самой глубинной формулировке, теорема Гёделя о неполноте показывает лишь то, что математику можно свести к формальному языку. В начале века математики пытались точно определить, что есть математическое доказательство. Гильберт создал искусственный язык на основе конечного алфавита с конечным числом грамматическим правил, позволяющих однозначно определять связность высказываний, конечным числом правил логического вывода и конечным числом высказываний, предполагаемых истинными, или аксиом. Исходя из такой системы или формального языка, можно построить универсальный алгоритм, который позволит принимать решение об истинности любого доказательства, сформулированного на этом языке. Таким образом мы можем — по крайней мере, теоретически — составить список всех теорем, которые можно доказать с помощью этого формального языка. Гильберт полагал, что сможет привести все математические теоремы* к такому виду, что с помощью соответствующего формального языка их можно будет доказать. Теорема же Гёделя показывает, что это невозможно. Какова бы ни была сложность формальной системы, всегда будет существовать высказывание, касающееся целых положительных чисел, которое

2. ТЕОРЕМА ГЁДЕЛЯ 167

будет одновременно истинным и недоказуемым в данной формальной системе. Неоднократно подчеркивался отрицательный аспект этой теоремы, в рамках которой невозможно дать четкое определение понятию доказательства. Но нельзя ли рассмотреть ее под следующим углом: истинные высказывания о положительных целых числах не могут быть сведены посредством логического вывода к конечному числу аксиом. Количество информации, содержащееся во множестве всех этих высказываний, будет бесконечным. Не кажется ли тебе, что это характеристика реальности, не зависящей от какого бы то ни было человеческого творения?

Но обратимся к проблеме интроспекции. Со времени создания теории множеств многочисленные парадоксы (в частности, парадокс Рассела) вынуждают нас выстраивать логические высказывания в соответствии с последовательными типами. Упомянутый парадокс Рассела возникает тогда, когда мы допускаем синтаксические ошибки. Например, если множество всех множеств есть множество, то можно рассмотреть некую его часть, которая есть множество множеств, содержащихся в нем в качестве элементов, а его дополнением является множеством множеств, не содержащихся в нем в качестве элементов. Парадокс возникает тогда, когда возникает вопрос, является ли это множество элементом самого себя. Для того, чтобы на этот вопрос ответить, достаточно ввести иерархию (логическую) элементов по иному, нежели принадлежность к множеству, признаку. Начнем с элементов — тип 0. Далее, множества — тип 1. Различие между типами различного уровня позволяет не смешивать друг с другом различные по своей сути множества. Уже невозможно говорить о множестве всех множеств — синтаксическая ошибка. Когда в логике присутствует иерархия, парадокс исчезает.

Ж.-П. Ш.: Ты говоришь о своего рода создании порядка.

А. К.: Последовательность типов позволяет ввести иерархию в механизмы мышления: элементы множеств рассматриваются как сущности, более простые или менее замысловатые, нежели сами множества.

Ж.-П. Ш.: Нельзя рассуждать, вкладывая в одни и те же термины различный смысл.

А. К.: Нельзя ставить на одну полку элементы и множества. В частности, нельзя ставить вопрос о множестве множеств, содержащихся в нем в качестве элементов. Аналогичную процедуру следует применять и к проблеме интроспекции мозга в процес-

168 МЫСЛЯЩИЕ МАШИНЫ

се самопознания, в результате чего этот мнимый парадокс будет устранен.

Ж.-П. Ш.: Следовательно, он не является неразрешимым.

А. К.: О неразрешимости здесь и речи не идет. Парадокс является следствием синтаксической ошибки. Очевидно, что логику теории множеств следовало бы сформулировать таким образом, чтобы этот парадокс был устранен раз и навсегда. Что и произошло, когда мы сформулированы свои вопросы с учетом вышеописанной иерархии.

Ж.-П. Ш.: Ты делаешь парадокс разрешимым, добавляя к нему гипотезы.

А. К.: Вовсе нет, просто парадокс вынуждает меня ввести более точное определение логических объектов и соответствующую иерархию.

Ж.-П. Ш.: Перейдем ко второму вопросу.

А. К.: Да. В каком смысле теорема Гёделя налагает ограничение на понимание функционирования мозга? Анализируя понятие случайной последовательности, математики пришли к выводу, что между теоремой Гёделя и теорией информации, разработанной в начале пятидесятых годов [7], существует прямая связь. Причем в такой степени, что можно рассматривать эту теорему как следствие ограничений, налагаемых теорией информации по причине конечной сложности любой формальной системы. Таким образом, второе из двух выдвинутых Ф. Жакобом ограничений (сложность и теорема Гёделя) является следствием первого. А это означает, что упомянутые ограничения можно обойти. Сначала, во избежание возникновения парадокса интроспекции, введем иерархическое различие между анализируемым мозгом (тип 0) и мозгом анализирующим (тип 1)... Далее, используя эволюционный характер развития человека как вычислительной машины, возможность объединять вместе очень большое количество мозгов, а также вероятную помощь информатики в классификации данных, можно доказать, что сложность «анализируемого мозга» вовсе не ограничена сложностью «анализирующего мозга», что устраняет первое из возражений Ф. Жакоба.

3. Мыслящая машина Тьюринга

Ж.-П. Ш.: Перейдем к машине Тьюринга. А. К.: Напомни мне, что это такое.

r

3. МЫСЛЯЩАЯ МАШИНА ТЬЮРИНГА 169

Ж.-П. III.: Тьюринг был замечательным математиком. Его работы до сих пор вдохновляют многих биологов. Он был одним из немногих творцов от математики, предложивших теории, которые уверенно применяются в биологии. Взять хотя бы теорию, объясняющую морфогенез нарушениями симметрии. Ему удалось показать, как в системе сопряженных химических реакций может спонтанно возникать форма, соответствующая той или иной изотропной системе. К тому же задачу он поставил весьма конкретным и даже забавным образом — объяснить, как может из сферического яйца образоваться гидра, рот которой окружен шестью щупальцами! Конкретно и точно поставленные биологические задачи могут, как мы видим, вдохновить математика на создание оригинальной математической теории. Кроме того, именно Тьюринг одним из первых сформулировал теорию вычислительных устройств, компьютеров — таких, какими мы с вами пользуемся сегодня. Эта теория составляет постоянный предмет бурных дебатов между психологами и нейробиологами, а главный вопрос, на который она стремится найти ответ, звучит так: сможем ли мы когда-нибудь создать машину Тьюринга, обладающую качествами, тождественными качествам человеческого мозга, и не является ли в таком случае сам мозг машиной Тьюринга. Его статья начинается с такой фразы: «Я предлагаю задуматься над вопросом: могут ли машины мыслить?» Именно этот вопрос мы и задаем сегодня друг другу.

Прежде всего, что же такое машина Тьюринга? Машина, которую он описывает в своей статье, опубликованной в 1936 году, читает и записывает на ленте дискретные символы, квадраты; лента служит для ввода данных в машину. Кроме того, символы на ней сохраняются, вследствие чего она может выступать и в роди памяти. Равно как и в роли устройства вывода. Машина выполняет три операции: считывает символы, изменяет их и добавляет новые. Теоретически эта лента бесконечна и представляет собой, в некотором роде, программу. Таким образом, Тьюринг сразу выделяет программное обеспечение, или, по-английски, «software»...

А. К.: Может ли машина считывать с ленты свои собственные операции?

Ж.-П. Ш.: Да, может.

А. К.: Лента проходит только один раз или может возвращаться назад?

170 МЫСЛЯЩИЕ МАШИНЫ

Ж.-П. Ш.: Она может проходить через машину бесконечно. На ленте записана программа, или «software», тогда как остальная машина, в своем материальном воплощении, составляет «железо», или «hardware». Иначе говоря, перед нами точно такой же компьютер, какие производят сегодня.

А. К.: В описании не задан механизм, используемый машиной.

Ж.-П. Ш.: Это проблема. Машина Тьюринга представляет собой цифровой вычислитель, манипулирующий величинами в дискретной форме. В этом ее отличие от аналоговых вычислителей, измеряющих непрерывные физические величины. Цифровой вычислитель — и это очень важное положение теории Тьюринга — способен имитировать любую другую машину, работающую с дискретными величинами. Таким образом, он является универсальной машиной, и ему совершенно безразлично, какой именно процесс вы представите в форме последовательности инструкций, допускающих манипулирование дискретными элементами. Иначе говоря, машина Тьюринга способна, в принципе, воспроизвести какой угодно процесс. Она способна смоделировать даже аналоговый калькулятор.

Теперь возникает вопрос о применимости тезисов Черча и Тьюринга, согласно которым все, что может вычислить человек, может вычислить и машина, все, что может вычислить машина, может вычислить и обще - или частично рекурсивная программа, и, наконец, все, что может вычислить человек, может вычислить и эта самая программа. Это возвращает нас к предположению о возможности отождествления мозга и его деятельности с машиной Тьюринга. Доктрина функционализма, которую очень любят психологи-когнитивисты (такие, например, как Джонсон-Лэйрд), утверждает, что психология сводится к исследованию программ и, следовательно, никак не зависит от нейропсихологии, поскольку та изучает собственно машину и ее код. Все, что касается психики, входит, таким образом, в software, тогда как мозг, со своими нейронами и синапсами, составляет hardware. Следовательно, он почти не представляет интереса для функционалистов, которые даже приходят к заключению, что физическая природа мозга «не накладывает на организацию мысли никаких ограничений» [66]. В соответствии с этой модной в области наук о познании доктриной, совсем не важно, состоит мозг из протеинов или силикона, равно как не важны ни количество, ни природа этих нейронов. Имеют значение лишь алгоритмы, с которыми отождествляются функции

4, ТЕОРИЯ ^-МАТРИЦЫ в ФИЗИКЕ — АНАЛОГ ФУНКЦИОНАЛИЗМА 171

мозга. Интересоваться нейробиологическими основами — пустая трата времени!

4. Теория S-матрицы в физике — аналог функционализма в психологии?

А. К.: Можно провести параллель между противопоставленными тобой выше подходами и аналогично противоположными подходами в физической теории поля. Эта теория пытается объяснить механизм взаимодействия элементарных частиц. Там тоже противопоставляются две тенденции.

Ж.-П. LLL: Может быть, ты сначала объяснишь, что это такое — теория поля?

А. К.: В квантовой механике и теории относительности известно, что частицы рождаются и уничтожаются произвольным образом. Количество частиц непостоянно, в противоположность тому, что мы имеем в химии. Стало быть, даже при исследовании очень простых явлений необходимо рассматривать не изолированные частицы, а поля, зависящие от бесконечного числа переменных. Этой весьма сложной теории сопутствовал огромный успех. В особенности бросается в глаза аналогия между доктриной функционализма и теорией ^-матрицы Гейзенберга. Согласно этой теории, не имеет значения, что происходит в момент столкновения частиц. Значение имеет лишь матрица, переходящая от начального состояния системы (состоящей, например, из полутора десятка свободных частиц, импульсы и масса которых известны) к конечному ее состоянию, также представленному в форме свободных частиц. Эта матрица сопоставляет каждой паре, составленной из начального и конечного состояний (г, /) некоторое комплексное число. Соответствующая данной паре вероятность равна квадрату модуля комплексного числа. Теория предлагает анализировать свойства матрицы вне зависимости от конкретного механизма, управляющего взаимодействиями, возникающими в момент столкновений. Если нам известна ^-матрица, то это не означает, что мы понимаем, что происходит, — это означает лишь то, что у нас есть модель, дающая результаты, согласующиеся с экспериментальной реальностью.

Ж.-П. Ш.: Так называемая феноменология.

А. К.: Да.

172 МЫСЛЯЩИЕ МАШИНЫ

Ж.-П. III.: Взаимодействия происходят в некоем «черном ящике», до которого никому нет дела. Столько же интереса проявляют функционалисты к мозгу!

А. К.: Совершенно верно. Такой подход вводит определенное число упрощений и усложнений. Так, сформулировать проблему удается более простым образом, так как детали механизма остаются в стороне. Однако количество возможных решений поставленной задачи настолько велико, что в них просто теряешься. Как показало развитие физики, сама по себе эта теория является недостаточной. Но она оказывается полезной, если в процессе исследования феноменов в рамках фундаментальной теории мы ставим перед собой целью также вычисление ^-матрицы. Таким образом, полностью исключать эту точку зрения не следует. Напротив, из истории физики мы видим, что время от времени такой подход оказывается весьма поучительным. Сегодня, например, очень популярна теория струн, в точности следующая из теории 5-матри-цы. Венециано обнаружил ^-матрицу, которая подтверждает некоторые важные их свойства и позволяет высказать предположения касательно природы механизма взаимодействия. В остальном эта теория представляется достаточно странной; возможно, она так и не найдет никакого применения, и мы вскоре забудем о ней. Тем более что никаких точек соприкосновения с экспериментально подтверждаемой реальностью в ней нет.

Ж.-П. Ш.: Для меня как для нейробиолога тезисы функционализма весьма полезны, поскольку позволяют лучше определить ту или иную функцию. В лучшем случае, они представляют ее в количественной форме. В этом есть что-то от физиологии. Мы измеряем функцию «извне», не входя «внутрь» механизма.

А. К.: Совершенно верно. Анализируется информация на выходе «черного ящика», его возможности.

Ж.-П. Ш.: Для меня это и есть функциональное определение проблемы, и его вполне достаточно. Будущая неврологическая модель должна будет учитывать эти функции, так что я совершенно с тобой согласен. Я не отрицаю важности экспериментального подхода, оценивающего функции количественно. Однако я не могу согласиться с той исключительной точкой зрения, согласно которой описание функции есть само по себе достаточное «объяснение». И здесь мы подходим к одной заслуживающей внимания проблеме.

4. ТЕОРИЯ 5-МАТРИцы в ФИЗИКЕ — АНАЛОГ ФУНКЦИОНАЛИЗМА 173

Если функционалистские тезисы верны, то любую функцию мозга можно отождествить с математическим алгоритмом и даже не с одним. Однако возможно ли отождествить внешнюю реальность с идеальными реалиями математиков? Способны ли эти реалии описать естественные феномены во всей их целостности? Сам ты этой идее сопротивляешься, поскольку полагаешь, что используемые физикой математические модели не дают цельного представления о физической реальности, не исчерпывают ее. Мне же функционализм представляется, скорее, методом, с помощью которого можно подобраться к пониманию функций мозга, нежели родом философского мировоззрения. Кроме того, поборники функционализма сталкиваются с одним существенным эпистемологическим препятствием: неясно, можно ли отождествлять с математическими алгоритмами физические свойства мозга.

А. К.: Очевидно (и физики это тоже понимают), что удовлетвориться 5-матрицей означает сделать шаг назад по отношению к теории поля. Но функционалистам, несомненно, есть что сказать, когда требуется уточнить, какие из экспериментальных результатов воспроизводимы и какие величины заслуживают дальнейшего изучения.

Ж.-П. Ш.: Именно. Однако на этом они не останавливаются. Они, например, полагают, что описания рассуждения или построения фразы по алгоритму вычисления, а также имитации этих процедур машиной Тьюринга вполне достаточно для того, чтобы понять, как функционирует мышление.

А. К.: На это у нас уже есть ответ. Нужно просто обратиться к тем трем уровням, о которых мы говорили ранее. Способность воспроизвести фразу относится к первому уровню. Механизм, позволяющий ее воспроизвести, задается заранее. Однако умение изменять стратегию в случае ошибки требует совсем другого механизма. Такой тип механизма явно относится к уровню выше первого. Полагать, что понял, как работает мозг, только потому, что разобрался с первым уровнем, значит совершать серьезную ошибку. Машина же Тьюринга ничего не решит даже на первом уровне, поскольку она не принимает в расчет проблему сложности алгоритмов [73].

Ж.-П. Ш.: Значит, функционализм мы хороним.

А. К.: Не совсем. Он может быть полезен для указания на те величины, к которым стоит присмотреться получше. Оценка теории в функциональных терминах может оказаться весьма интересной.

174 МЫСЛЯЩИЕ МАШИНЫ

Однако не следует довольствоваться одним лишь функционалист-ским подходом.

Ж.-П. Ш.: Это было бы чересчур консервативно. История на деле показывает, что для систематического прогресса познания в любой области необходимо осуществлять анализ не только на том уровне, который нас в данный момент интересует, но также и на тех уровнях, что расположены ниже, необходимо проникать внутрь «черного ящика», вскрывать его, разлагать физиологический процесс на составляющие, а затем восстанавливать его в его первоначальной целостности.

А. К.: То же верно и для теории поля.

5. Мозг человека как компьютер

Ж.-П. Ш.: Можно констатировать полное совпадение наших взглядов в этом отношении. Перейдем теперь к последнему пункту: различие между человеческим мозгом и современными «мыслящими машинами». Компьютеры, которыми мы на данный момент располагаем, очень эффективны для некоторых категорий операций. Например, они очень быстро производят вычисления: перемножают десятизначные числа за секунды, или даже доли секунды. В других же сферах компьютеры оказываются весьма и весьма ограниченными. Например, компьютер испытает огромные трудности с распознаванием цветка мака среди леса или бабочки в джунглях, тогда как человек делает это мгновенно! Также часто подчеркивается, что машины лишены «тела», способности чувствовать. Машины не способны предвосхищать события, они лишены интенциональности и не могут строить собственные программы без участия стороннего «хозяина». Их способность к самоорганизации имеет очень упрощенный характер (чтобы не сказать «отсутствует вовсе»). Я очень хотел бы знать, что думаешь по этому поводу ты, поскольку ты играешь в шахматы с машиной как с противником, который умеет играть так же хорошо, как человек, а может даже и лучше.

Современным компьютерам не хватает, на мой взгляд, двух качеств, которыми обладает человеческий мозг. Прежде всего, следует отметить, что в мозге программа и машина (по терминологии Тьюринга) с самых первых стадий развития тесно переплетены с архитектурой связей. Весьма сложно — а может быть, и невоз-

5. МОЗГ ЧЕЛОВЕКА КАК КОМПЬЮТЕР 175

можно — определить программу, независимую от связности мозговой машины. Смысловые объекты постепенно, в процессе развития, размещаются в долговременной памяти. Аппаратное обеспечение (hardware) выстраивается также постепенно и определяется как генетическим строением индивида, так и постоянным взаимодействием этого индивида с внешним миром. Но что самое главное (с точки зрения наших рассуждений) — мозг ведет себя как машина развивающаяся. Он развивается, причем в соответствии с дарвиновской моделью, одновременно на нескольких уровнях и в нескольких временных масштабах. Именно это, на мой взгляд, и отличает мозг от машин, построенных на сегодняшний день. Разумеется — помимо интенциональности, свойства, которое связано с эволюцией и о котором мало что известно, так как оно относится к более высокому уровню организации. Что, на твой взгляд, отличает человеческий мозг от машин, имеющихся у нас сегодня? И как можно придумать машину, которая приблизилась бы по своей функциональности к человеческому мозгу?

А. К.: Рассмотрим сначала машины, играющие в шахматы. Ин-тенциональность в данном случае очень проста: выиграть партию. Определить функцию оценки, показывающую насколько близка та или иная позиция в ходе игры к реализации интенции также относительно легко. А значит, можно сконструировать машину, использующую функцию оценки, определяемую этой вполне конкретной интенциональностью. В случае с мозгом, напротив, ин-тенциональность изменяется в зависимости от возникающих задач. Таким образом, мозг должен сам строить функцию оценки, адекватную данной интенциональности. Точнее говоря, он должен уметь оценивать, насколько эта функция соответствует данной интенциональности. Иными словами, мозгу приходится (не спрашивай, каким образом) строить для себя функцию оценки функций оценки!

Ж.-П. Ш.: Это, очевидно, и называется стратегическим разумом по Гранже.

А. К.: Да, но мне хотелось бы установить иерархию. С одной стороны, у нас есть функция оценки. Ее можно отождествить с поставленной целью. Задание интенциональности равносильно заданию функции оценки. Конечно, не все функции оценки хороши, поскольку некоторые из них могут соответствовать противоречивым интенциональностям, тогда как другие могуть оказаться не адекватны ни одной из них. Однако можно более или

176 МЫСЛЯЩИЕ МАШИНЫ

менее точно определить интенциональность как функцию, связанную с функцией оценки. В данной ситуации мозг должен сам уметь вырабатывать функции оценки такого типа. Следовательно, он должен быть способен создавать или, по меньшей мере, выбирать между теми, что уже существуют. И для того, чтобы делать это, мозг должен располагать некоей установленной раз и навсегда функцией оценки, которая позволит ему знать, соответствует ли создаваемая им функция оценки преследуемой им цели.

Ж.-П. Ш.: Этот механизм предполагает наличие памяти.

А. К.: Действительно, память или приобретенный опыт. Мозг может опираться на аналогии, сравнивая представленную ситуацию с известной ему по прошлому опыту.

Ж.-П. Ш.: С одной стороны, существует генетическая память. Человеческий организм — в его сегодняшнем состоянии — представляет собой результат развития многих поколений организмов, уже переживших ранее опыт такого рода. Значит, ответ на новую возникающую проблему может быть записан в генетической памяти. С другой стороны, мозг открыт внешней реальности и может обращаться к долговременной памяти, информация в которой накапливается с момента рождения.

А. К.: А вот на втором уровне возникает фундаментальная проблема. Каким может быть механизм, позволяющий мозгу отбирать функцию оценки, соответствующую той или иной его цели? Каковы критерии, обеспечивающие этот выбор? До тех пор, пока мы не поймем этот феномен, мы будем так же далеки от второго уровня, как далеки от него все существующие ныне машины.

Ж.-П. Ш.: Значит, они еще не достигли даже третьего уровня.

А. К.: Они пока находятся лишь на первом. Они позволяют лишь выполнять сложение или умножение, пусть и очень сложные, или же играть в шахматы. При этом функция оценки, равно как и интенциональность, всегда задается заранее. На сегодняшний день ни одна из машин не способна сама построить функцию оценки, адекватную предлагаемой интенциональности.

Ж.-П. Ш.: Современные компьютеры не способны на интенции.

А. К.: Нет, поскольку они не находятся в эволюционной связи с внешним миром. Несмотря на наличие памяти, у них нет другого прошлого, чем то, которое мы им навязали. Они не эволюционны по сути своей. Кроме того, феномен интенциональности предполагает наличие способности чувствовать. Мы стремимся достичь

6. МАШИНА — СТРАДАЮЩАЯ и СПОСОБНАЯ НА САМООЦЕНКУ 177

поставленной перед собой цели для того, чтобы доставить себе удовольствие — если, конечно, мы не мазохисты.

Ж.-П. Ш.: Сама по себе эта способность доставлять себе удовольствие обусловлена нашим эволюционным прошлым. Если бы она служила саморазрушению, то нас бы здесь уже не было!

А. К.: Несомненно. Но я думаю, что механизм, позволяющий определить, соответствует ли функция оценки поставленной цели, предполагает все же чувственный уровень. Он действительно необходим для того, чтобы мы могли оценивать то, что с нами происходит. Степень адаптированности функции оценки к поставленной цели может измеряться лишь удовольствием, которое доставляет нам достижение этой цели. Представим себе, например, шахматиста, который, вопреки своей способности выполнять вычисления не хуже компьютера, выбирает вдруг неподходящую функцию оценки. Естественно, он испытает большое разочарование, когда увидит, что проигрывает партию за партией. Выбор неподходящей функции оценки доставит ему одно лишь неудовольствие. Впрочем, оно проявится только в конце партии, не раньше. Неадекватная функция оценки помешает шахматисту понять в ходе игры, что его позиция плоха и что он вот-вот проиграет. Однако по результату игры он, безусловно, сообразит, что его функция оценки никуда не годится.

Ж.-П. LLL: Не будем забывать о том, что и сама внутренняя система оценки (удовольствие/неудовольствие) предопределена эволюционным прошлым вида (см. рис. 33). Эти ощущения уже предопределены в качестве реакций на сигналы внешнего и внутреннего мира.

А. К.: Современные компьютеры предполагают наличие одной лишь предопределенной интенциональности. Поэтому и остаются на первом уровне.