1.3. Вычисление и сознательное мышление

We use cookies. Read the Privacy and Cookie Policy

1.3. Вычисление и сознательное мышление

В чем же здесь загвоздка? Неужели все дело лишь в вычислительных способностях, в скорости и точности работы, в объеме памяти или, быть может, в конкретном способе «связи» отдельных структурных элементов? С другой стороны, не может ли наш мозг выполнять какие-то действия, которые вообще невозможно описать через вычисление? Каким образом можно поместить в такую вычислительную картину нашу способность к осмысленному осознанию — счастья, боли, любви, какого-либо эстетического переживания, желания, понимания и т.п.? Будут ли компьютеры будущего действительно обладать разумом? Влияет ли обладание сознательным разумом на поведение индивида, и если влияет, то как именно? Имеет ли вообще смысл говорить о таких вещах на языке научных терминов; иными словами, обладает ли наука достаточной компетентностью для того, чтобы рассматривать вопросы, относящиеся к сознанию человека?

Мне кажется, что можно говорить, как минимум, о четырех различных точках зрения{3} — или даже крайностях, — которых разумный индивид может придерживаться в отношении данного вопроса:

A. Всякое мышление есть вычисление; в частности, ощущение осмысленного осознания есть не что иное, как результат выполнения соответствующего вычисления.

B. Осознание представляет собой характерное проявление физической активности мозга; хотя любую физическую активность можно моделировать посредством той или иной совокупности вычислений, численное моделирование как таковое не способно вызвать осознание.

C. Осознание является результатом соответствующей физической активности мозга, однако эту физическую активность невозможно должным образом смоделировать вычислительными средствами.

D. Осознание невозможно объяснить в физических, математических и вообще научных терминах.

Точка зрения D, полностью отрицающая взгляды физикалистов и рассматривающая разум как нечто абсолютно неподвластное языку науки, свойственна мистикам; и, по крайней мере, в какой-то степени, такое мировоззрение, видимо, сродни религиозной доктрине. Лично я считаю, что связанные с разумом вопросы, пусть даже и не объясняемые должным образом в рамках современного научного понимания, не следует рассматривать как нечто, чего науке никогда не постичь. Пусть на данный момент наука и не способна сказать в отношении этих вопросов своего веского слова, со временем ее возможности неминуемо расширятся настолько, что в ней найдется место и для таких вопросов, причем не исключено, что в процессе такого расширения изменятся и сами ее методы. Отбрасывая мистицизм с его отрицанием научных критериев в пользу научного познания, я все же убежден, что и в рамках усовершенствованной науки вообще и математики в частности найдется немало загадок, среди которых не последнее место займет тайна разума. К некоторым из этих идей я еще вернусь в следующих главах книги, сейчас же достаточно будет сказать, что согласиться с точкой зрения D я никак не могу, поскольку твердо намерен двигаться вперед, следуя пути, проложенному наукой. Если мой читатель питает сильное убеждение, что истинным является именно пункт D, в той или иной его форме, я попрошу его потерпеть еще немного и посмотреть, сколько нам удастся пройти вместе по дороге науки, — и попытаться при этом понять, куда, по моему убеждению, эта дорога в конечном счете нас приведет.

Теперь обратимся к противоположной крайности: к точке зрения A. Эту точку зрения разделяют сторонники так называемого сильного, или жесткого, искусственного интеллекта (ИИ); иногда для обозначения такой позиции употребляется также термин функционализм{4}, хотя некоторые распространяют термин «функционализм» еще и на определенные варианты пункта C. Одни считают A единственно возможной точкой зрения, которую допускает сугубо научное отношение. Другие воспринимают A как нелепость, которая вряд ли стоит сколь-нибудь серьезного внимания. Существует, несомненно, множество различных вариантов позиции A. (Длинный список альтернативных версий вычислительной точки зрения приводится в [344].) Некоторые из них отличаются лишь различным пониманием того, что следует считать «вычислением» или «выполнением вычисления». Есть и такие приверженцы A, которые вообще не считают себя «сторонниками сильного ИИ», поскольку придерживаются принципиально иного взгляда на интерпретацию термина «вычисление», нежели та, что предлагается в традиционном понятии ИИ (см.[112]). Я рассмотрю эти вопросы подробнее в §1.4. Пока же достаточно будет понимать под «вычислением» такую операцию, какую способны выполнять обычные универсальные компьютеры. Другие сторонники позиции A могут расходиться в интерпретации значения терминов «осмысление» или «осознание». Некоторые отказываются признавать само существование такого феномена, как «осмысленное осознание», тогда как другие собственно феномен признают, однако рассматривают его лишь как своего рода «эмергентное свойство» (см. также §4.3 и §4.4), которое проявляется всякий раз, когда выполняемое вычисление имеет достаточную степень сложности (или громоздкости, или самоотносимости, или чего угодно еще). В §1.12 я приведу свою собственную интерпретацию терминов «осознание» и «осмысление». Пока же любые расхождения в возможной их интерпретации не будут иметь особой важности для наших рассуждений.

Аргументы, приведенные мной в НРК, были направлены, главным образом, против точки зрения A, или позиции сильного ИИ. Один только объем этой книги должен показать, что, хотя лично я не верю в истинность A, я все же рассматриваю эту точку зрения как реальную возможность, на которую стоит обратить серьезное внимание, A есть следствие предельно операционного подхода к науке, предполагающего, что абсолютно все феномены физического мира можно описать одними лишь вычислительными методами. В одной из крайних вариаций такого подхода сама Вселенная рассматривается, по существу, как единый гигантский компьютер{5}, причем «осмысленные осознания», формирующие, в сущности, наш с вами сознательный разум, вызываются посредством соответствующих субвычислений, выполняемых этим компьютером.

Я полагаю, что эта точка зрения (согласно которой физические системы следует считать простыми вычислительными объектами) отчасти основывается на значительной и постоянно растущей роли вычислительных моделей в современной науке и отчасти из убеждения в том, что сами физические объекты — это, в некотором смысле, всего лишь «информационные модели», подчиняющиеся математическим, вычислительным законам. Большая часть материи, из которой состоят наше тело и мозг, постоянно обновляется — неизменными остаются лишь их модели. Более того, и сама материя, судя по всему, ведет преходящее существование, поскольку ее можно преобразовать из одной формы в другую. Даже масса материального тела, которая является точной физической мерой количества материи, содержащегося в теле, может быть при определенных обстоятельствах превращена в чистую энергию (в соответствии со знаменитой формулой Эйнштейна E = mc2). Следовательно, и материальная субстанция, по-видимому, способна превращаться в нечто, обладающее лишь теоретико-математической реальностью. Более того, если верить квантовой теории, материальные частицы — это не что иное, как информационные «волны». (На этих вопросах мы более подробно остановимся во второй части книги.) Таким образом, сама материя есть нечто неопределенное и недолговечное, поэтому вполне разумно предположить, что постоянство человеческого «я», возможно, больше связано с сохранением моделей, нежели реальных частиц материи.

Даже если мы не считаем возможным рассматривать Вселенную всего лишь как компьютер, к точке зрения A нас могут подтолкнуть более практические, операционные соображения. Предположим, что перед нами управляемый компьютером робот, который отвечает на вопросы так же, как это делал бы человек. Мы спрашиваем его, как он себя чувствует, и обнаруживаем, что его ответы полностью соответствуют нашим представлениям об ответах на подобные вопросы разумного существа, действительно обладающего чувствами. Он говорит нам, что способен к осознанию, что ему весело или грустно, что он воспринимает красный цвет и что его волнуют вопросы «разума» и «собственного я». Он может даже выразить озадаченность: следует ли ему допустить, что и других существ (в частности, людей) нужно рассматривать как обладающих сознанием, сходным с тем, на обладание которым претендует он сам. Что помешает нам поверить его утверждениям о том, что он ощущает, любопытствует, радуется, испытывает боль, особенно если учесть, что о других людях мы знаем ничуть не больше и все же считаем их обладающими сознанием? Мне кажется, что операционный аргумент все же обладает значительной силой, хотя его и нельзя считать решающим. Если все внешние проявления сознательного разума, включая ответы на непрекращающиеся вопросы, действительно могут быть полностью воспроизведены системой, управляемой исключительно вычислительными алгоритмами, то мы имеем полное право допустить, что в рамках рассматриваемой ситуации такая модель должна содержать и все внутренние проявления разума (включая собственно сознание).

Принимая или отвергая такой вывод из вышеприведенного рассуждения, которое в основе своей составляет суть так называемого теста Тьюринга{6}, мы тем самым определяем свою принадлежность к тому или иному лагерю — именно здесь проходит граница между позициями A и B. Согласно A, любого управляемого компьютером робота, который после достаточно большого количества заданных ему вопросов ведет себя так, словно он обладает сознанием, следует фактически считать обладающим сознанием. Согласно B, робот вполне может вести себя точно так же, как обладающий сознанием человек, при этом реально не имея и малой доли этого внутреннего качества. И A, и B сходятся в том, что управляемый компьютером робот может вести себя так, как ведет себя обладающий сознанием человек. C же, напротив, не допускает и малейшей возможности того, что когда-либо может быть реализована эффективная модель обладающего сознанием человека в виде управляемого компьютером робота. Таким образом, согласно C, после некоторого достаточно большого количества вопросов реальное отсутствие сознания у робота так или иначе проявится. Вообще говоря, C является в гораздо большей степени операционной точкой зрения, нежели B, и в этом отношении она больше похожа на A, чем на B.

Так что же представляет собой позиция B? Я думаю, что B — это, вероятно, именно та точка зрения, которую многие полагают «научным здравым смыслом». Описываемый ею искусственный интеллект еще называют слабым (или мягким) ИИ. Подобно A, она утверждает, что все физические объекты этого мира должны вести себя в соответствии с некоторыми научными положениями, которые, в принципе, допускают создание вычислительной модели этих объектов. С другой стороны, эта точка зрения уверенно отрицает мнение операционистов, согласно которому любой объект, внешне проявляющий себя как сознательное существо, непременно обладает сознанием. Как отмечает философ Джон Серл{7}, вычислительную модель физического процесса никоим образом не следует отождествлять с самим процессом, происходящим в действительности. (Компьютерная модель, например, урагана — это совсем не то же самое, что и реальный ураган!) Согласно взгляду B, наличие или отсутствие сознания очень сильно зависит от того, какой именно физический объект «осуществляет мышление» и какие физические действия он при этом совершает. И только потом следует рассмотреть конкретные вычисления, которых требуют эти действия. Таким образом, активность биологического мозга может вызвать осознание, а вот его точная электронная модель вполне может оказаться на это неспособной. Это различие, по B, совсем не обязательно должно оказаться различием между биологией и физикой. Однако крайне важным остается реальное материальное строение рассматриваемого объекта (скажем, мозга), а не просто его вычислительная активность.

Позиция C, на мой взгляд, ближе всех к истине. Она подразумевает более операционный подход, нежели (B, так как утверждает, что существуют такие внешние проявления обладающих сознанием объектов (скажем, мозга), которые отличаются от внешних проявлений компьютера: внешние проявления сознания невозможно должным образом воспроизвести вычислительными методами. Свои основания для такой убежденности я приведу несколько позже. Поскольку C, как и B, не отвергает позиции физикалистов, согласно которой разум возникает в результате проявления активности тех или иных физических объектов (например, мозга, хотя это и не обязательно), C подразумевает, что не всякую физическую активность можно должным образом смоделировать вычислительными методами.

Допускает ли современная физика возможность существования процессов, которые принципиально невозможно смоделировать на компьютере? Если мы надеемся получить на этот вопрос математически строгий ответ, то нас ждет разочарование. По крайней мере, лично мне такой ответ неизвестен. Вообще, с математической точностью здесь дело обстоит несколько запутаннее, чем хотелось бы{8}. Однако сам я убежден в том, что подобные невычислимые процессы следует искать за пределами тех областей физики, которые описываются известными на настоящий момент физическими законами. Далее в этой книге я вновь перечислю некоторые весьма серьезные — причем именно физические — доводы в пользу того, что мы действительно нуждаемся в новом взгляде на ту область, которая лежит между уровнем микроскопических величин, где господствуют квантовые законы, и уровнем «обычных» размеров, подвластным классической физике. Хотя, надо сказать, далеко не все современные физики единодушно уверены в необходимости подобной новой физической теории.

Таким образом, существуют, как минимум, две различные точки зрения, которые можно отнести к категории C. Одни сторонники C утверждают, что наше современное физическое понимание абсолютно адекватно, следует лишь обратить в рамках традиционной теории более пристальное внимание на некоторые тонкие типы поведения, которые вполне могут вывести нас за пределы того, что целиком и полностью объяснимо с помощью вычислений (некоторые из таких типов мы рассмотрим ниже — например, хаотическое поведение (§1.7), некоторые тонкости непрерывного действия в противоположность дискретному (§1.8), квантовая случайность). Другие же, напротив, полагают, что современная физика, в сущности, не располагает должными средствами для реализации невычислимости требуемого типа. Далее я представлю некоторые веские, на мой взгляд, доводы в пользу принятия позиции C именно в этом, более строгом, ее варианте, который предполагает создание фундаментально новой физики.

Кое-кто попытался было объявить, что эти соображения отправляют меня прямиком в лагерь сторонников точки зрения D, поскольку я утверждаю, что для отыскания хоть какого-то объяснения феномену сознания нам придется выйти за пределы известной науки. Однако между упомянутым строгим вариантом C и точкой зрения D есть существенная разница, в частности, на уровне методологии. В соответствии с C, проблема осмысленного осознания носит, в сущности, научный характер, даже если подходящей наукой мы пока что не располагаем. Я всецело поддерживаю эту точку зрения; я полагаю, что ответы на интересующие нас вопросы нам следует искать именно с помощью научных методов — разумеется, должным образом усовершенствованных, пусть даже о конкретной природе необходимых изменений мы, возможно, имеем на данный момент лишь самое смутное представление. В этом и состоит ключевая разница между C и D, насколько бы похожими ни казались нам соответствующие мнения относительно того, на что способна современная наука.

Определенные выше точки зрения A, B, CD представляют собою крайности, или полярные точки возможных позиций, которых может придерживаться тот или иной индивидуум. Я вполне допускаю, что кому-то может показаться, что их собственные взгляды не подходят ни под одну из перечисленных категорий, а лежат где-то между ними либо противоречат некоторым из них. Безусловно, между такими, например, крайними точками зрения, как A и B, можно разместить множество различных промежуточных точек зрения (см. [344]). Существует даже мнение (весьма, кстати, широко распространенное), которое лучше всего определяется как комбинация A и D (или, быть может, B и D, — предусматриваемая им возможность еще сыграет немаловажную роль в наших дальнейших размышлениях. Согласно этому мнению, мозг действительно работает как компьютер, однако компьютер настолько невообразимой сложности, что его имитация не под силу человеческому и научному разумению, ибо он, несомненно, является божественным творением Господа — «лучшего в мире системотехника», не иначе!{9}