ГЛАВА XX: Странные Петли или Запутанные Иерархии

ГЛАВА XX: Странные Петли или Запутанные Иерархии

Могут ли машины быть оригинальными?

В ВОСЕМНАДЦАТОЙ ГЛАВЕ я описал удачную шашечную программу Артура Самуэля, которая была способна обыграть своего создателя. Интересно послушать, что говорит по поводу компьютеров и оригинальности сам автор этой программы. Следующие отрывки взяты из опровержения на статью Норберта Винера, написанного Самуэлем в 1960 году.

Я убежден в том. что машины не могут быть оригинальными в том смысле, какой вложил в это понятие Винер, когда он написал: «Машины могут превосходить некоторые ограничения их создателей и уже это делают. Благодаря этому, они могут быть одновременно эффективными и опасными.»… Машина — это не вызванный из бутылки джинн; она не работает с помощью магии. У нее нет собственной воли, и, вопреки тому, что говорит Винер, из нее не выходит ничего, что не было бы в нее заложено (исключая, разумеется, редкие случаи поломок).

«Намерения», которые выказывает машина, на самом деле являются намерениями человека-программиста, оговоренными заранее, или же вторичными намерениями, выведенными из первых согласно правилам, установленным тем же программистом. Мы можем даже, подобно Винеру, предвидеть некий высший уровень абстракции, на котором программа не только будет модифицировать вторичные намерения, но и правила, используемые для их деривации — или же будет варьировать способы самой этой модификации… и так далее. Можно даже вообразить, что машина сумеет построить другую машину с улучшенными возможностями. Однако — и это важно помнить — машина не может и не будет проделывать ничего подобного, пока в нее не введут соответствующие инструкции. Существует и логически должен всегда существовать пробел между (i) любым конечным продуктом разработки человеческих желаний и (ii) развитием в машине ее собственной воли. Думать иначе — значит либо верить в магию или считать, что человеческая свободная воля — это иллюзия и что человеческие действия так же механистичны, как и действия машины. Может быть, и статья Винера и мое опровержение были механистически предопределены — но я отказываюсь в это верить.[87]

Это напоминает мне Диалог Кэрролла («Двухголосная инвенция») и вот почему. Самуэль основывает свой аргумент против машинного сознания (или воли) на понятии, что любое механическое проявление воли с необходимостью потребует бесконечного регресса. Таким же образом, Кэрроллова Черепаха пытается доказать, что даже простейшее рассуждение не может быть проведено без обращения к неким правилам высшего уровня, разрешающим данное рассуждение. Но поскольку это, в свою очередь, тоже шаг рассуждения, то приходится обращаться к правилам еще более высокого уровня — и так далее. Заключение: рассуждения приводят к бесконечному регрессу.

Разумеется, в доводах Черепахи есть ошибка, и я думаю, что аналогичная ошибка имеется и в рассуждениях Самуэля. Чтобы показать, в чем эти ошибки похожи, я сыграю роль «адвоката дьявола», пытаясь доказать точку зрения, противоположную моей собственной. (Поскольку, как известно, Бог помогает тем, кто помогает себе сам, то дьявол, вероятно, помогает тем и только тем, кто сам себе не помогает. Помогает ли Дьявол сам себе?) Вот мои «дьявольские» заключения, выведенные из Диалога Кэрролла:

Заключение о том, что рассуждения невозможны, неприложимо к людям, поскольку всем известно, что людям все-таки удается проводить множество рассуждений, несмотря на все высшие уровни. Это показывает, что люди функционируют, не нуждаясь в правилах: Люди — это пример «неформальной системы». С другой стороны, этот аргумент действителен, когда мы применяем его против механических рассуждающих систем, поскольку они всегда подчиняются правилам. Такие системы не смогут начать работать, пока у них не будет мета-правил, указывающих им, когда применять правила, мета-мета-правил, говорящих, когда применять мета-правила, и так далее. Таким образом, мы можем заключить, что умение рассуждать не может быть воплощено в машине, — это исключительно человеческая черта.

Где в этих доводах ошибка? В предположении, что машина не способна начать действовать без правила, говорящего ей, как это сделать. В действительности, машины обходят глупые Черепахины возражения так же легко, как и люди, и по той же самой причине: как люди, так и машины сделаны из аппаратуры, которая действует сама по себе, согласно законам физики. Вовсе не надо опираться на «правила, говорящие, как использовать правила», поскольку правила низшего уровня — не имеющие никаких «мета» перед ними — встроены в саму аппаратуру и действуют самостоятельно. Вывод: Диалог Кэрролла ничего не говорит нам о разнице между людьми и машинами. (На самом деле рассуждения возможно механизировать.)

Теперь перейдем к доводам Самуэля. В карикатурном изображении, его точка зрения сводится к следующему:

Нельзя сказать, что компьютер «хочет» что-либо сделать, поскольку он был запрограммирован кем-то другим. Только в том случае, если бы он мог запрограммировать сам себя, начиная с нуля, мы могли бы сказать, что компьютер обладает собственной волей.

В своих доводах Самуэль встает на позицию Черепахи, заменяя «рассуждения» на «волю». Он хочет сказать, что за любым механизмом желания должен стоять либо бесконечный регресс, либо, что еще хуже, закрытая петля. Если у компьютеров нет собственной воли именно по этой причине, то что можно сказать о людях? Тот же самый критерий позволяет заключить, что:

человек обладает собственной волей только тогда, когда он сделал себя сам и выбрал собственные желания (а также выбрал выбор собственных желаний и так далее).

Это заставляет нас хорошенько подумать над тем. откуда появляются наши желания. Если вы не верите в наличие души, то. возможно, скажете, что они зарождаются в вашем мозгу — аппаратуре, которую вы не создавали и не выбирали. Тем не менее, от этого ваше чувство, что вы желаете чего-то определенного, не становится слабее. Вы — вовсе не «само-программирующий объект» (что бы это ни значило); тем не менее у вас все же есть собственная воля, зарождающаяся на физическом уровне вашего интеллекта. Таким же образом, у машин когда-нибудь будет собственная воля, несмотря на тот факт, что никакая магическая «само-программирующая» программа не появляется в их памяти из ничего, словно по мановению волшебной палочки. У них будет воля по той же причине, что и у людей — как следствие организации и структуры многих уровней аппаратуры и программного обеспечения. Вывод: доводы Самуэля ничего не говорят нам о разнице между людьми и машинами. (На самом деле, волю возможно механизировать.)

Любая запутанная иерархия основана на неизменном уровне

Сразу после «Двухголосной инвенции» я написал, что центральной темой этой книги будет обсуждение вопроса «подчиняются ли слова и мысли формальным правилам?» Одной из моих основных задач было показать многоуровневость интеллекта и мозга и объяснить, почему конечным ответом на этот вопрос является «да, если спуститься на низший уровень — уровень аппаратуры — и найти там правила.»

Точка зрения Самуэля затронула некую тему, которую я хочу обсудить подробнее. Вот она: думая, мы, безусловно, меняем наши мысленные правила, а также правила, меняющие правила, и так далее — но это, образно говоря, правила «программ». При этом фундаментальные правила, правила «аппаратуры», остаются неизменными. Нейроны всегда действуют одинаково. Мы не можем уговорить нейроны повести себя «ненейронным» образом; все, что нам удается сделать, это поменять тему или стиль наших мыслей. Подобно Ахиллу в «Прелюдии» и «Муравьиной фуге», мы имеем доступ только к нашим мыслям, а не к нейронам. Правила программ могут варьироваться на разных уровнях — правила аппаратуры всегда остаются одними и теми же. Именно этим фактом и объясняется гибкость программ! Это вовсе не парадокс, а фундаментальный, простой факт, касающийся механизмов разума.

Именно различие между само-модифицирующимися программами и неизменной аппаратурой будет темой последней главы этой книги. Некоторые из последующих вариаций на это тему могут показаться довольно надуманными; однако надеюсь, что к тому моменту, когда я завершу цикл, вернувшись к мозгу, интеллекту и чувству самосознания, вы сможете увидеть неизменную основу в каждой из этих вариаций.

В этой главе я хочу поделиться с читателем теми образами, которые помогают мне понять, каким образом сознание вырастает из джунглей нейронов. Надеюсь, что эти интуитивные образы окажутся полезными и немного помогут читателям в определении их собственных представлений о том, что заставляет функционировать разум. Может быть, возникающие в моем мозгу туманные образы мозга и образов послужат катализатором для образования более четких образов мозга и образов в мозгу моих читателей.

Модифицирующаяся игра

Итак, первая вариация: игры, в которых очередной игрок может изменять правила. Представьте себе шахматы. Ясно, что правила здесь остаются неизменными, а меняется только позиция на доске после каждого хода. Но давайте теперь рассмотрим такой вариант шахмат, в котором очередной игрок имеет право либо сделать ход, либо поменять правила. Каким образом? Произвольно? Можно ли превратить шахматы, скажем, в шашки? Понятно, что подобная анархия была бы бессмысленна — должны существовать некоторые ограничения. Например, в одной из версий будет позволено изменять ход коня: вместо «1 и затем 2» конь будет передвигаться на «m» и затем «n» клеток, где m и n — любые натуральные числа; очередной игрок сможет увеличивать или уменьшать на 1 либо m либо n. Таким образом, ход коня сможет меняться от 1-2 до 1-3, до 0-3, до 0-4, до 0-5. до 1-5, до 2-5… Вместо этого могут существовать правила, модифицирующие ход слона и других фигур. Другие правила могут добавлять новые клетки к доске, или стирать старые…

У нас будет два уровня правил, одни говорят нам, как ходят фигуры, и другие — как изменяются правила. Таким образом, у нас есть правила и мета-правила. Следующий шаг очевиден: введение мета-мета-правил, говорящих нам, как менять мета-правила. Однако вовсе не очевидно, как именно это сделать. Правила, меняющие ходы фигур, придумать легко, поскольку фигуры двигаются в формализованном пространстве шахматной доски. Если бы нам удалось придумать простую формальную запись для правил и мета-правил, тогда обращаться с ними стало бы так же легко, как с цепочками формул или даже с шахматными фигурами. Доводя эту идею до логической крайности, мы могли бы представить, что правила и мета-правила могут быть изображены в виде позиций на вспомогательной шахматной доске. Тогда каждая позиция сможет, в зависимости от вашей интерпретации, быть понята как момент игры, набор правил или набор мета-правил. Разумеется, оба игрока должны будут заранее договориться о том, как интерпретировать нотацию.

В этой игре у нас может быть любое количество дополнительных досок: доска для игры, для правил, для мета-правил, для мета-мета-правил и так далее, пока нам не надоест. Очередной игрок может ходить на любой из этих досок, кроме доски самого высшего уровня. Правила при этом определены доской «ступенькой выше». Несомненно, оба игрока вскоре запутаются из-за того, что почти все — но не всё! — может меняться. По определению, доска высшего уровня должна оставаться неприкасаемой, поскольку у вас нет правил, говорящих вам, как ее менять. Это — неизменный уровень. Неизменны также условия, по которым изменяются другие доски, соглашение играть по очереди, условие, что очередной игрок может менять что-то только на одной из досок — вы найдете здесь и другие неизменные элементы, если рассмотрите эту идею более подробно.

Возможно пойти гораздо дальше, если убрать опорные ориентиры. Начнем действовать постепенно… Сначала сведем весь набор досок к одной-единственной доске. Что это означает? Что эту доску можно будет интерпретировать двояко как (1) фигуры, которые надо двигать и (2) правила ходов. Игроки, двигающие фигуры, тем самым меняют правила! Таким образом, правила постоянно меняют сами себя. Здесь слышен отголосок типогенетики (и настоящей генетики!) Различие между игрой, правилами, мета-правилами и мета-мета-правилами оказывается стерто. То, что когда-то было четкой иерархической системой, превратилось в Странную Петлю или Запутанную Иерархию. Ходы меняют правила, правила определяют ходы — и так далее, по кругу. Здесь все еще есть различные уровни, но разница между «высшими» и «низшими» уровнями уже исчезла.

При этом часть того, что раньше было неприкасаемым, стало возможно модифицировать. Но в системе все еще осталось множество неизменных вещей. Так же как и раньше, между вами и вашим противником существуют некие соглашения, при помощи которых вы интерпретируете доску как определенный набор правил, соглашение играть по очереди и другие негласные условия. Заметьте, что теперь понятие различных уровней изменилось довольно неожиданным образом. У нас есть Неизменный уровень — давайте назовем его уровень Н — на котором находятся соглашения, касающиеся интерпретации, и Запутанный уровень — уровень З — на котором находится Запутанная Иерархия. Эти два уровня все еще иерархичны: уровень Н управляет тем, что происходит на уровне З, в то время как уровень З не затрагивает и не может затронуть уровня Н. Несмотря на то, что сам уровень З представляет из себя Запутанную Иерархию, он все же подчиняется набору правил, находящихся за его пределами. Это очень важный момент.

Как вы, несомненно, уже предположили, ничто не мешает нам сделать «невозможное» — а именно, соединить уровень Н с уровнем 3. Для этого надо только поставить сами условия интерпретации в зависимость от положения на шахматной доске. Однако для того, чтобы провести подобное «сверх-соединение», вам и вашему противнику придется выработать некие новые соглашения, соотносящие два уровня — и это создаст новый неизменный уровень сверху «сверхсмешанного» (или под ним, если вам так больше нравится). И это может продолжаться до бесконечности. «Скачки», которые при этом совершаются, напоминают те, что были описаны в Диалоге «Праздничная Кантатата» и в повторной Гёделизации, примененной к разнообразным улучшенным вариантам ТТЧ. Каждый раз, когда вам кажется, что вы подошли к концу, возникает новый вариант выхода из системы; чтобы его заметить, нужно некоторое творческое воображение.

Снова авторский треугольник

Я не собираюсь здесь прослеживать эту странную тему усложняющихся комбинаций систем, которые могут возникнуть в само-изменяющихся шахматах. Моей целью было показать читателю графически, что в каждой системе есть некий «защищенный» уровень, на который не действуют правила других уровней, какими бы запутанными не были их взаимодействия между собой. Забавная загадка из главы IV иллюстрирует эту мысль в немного ином контексте. Может быть, она застанет вас врасплох:

Рис. 134. «Авторский треугольник».

Перед нами три автора: З, Ч и Э. З существует только в романе, написанном Ч. Аналогично, Ч — только герой романа, написанного Э. Что удивительно, Э — тоже не более как персонаж романа — чей автор, естественно, З. Может ли существовать такой авторский треугольник?

Разумеется, может! Но для этого все трое должны быть персонажами четвертого романа, написанного X. Можно сказать, что З-Ч-Э представляет из себя Странную Петлю или Запутанную Иерархию, а автор X находится в неизменном пространстве, вне той системы, в которой происходит эта путаница. Хотя З, Ч и Э имеют прямой или косвенный доступ друг к другу и могут напакостить один другому в своих романах, ни один из них не может затронуть жизнь X. Они даже не могут вообразить его, так же, как вы не в состоянии представить себе автора того романа, который выдумал в качестве своего героя вас. Если бы я хотел ввести в схему автора X, я нарисовал бы его вне страницы. Разумеется, это было бы проблематично, поскольку изображение предмета с необходимостью помещает его на странице… Так или иначе, X в действительности находится вне мира, в котором обитают З, Ч и Э, и должен быть представлен соответствующим образом.

Рис. 135. М. К. Эшер. Рисующие руки, (литография, 1948).

Эшеровы «Рисующие руки»

Другая классическая вариация на эту тему — картина Эшера «Рисующие руки» (Рис. 135). Здесь левая рука (ЛР) рисует правую руку (ПР), в то время как ПР рисует ЛР. Снова уровни, обычно понимаемые как иерархические — рисующее и рисуемое — замыкаются друг на друга, создавая Запутанную Иерархию. Этот пример, разумеется, подтверждает идею данной главы, поскольку за ним стоит ненарисованная, но рисующая рука самого Эшера — создателя как ЛР, так и ПР. Эшер стоит вне пространства этих рук, и это хорошо видно на рис. 136. В верхней части этого схематического варианта картины Эшера вы видите Странную Петлю или Запутанную Иерархию, а в нижней — Неизменный уровень, позволяющий ее существование. Мы могли бы еще раз «Эшеризировать» картину Эшера. сфотографировав рисующую ее руку… и так далее.

Рис. 136. Абстрактная диаграмма, представляющая картину Эшера «Рисующие руки». Внизу приведено ее решение.

Мозг и разум: переплетение нейронов, лежащее в основе переплетения символов

Теперь мы можем соотнести эту картину с мозгом, а также с программами ИИ. Когда мы думаем, символы в нашем мозгу активируют другие символы, и все они взаимодействуют гетерархически. Более того, символы могут заставить друг друга измениться внутренне и стать чем-то вроде программ, действующих на другие программы. Благодаря Запутанной Иерархии символов, у нас создается иллюзия, что неизменяемого уровня в мозгу не существует. Мы думаем, что подобного уровня нет, потому что он для нас невидим.

Если бы было возможно изобразить это схематически, получился бы гигантский лес символов, соединенных друг с другом перепутанными линиями, вроде лиан в джунглях. Это — высший уровень, где рождаются и развиваются мысли, тот ускользающий уровень разума, который аналогичен рисующим друг друга рукам. Внизу на схеме помещалось бы изображение мириад нейронов — «неизменного субстрата,» лежащего в основе переплетения символов и аналогичного «движущей силе» — Эшеру. Интересно, что в буквальном смысле сам этот нижний уровень тоже представляет из себя переплетение: миллиарды клеток и сотни миллиардов аксонов, соединяющих клетки между собой.

В этом интересном случае сложное переплетение на уровне программ основано на переплетении на уровне самой аппаратуры — нейронов. Но Запутанной Иерархией можно назвать лишь переплетение символов. Переплетение нейронов — это «простое» переплетение. Это различие подобно разнице между Странными Петлями и обратной связью, которое я описал в главе XVI. Запутанная Иерархия получается тогда, когда строго иерархичные на первый взгляд уровни внезапно начинают действовать друг на друга в нарушение всех правил иерархии. Элемент неожиданности здесь очень важен; именно поэтому я называю Странные Петли «странными». Простое переплетение, такое, как обратная связь, не нарушает установленных различий между уровнями. Например, когда вы стоите под душем и моете правую руку левой рукой и наоборот, это в порядке вещей. Эшер не случайно решил нарисовать руки, рисующие руки!

События, подобные моющим друг друга рукам, случаются в мире очень часто, и мы их обычно не замечаем. Я говорю что-то вам, а вы в ответ говорите что-то мне. Парадокс? Вовсе нет; наше восприятие друг друга с самого начала не включает никакой иерархии, поэтому здесь нет ничего странного.

С другой стороны, в языке получаются странные петли тогда, когда он прямо или косвенно говорит сам о себе. При этом нечто, лежащее внутри системы, выходит из нее и воздействует на систему так, словно оно находится вовне. Возможно, что нас смущает некое неопределенное чувство топологической неправильности: стирание различия между внутренним и внешним, как в знаменитой «бутыли Клейна». Хотя система абстрактна, наш мозг создает для нее пространственный образ с некоторой мысленной топологией. Вернемся к путанице символов. Если глядеть только на нее и игнорировать нейронный фундамент, то в ней можно увидеть самопрограммирующий объект — точно так же, как глядя на «Рисующие руки», мы видим саморисующую картину и на мгновение верим этой иллюзии, забывая об Эшере. В случае картины эта иллюзия рассеивается мгновенно — но в случае человеческого разума она оказывается весьма стабильной. Мы чувствуем, что мы самопрограммирующие. Более того, мы и не можем чувствовать иначе, поскольку мы защищены от низшего уровня, уровня нейронных сплетений. Нам кажется, что наши мысли живут в своем собственном пространстве, создавая новые мысли и изменяя старые; мы не замечаем помогающих этому нейронов! Но так и должно быть. Мы просто не можем их заметить.

Аналогичная двусмысленность может произойти с программами ЛИСПа, которые умеют действовать на самих себя, изменяя собственную структуру. Посмотрев на них на уровне ЛИСПА, вы можете сказать, что они меняют сами себя; но, сменив уровни и представив программы ЛИСПА как данные для интерпретатора ЛИСПа (см. главу X), вы увидите, что единственная работающая программа здесь — интерпретатор и что все изменения — не более как изменения неких данных. Сам интерпретатор ЛИСПа защищен от изменений.

То, каким образом вы описываете подобные запутанные ситуации, зависит от того, насколько далеко вы при этом отходите в сторону от системы. Глядя издалека, часто можно увидеть разгадку, позволяющую разобраться в путанице.

Странные Петли в правительстве

Интереснейшее поле, где перекрещиваются различные иерархии — это правительство и, в особенности, суд. Обычно судящиеся стороны представляют свои аргументы, и судья решает, кто прав. Судья находится на более высоком уровне, чем судящиеся. Но когда в тяжбе оказываются замешаны сами суды, могут происходить странные вещи. Как правило, существует некий высший суд, находящийся вне данного дела. Скажем, если два районных суда начнут борьбу друг с другом, требуя справедливости, всегда найдется какая-нибудь высшая инстанция (в этом случае, областной суд), аналогичный неприкасаемому уровню интерпретации соглашений, который мы обсуждали в нашей вариации шахмат.

Но что произойдет, если замешанным в неприятности с законом окажется сам Верховный суд? Подобное чуть не случилось в Соединенных Штатах в период Уотергэйта. Президент пригрозил, что он подчинится только «окончательному» решению Верховного суда, — а затем сказал, что никто, кроме него самого, не имеет права решать, что является «окончательным». Эта угроза так и не была приведена в исполнение; но если бы такое произошло, результатом было бы монументальное столкновение двух уровней правительства, каждый из которых с некоторым правом может считать себя «выше» другого, — и кто должен был бы решать, кто здесь прав? Конгресс тут помочь не мог, поскольку, хотя Конгресс и может приказать Президенту подчиниться Верховному суду, Президент может отказаться, ссылаясь на свое право не подчиняться Верховному суду (и Конгрессу!) в определенных обстоятельствах. Это создало бы беспрецедентный тип судебной тяжбы, нарушающий всю систему, поскольку это было бы так неожиданно — так Запутанно — так Странно!

Ирония здесь в том, что когда ваша голова упирается в потолок и вы уже не можете выпрыгнуть из системы, обратившись к высшей инстанции, ваша единственная надежда заключается в силах, которые, не будучи так четко определены правилами, сами являются единственным источником правил высшего уровня. Я имею в виду правила низшего уровня — в данном случае, общественное мнение. Необходимо помнить, что в американском обществе юридическая система в некотором смысле представляет из себя вежливый жест, одобренный миллионами людей, и что ее можно иногда обойти с такой же легкостью, с какой река выходит из берегов. Результат на первый взгляд кажется анархией — но у анархии не меньше правил, чем у любого цивилизованного общества. Разница только в том, что они действуют снизу вверх, а не сверху вниз. Те, кто интересуется анархией, могут попытаться найти правила, по которым развиваются анархические ситуации; скорее всего, подобные правила существуют.

Здесь уместна аналогия из области физики. В этой книге я уже упоминал о том, что газы, находящиеся в равновесии, повинуются простым законам, соотносящим их температуру, давление и объем. Однако газ может нарушить эти законы (так же, как Президент может нарушить законы), когда он выходит из состояния равновесия. Описывая систему, не находящуюся в равновесии, физики могут опираться только на статистическую механику, то есть немакроскопический уровень описания. Окончательное объяснение поведения газа всегда лежит на молекулярном уровне, так же, как окончательное объяснение политического поведения общества всегда лежит на уровне народа. Изучение неравновесных процессов — это поиск макроскопических законов для описания поведения газов (и других систем), которые не находятся в равновесии. Оно аналогично ветви социологии, изучающей законы анархических обществ.

Вот другие интересные примеры переплетения уровней в американском правительстве: ФБР, расследующее собственные преступления; шериф, угодивший в тюрьму, самоприложение парламентарного закона процедур и т. д. Один из самых интересных случаев на моей памяти касается человека, утверждавшего, что он — экстрасенс. Он говорил, что может использовать свое умение для определения черт характера людей и, таким образом, может помогать судьям в выборе жюри. Однако что случилось бы, если в один прекрасный день этот «экстрасенс» сам оказался под судом? Какое влияние оказало бы это на тех членов жюри, которые верят в существование экстрасенсорных способностей? Насколько они окажутся под влиянием экстрасенса (вне зависимости от подлинности его способностей)? Это поле созрело для эксплуатации, на его почве могут отлично произрастать самоисполняющиеся пророчества.

Путаница, касающаяся науки и мистики

Кстати об экстрасенсах и мистических способностях, псевдонаука — это еще одна сфера жизни, где кишмя кишат странные петли. Псевдонаука ставит под сомнение многие стандартные процедуры или мнения ортодоксальной науки и, таким образом, бросает вызов ее объективности. Псевдонаука предлагает иные пути интерпретации очевидного. Но как вообще можно оценить интерпретацию очевидного? Ведь это та же проблема объективности, только перенесенная уровнем выше! Парадокс Льюиса Кэрролла — бесконечный регресс — появляется здесь в новом обличье. Черепаха утверждала бы, что если вы хотите доказать, что А — это факт, то вам нужно доказательство — Б. Но как можно с уверенностью сказать, что Б доказывает А? Для этого нужно мета-доказательство — В. Но для доказательства действительности мета-доказательства вам понадобится мета-мета-доказательство — и так далее, пока не надоест. Несмотря на этот довод, у людей есть врожденное чувство очевидности. Как я уже говорил, это происходит потому, что в человеческий мозг встроена некая аппаратура, включающая рудиментарные способы интерпретации данных. Основываясь на этом, мы можем развить новые способы интерпретации и даже научиться иногда подавлять основные механизмы интерпретации фактов — как приходится делать, скажем, для объяснения трюков фокусника.

Конкретные примеры проблем с очевидным возникают во множестве явлений псевдонауки. Например, экстрасенсорные способности часто проявляются вне лаборатории, но таинственным образом исчезают, как только экстрасенс попадает внутрь. Стандартное научное объяснение заключается в том, что эти способности — явление недействительное, не выдерживающее строгой проверки. Некоторые (но не все) сторонники экстрасенсов, однако, находят интересный способ опровержения этих доводов. Они говорят: «Нет, экстрасенсорные способности реальны, но они исчезают, когда кто-то пытается исследовать их научными методами, потому что они несовместимы с таким подходом». Это довольно бесстыдная техника, которую можно назвать «отфутболиванием проблемы этажом выше.» Это значит, что вместо анализа самой проблемы они сомневаются в теориях, принадлежащих к высшему уровню правдоподобия. Защитники экстрасенсов утверждают, что проблема не в их идеях, а в системе научных взглядов. Это весьма смелое утверждение; за отсутствием неопровержимых доказательств стоит усомниться в его правильности. Однако мы говорим здесь о «неопровержимых доказательствах» так, словно все согласны, что это означает!

Природа очевидного

Запутанная ситуация Сагредо-Симплицио-Салвиати, упомянутая в главах XIII и XV, — это еще один пример того, как сложно оценить очевидное. Сагредо пытается найти некий объективный компромисс между противоположными точками зрения Симплицио и Салвиати. Но компромисс оказывается не всегда возможным. Как можно «справедливо» примирить правильное и неправильное? Справедливое и несправедливое? Компромисс и не компромисс? Эти вопросы возникают снова и снова, в разных формах, при обсуждении самых повседневных вещей.

Возможно ли дать определение очевидному? Можно ли перечислить законы, объясняющие, как находить смысл в различных ситуациях? Скорее всего, нет, поскольку у любых жестких правил несомненно будут исключения, а нежесткие правила — уже не правила. Думающая программа также не поможет делу, поскольку в качестве процессора очевидного она будет ничуть не надежнее людей. Так если очевидное настолько неуловимо, почему же я протестую против новых путей его интерпретации? Не противоречу ли я сам себе? В данном случае, не думаю. Мне кажется, что здесь есть определенные ориентиры, при помощи которых можно добиться органического синтеза. Но в этом с неизбежностью будет некоторая доля интуиции и субъективности — а они различны в каждом отдельном человеке. Они будут различны и в разных программах ИИ. Существуют сложные критерии для решения того, хорош ли данный метод оценки очевидности. Один из них касается «полезности» идей, полученных данным методом. Рассуждения, приводящие к жизненно полезным идеям, считаются в каком-то смысле правильными. Однако слово «полезный» здесь очень субъективно…

Я считаю, что процесс, с помощью которого мы решаем, что истинно и действительно, — это вид искусства. Он опирается на чувство красоты и простоты не менее, чем на железные принципы логических рассуждений или чего-либо иного, что может быть объективно формализовано. Я не утверждаю, что (1) истина — химера или что (2) человеческий интеллект в принципе невозможно запрограммировать. Я утверждаю то, что (1) истина слишком неуловима, чтобы человек или группа людей могли ее полностью понять и (2) когда ИИ достигнет уровня человеческого интеллекта — или превзойдет его — он все еще будет бороться с проблемами искусства, красоты и простоты и постоянно наталкиваться на эти вопросы в своем стремлении к знанию. «Что такое очевидность?» — это не только философский вопрос, поскольку он часто вторгается в обыденную жизнь. В каждую минуту перед нами огромный выбор способов интерпретации очевидного. Сегодня трудно найти книжный магазин, где бы вы не увидели книг об астрологии, хиромантии, мистицизме, телекинезе, НЛО, Бермудском треугольнике, черных дырах, биологической обратной связи, телепатии, трансцендентальной медитации, новых теориях психологии… В науке идут яростные споры о теории катастрофы, теории элементарных частиц, черных дырах, истине и существовании в математике, свободе воли, Искусственном Интеллекте, редукционизме и холизме… На более практическом уровне идут споры о том, что полезнее витамин С или летрил (новое средство против рака), о размере нефтяных запасов (под землей или в хранилищах), о том то является причиной инфляции и безработицы — и так далее, и тому подобное. Не будем забывать и о Дзен-буддизме, парадоксах Зенона, психоанализе и т. п. Способы оценки действительности играют важнейшую роль, будь то в тривиальном вопросе размещения книг на полках в книжном магазине или в вопросе о том, какие идеи должны преподаваться в школах.

Самовосприятие

Одна из самых сложных проблем интерпретации действительности — это истолкование множества беспорядочных внешних сигналов, говорящих нам кто мы такие. Здесь очень высока возможность конфликтов внутри уровней и между ними. Психическим механизмам приходится одновременно иметь дело с внутренней потребностью человека в самоуважении и непрерывным потоком информации извне, атакующим его представление о самом себе. В результате информация течет между разными уровнями личности по сложному руслу. Пока она крутится в этом водовороте, какие-то ее части разрастаются а какие-то уменьшаются, что-то отрицается вообще, а что-то меняется почти до неузнаваемости. Затем результат снова попадает в водоворот и этот процесс но повторяется снова и снова в попытке примирить то, что есть, с тем чего бы нам хотелось (См. рис. 81).

В результате этого необычайно сложного процесса общее представление о том, «кто я такой» интегрируется с остальной мысленной структурой и содержит, для каждого из нас, большое количество нерешенных и, возможно неразрешимых противоречий. Безусловно, это один из основных источников того динамического напряжения, которое так свойственно человеческим существам. Из этого противоречия между внутренним и внешним образами того кто мы такие, рождаются те стремления и цели, которые делают каждого из нас единственным в своем роде. Парадоксальным образом, именно наша общность — то, что все мы обладаем самосознанием — ведет к удивительному разнообразию того, как мы усваиваем информацию о самых разных вещах и является ведущей силой в создании разных индивидуальностей.

Теорема Гёделя и другие дисциплины

Кажется естественным проводить параллели между людьми и достаточно сложными формальными системами, которые, как и люди, обладают неким «самосознанием». Теорема Геделя показывает, что в непротиворечивых формальных системах, способных к автореференции, есть фундаментальные ограничения. Можно ли обобщить этот вывод? Существует ли например «Теорема Геделя в психологии»?

Если использовать теорему Геделя как метафору и источник вдохновения вместо того, чтобы пытаться дословно перевести ее на язык психологии, возможно, что она сможет подсказать новые истины в психологии и других областях. Но пытаться прямолинейно переводить ее на язык других дисциплин и считать что она действительна и там, было бы ошибкой. Неверно было бы думать что то, что было тщательнейшим образом разработано в математической логике можно без изменений пересадить на совершенно иную почву других дисциплин.

Интроспекция и душевные заболевания: проблема типа Гёделевой

Мне кажется, что перевод теоремы Гёделя в другие области может навести нас на новые идеи, если мы договоримся заранее о том, что переводы — только метафоры и не должны пониматься дословно. С подобной оговоркой я вижу две основных аналогии, соотносящие Теорему Гёделя с человеческим мышлением. Одна из них касается проблемы размышлений о собственной нормальности. Каким образом вы можете решить, что вы не сумасшедший? Это — настоящая Странная Петля. Как только вы начинаете сомневаться в собственном душевном здоровье, то можете оказаться во все убыстряющемся водовороте самоисполняющихся пророчеств (хотя этот процесс вовсе не неизбежен). Известно, что сумасшедшие интерпретируют мир с помощью странной, но последовательной логики; откуда вы знаете, «странная» ваша собственная логика или нет, если можете судить об этом только с помощью той же самой логики? Я не знаю ответа на этот вопрос. Это напоминает мне о второй Теореме Гёделя, из которой следует, что противоречивы только те версии формальной теории чисел, которые утверждают собственную непротиворечивость.

Можем ли мы понять собственный разум или мозг?

Другая аналогия с Теоремой Гёделя, которая кажется мне интересной, намекает на то, что мы не можем полностью понять собственного разума/мозга. Эта идея настолько сложна и нагружена ассоциациями на многих уровнях, что обсуждать ее надо с осторожностью. Что означает «понять собственный разум/мозг»? Это может означать общее ощущение того, как они работают, подобно тому, как автомеханик интуитивно ощущает, как работает мотор. Это может означать полное объяснение того, почему люди поступают так, а не иначе. Это может означать полное понимание физической структуры собственного мозга на всех его уровнях. Это может означать, что в некоей книге или на компьютере у нас есть подробная диаграмма устройства мозга. Это может означать точное знание того, что происходит в нашем мозгу на нейронном уровне в любой момент — возбуждение каждого нейрона, синаптические изменения и так далее. Это может означать создание программы, способной пройти тест Тюринга. Это может означать такое полное знание себя, что понятия подсознательного и интуитивного теряют смысл, поскольку становятся открыты взгляду. Это может означать также любую комбинацию из вышеприведенных вещей.

Какое из этих самоотражений более всего напоминает Теорему Гёделя? Затрудняюсь ответить. Некоторые из них довольно глупы. Например, идея детального наблюдения за состоянием собственного мозга — ни что иное, как беспочвенная фантазия, абсурдное и неинтересное предположение; когда Теорема Гёделя говорит нам, что это невозможно, это отнюдь не является для нас неожиданностью. С другой стороны, извечное стремление человека глубже познать самого себя (назовем это «пониманием собственной психической структуры») кажется естественным. Но нет ли и здесь некоей Гёделевой петли, ограничивающей глубину возможного проникновения в собственную психику? Мы не можем увидеть своими глазами собственное лицо; не разумно ли ожидать, что мы также окажемся не в состоянии полностью отразить собственную психическую структуру в тех символах, которые ее составляют?

Как ограничительные Теории метаматематики, так и теория вычислений говорят, что, как только возможность представлять собственную структуру достигает некоей критической точки, то пиши пропало — это гарантия того, что вы никогда не сможете представить себя полностью. Теорема Гёделя о неполноте, Теорема Черча о неразрешимости, Теорема остановки Тюринга, Теорема Тарского об истине — все они чем-то напоминают старинные сказки, предупреждающие читателя о том, что «поиск самопознания — это путешествие, которое… обречено быть неполным, не может быть изображено ни на каких картах, никогда не остановится и не сможет быть описано.»

Но имеют ли эти ограничительные теоремы какое-нибудь отношение к людям? Об этом можно рассуждать так. Либо я непротиворечив, либо я противоречив. (Последнее гораздо вероятнее, но, для полноты картины, я рассмотрю обе возможности.) Если я непротиворечив, этому могут быть два объяснения. (1) Я подобен патефону «низкого качества»: мое понимание самого себя находится ниже некоего критического порога. В данном случае, я неполон по определению. (2) Я подобен патефону «высокого качества», мое понимание себя самого достигло критического порога, за которым становится приложима метафорическая аналогия ограничительных Теорем; таким образом, мое самопознание саморазрушается Гёделевым способом, и поэтому я неполон. Случаи (1) и (2) основаны на предположении, что я стопроцентно непротиворечив — маловероятное положение дел. Скорее всего, я противоречив, — но это еще хуже, поскольку означает, что во мне есть противоречия; как я смогу когда-либо это понять?

Противоречив человек или нет, он обречен вечно размышлять над загадкой собственной личности. Скорее всего, мы все противоречивы. Мир слишком сложен, чтобы позволить человеку роскошь примирить между собой все его убеждения. Напряжение и неразбериха важны в мире, где часто приходится быстро принимать решения Мигель де Унамуно однажды сказал: «Если кто-то никогда не противоречит сам себе, скорее всего, это потому, что он вообще никогда ничего не говорит.» Я сказал бы, что мы все находимся в том же положении, как тот мастер дзена, который, высказав подряд несколько противоречивых суждений, сказал сбитому с толку Доко: «Я сам себя не понимаю.»

Теорема Гёделя и личное несуществование

Наверное, самое большое противоречие нашей жизни, то, которое труднее всего понять, — это знание того, что было время, когда нас не было, и придет время, когда нас не будет. На одном уровне, когда мы «выходим из себя» и видим себя как «одно из человеческих существ», этот факт имеет смысл. Но на другом, более глубоком уровне, личное несуществование совершенно бессмысленно. Все, что мы знаем, находится у нас в мозгу, и мы не можем понять, как это все может отсутствовать во вселенной. Это основная и неоспоримая тайна жизни; возможно, что это — лучшая метафорическая аналогия Теоремы Гёделя. Когда мы пытаемся вообразить собственное несуществование, нам приходится выйти из себя и отобразить себя на кого-то другого. Мы пытаемся убедить самих себя, что можем внести внутрь чужие представления о нас, примерно так же, как ТТЧ «верит», что ей удается отразить внутри себя собственную мета-теорию. Однако ТТЧ содержит собственную мета-теорию не целиком, а только до определенного предела. Что касается нас, то мы можем только воображать, что вышли из себя, мы никогда не в состоянии действительно это сделать, так же, как Эшеровский дракон не может вырваться из своей родной двухмерной плоскости в трехмерный мир. В любом случае, это противоречие настолько велико, что обычно мы просто-напросто игнорируем всю эту путаницу, поскольку попытки в ней разобраться ни к чему не приводят.

Последователи дзена, с другой стороны, упиваются этой противоречивостью. Снова и снова они встречаются с конфликтом между восточным представлением о том, что «мир и я — одно целое, поэтому понятие моего несуществования само по себе противоречиво» (моя формулировка, наверняка, слишком западная — прошу прощения у дзен-буддистов) и западным представлением: «Я — только часть мира; я умру, но мир будет жить и после меня.»

Наука и дуализм

Науку часто критикуют за то, что она слишком «западна» или «дуалистична» — то есть проникнута дихотомией между субъектом и объектом, наблюдателем и наблюдаемым. Действительно, вплоть до нашего столетия наука занималась только вещами, которые могли быть легко отличимы от человека, — например, кислород, углерод, свет и тепло, ускорение и орбиты и так далее. Эта фаза развития была необходимой прелюдией к более современной фазе, в которой объектом исследований явилась сама жизнь. Шаг за шагом «западная» наука неизбежно движется к изучению человеческого разума — иными словами, разума самого наблюдателя. В настоящий момент в этом лидируют исследования по Искусственному Интеллекту. До появления ИИ в науке произошли два события, позволяющие до некоторой степени предвидеть последствия смешения субъекта и объекта. Одним из них была революция в квантовой механике; она породила эпистемиологические проблемы, касающиеся влияния наблюдателя на наблюдаемое. Другим было смешение объекта и субъекта в метаматематике, начавшееся с Теоремы Гёделя и присутствующее во всех ограничительных Теоремах, о которых мы говорили. Возможно, что после ИИ наступит очередь самоприложения науки — она начнет изучать саму себя. Это иной способ смешения субъекта и объекта, может быть, даже более запутанный, чем люди, изучающие собственный мозг.

Кстати, интересно заметить, что все результаты, зависящие от слияния субъекта с объектом, оказываются ограничительными. Кроме ограничительных Теорем, сюда относится принцип неопределенности Хайзенберга, утверждающий, что измерение некоей величины делает невозможным измерение другой величины, связанной с первой. Я не знаю, почему все эти результаты получаются ограничительными. Читатель может понимать это, как хочет.

Символ и объект в современной музыке и живописи

Дихотомия субъекта и объекта — близкая родственница дихотомии символа и объекта, которая была глубоко изучена Людвигом Витгенштейном в начале этого столетия. Позже для обозначения этого различия были приняты термины «использование» и «упоминание». Квайн и другие подробно описали отношение между знаками и тем, что они обозначают. Но эта глубокая и абстрактная тема занимала не только философов. В нашем столетии как музыка, так и изобразительное искусство испытали кризис, отразивший глубокий интерес к этой проблеме. Музыка и живопись традиционно выражали идеи с помощью некоего набора «символов» (зрительные образы, аккорды, ритмы и тому подобное), сейчас, однако, появилась тенденция исследовать способность искусства не выражать, а просто быть. Например, быть пятнами краски или чистыми звуками, лишенными всякого символического значения.

В частности, на музыку оказал большое влияние Джон Кэйдж со своим новым, напоминающим дзен-буддизм, подходом к звуку. Многие из его сочинений показывают презрение к «использованию» звуков (то есть использованию звуков для передачи эмоциональных состояний) и удовольствие от «упоминания» звуков (то есть создания произвольных комбинаций звуков, не пользуясь заранее установленным кодом, с помощью которого слушатель мог бы расшифровать некое послание). Типичным примером такой композиции является «Воображаемый пейзаж # 4», пьеса для нескольких радио, которую я описал в главе VI. Возможно, что я несправедлив к Кэйджу но мне кажется что его основной целью было привнесение в музыку бессмысленности и наделение значением самой этой бессмысленности. Алеаторная музыка — типичный шаг в этом направлении. Многие современные композиторы последовали за Кэйджем но немногие из них были так же оригинальны. В пьесе Анны Локвуд под названием «Горящий рояль» имитируется звук лопающихся струн, для чего они натягиваются как можно туже, в пьесе Ламонте Юнга источником шума является рояль, который возят туда-сюда по сцене и сталкивают с препятствиями.