1.19. Какое отношение имеет теорема Гёделя к «бытовым» действиям?

1.19. Какое отношение имеет теорема Гёделя к «бытовым» действиям?

Допустим однако, что мы все уже согласны с тем, что при формировании осознанных математических суждений и получении осознанных же математических решений в нашем мозге действительно происходит что-то невычислимое. Каким образом это поможет нам понять причины ограниченных способностей роботов, которые, как я упоминал ранее, значительно хуже справляются с элементарными, «бытовыми», действиями, нежели со сложными задачами, для выполнения которых требуются высококвалифицированные специалисты-люди? На первый взгляд, создается впечатление, что мои выводы в корне противоположны тем, к которым придет всякий здравомыслящий человек, исходя из известных ограничений искусственного интеллекта — по крайней мере, сегодняшних ограничений. Ибо многим почему-то кажется, что я утверждаю, будто невычислимое поведение должно быть связано скорее с пониманием крайне сложных областей математики, а никак не с обыденным, бытовым поведением. Это не так. Я утверждаю лишь, что пониманию сопутствуют невычислимые процессы одинаковой природы, вне зависимости от того, идет ли речь о подлинно математическом восприятии, скажем, бесконечного множества натуральных чисел или всего лишь об осознании того факта, что предметом удлиненной формы можно подпереть открытое окно, о понимании того, какие именно манипуляции следует произвести с куском веревки для того, чтобы привязать или, напротив, отвязать уже привязанное животное, о постижении смысла слов «счастье», «битва» или «завтра» и, наконец, о логическом умозаключении относительно вероятного местонахождения правой ноги Авраама Линкольна, если известно, что левая его нога пребывает в настоящий момент в Вашингтоне, — я привел здесь некоторые из примеров, оказавшихся на удивление мучительными для одной реально существующей ИИ-системы!^{25} Такого рода невычислимые процессы лежат в основе всякой деятельности, результатом которой является непосредственное осознание чего-либо. Именно это осознание позволяет нам визуализировать геометрию движения деревянного бруска, топологические свойства куска веревки или же «связность» Авраама Линкольна. Оно также позволяет нам получить до некоторой степени прямой доступ к опыту другого человека, с помощью чего мы можем «узнать», что этот другой, скорее всего, подразумевает под такими словами, как «счастье», «битва» и «завтра», несмотря даже на то, что предлагаемые в процессе общения объяснения зачастую оказываются недостаточно адекватными. Передать «смысл» слов от человека к человеку все же возможно, однако не с помощью объяснений различной степени адекватности, а лишь благодаря тому, что собеседник уже, как правило, имеет в сознании некий общий образ возможного смысла этих слов (т.е. «осознает» их), так что даже очень неадекватных объяснений обычно бывает вполне достаточно для того, чтобы человек смог «уловить» верный смысл. Именно наличие такого общего «осознания» делает возможным общение между людьми. И именно этот факт ставит неразумного, управляемого компьютером робота в крайне невыгодное положение. (В самом деле, уже самый смысл понятия «смысл слова» изначально воспринимается нами как нечто само собой разумеющееся, и поэтому совершенно непонятно, каким образом такое понятие можно сколько-нибудь адекватно описать нашему неразумному роботу.) Смысл можно передать лишь от человека к человеку, потому что все люди имеют схожий жизненный опыт или аналогичное внутреннее ощущение «природы вещей». Можно представить «жизненный опыт» в виде своеобразного хранилища, в которое складывается память обо всем, что происходит с человеком в течение жизни, и предположить, что нашего робота не так уж и сложно таким хранилищем оснастить. Однако я утверждаю, что это не так; ключевым моментом здесь является то, что рассматриваемый субъект, будь то человек или робот, должен свой жизненный опыт осознавать.

Что же заставляет меня утверждать, будто упомянутое осознание, что бы оно из себя ни представляло, должно быть невычислимым — иначе говоря, таким, что его не сможет ни достичь, ни хотя бы воспроизвести ни один робот, управляемый компьютером, построенным исключительно на базе стандартных логических концепций машины Тьюринга (или эквивалентной ей) нисходящего либо восходящего типа? Именно здесь и играют решающую роль гёделевские соображения. Вряд ли мы в настоящее время можем многое сказать об «осознании», например, красного цвета; а вот относительно осознания бесконечности множества натуральных чисел кое-что определенное нам таки известно. Это такое «осознание», благодаря которому ребенок «знает», что означают слова «ноль», «один», «два», «три», «четыре» и т.д. и что следует понимать под бесконечностью этой последовательности, хотя объяснения ему были даны до нелепости ограниченные и, на первый взгляд, к делу почти не относящиеся, на примере нескольких бананов и апельсинов. Из таких частных примеров ребенок и в самом деле способен вывести абстрактное понятие числа «три». Более того, он также оказывается в состоянии понять, что это понятие является лишь звеном в бесконечной цепочке похожих понятий («четыре», «пять», «шесть» и т.д.). В некотором платоническом смысле ребенок изначально «знает», что такое натуральные числа.

Возможно, кто-то усмотрит здесь некий налет мистики, однако в действительности мистика здесь не при чем. Для понимания последующих рассуждений крайне важно отличать такое платоническое знание от мистицизма. Понятия, «известные» нам в платоническом смысле, суть вещи для нас «очевидные»: вещи, которые сводятся к воспринятому когда-то «здравому смыслу», — при этом мы не можем охарактеризовать эти понятия во всей их полноте посредством вычислительных правил. Действительно — и это станет ясно из дальнейших рассуждений, связанных с доказательством Гёделя, — не существует способа целиком и полностью охарактеризовать свойства натуральных чисел на основе лишь таких правил. А как же тогда описания числа через яблоки или бананы дают ребенку понять, что означают слова «три дня», и откуда ему знать, что смысл абстрактного понятия числа «три» здесь совершенно тот же, что и в словах «три апельсина»? Разумеется, такое понимание иногда приходит к ребенку далеко не сразу, и на первых порах он, бывает, ошибается, однако суть не в этом. Суть в том, что подобное осознание вообще возможно. Абстрактное понятие числа «три», равно как и представление о том, что существует бесконечная последовательность аналогичных понятий — собственно последовательность натуральных чисел, — ив самом деле вполне доступно человеческому пониманию, однако, повторяю, лишь через осознание.

Я утверждаю, что точно так же мы не пользуемся вычислительными правилами при визуализации движений деревянного бруска, куска веревки или Авраама Линкольна. Вообще говоря, существуют весьма эффективные компьютерные модели движения твердого тела — например, деревянного бруска. С их помощью можно осуществлять моделирование такого движения с точностью и достоверностью, обычно недостижимыми при непосредственной визуализации. Аналогично, вычислительными методами можно моделировать и движение веревки или струны, хотя такое моделирование почему-то оказывается несколько более сложным по сравнению с моделированием движения твердого тела. (Отчасти это связано с тем, что для описания положения «математической струны» необходимо определить бесконечно много параметров, тогда как положение твердого тела описывается всего шестью.) Существуют компьютерные алгоритмы для определения «заузленности» веревки, однако они в корне отличаются от алгоритмов, описывающих движение твердого тела (и не очень эффективны в вычислительном отношении). Любое воспроизведение с помощью компьютера внешнего облика Авраама Линкольна, безусловно, представляет собой еще более сложную задачу. Во всяком случае, дело не в том, что визуализация чего-либо человеком «лучше» или «хуже» компьютерного моделирования, просто это вещи совершенно различные.

Важный момент, как мне кажется, заключается в том, что визуализация содержит некий элемент оценки того, что человек видит, то есть сопровождается пониманием. Чтобы проиллюстрировать, что я имею в виду, давайте рассмотрим одно элементарное арифметическое правило, а именно: для любых двух натуральных чисел (т.е. неотрицательных целых чисел 0, 1, 2, 3, 4, …) а и b справедливо следующее равенство:

a ? b = b ? a.

Следует пояснить, что это высказывание не является пустым, хотя части уравнения и имеют различный смысл. Запись a ? b слева означает совокупность а групп по b объектов в каждой; b ? a справа — b групп по a объектов в каждой. В частном случае, например, при a = 3 и b = 5, запись a ? b можно представить следующим рядом точек:

(•••••)(•••••)(•••••),

в то время как для b ? a имеем

(•••)(•••)(•••)(•••)(•••).

Общее число точек в каждом случае одинаково, следовательно, справедливо равенство 3 ? 5 = 5 ? 3.

В истинности этого равенства можно удостовериться, представив зрительно матрицу

• • • • •

• • • • •

• • • • •

Читая матрицу по строкам, можно сказать, что в ней три строки, каждая из которых содержит по пять точек, что соответствует числу 3 ? 5. Однако если эту же матрицу прочесть по столбцам, то получится пять столбцов по три точки в каждом, что соответствует числу 5 ? 3. Равенство этих чисел очевидно, поскольку речь в каждом случае идет об одной и той же прямоугольной матрице, просто мы ее по-разному читаем. (Есть и альтернативный вариант: мы можем мысленно повернуть изображение на прямой угол и убедиться в том, что матрица, соответствующая числу 5 ? 3, содержит то же количество элементов, что и матрица, соответствующая числу 3 ? 5.)

Важный момент описанной визуализации заключается в том, что она непосредственно дает нам нечто гораздо более общее, чем просто частное численное равенство 3 ? 5 = 5 ? 3. Иными словами, в конкретных числовых значениях а = 3 и b = 5, участвующих в данной процедуре, нет ничего особенного. Полученное правило будет применимо, даже если, скажем, а = 79 797 000 222, а b = 50 000 123 555, и мы с уверенностью можем утверждать, что 79 797 000 222 ? 50 000 123 555 = 50 000123 555 ? 79 797 000 222, несмотря на то, что у нас нет ни малейшей возможности сколько-нибудь точно представить себе визуально прямоугольную матрицу такого размера (да и ни один современный компьютер не сможет перечислить все ее элементы). Мы вполне можем заключить, что вышеприведенное равенство должно быть истинным — или что истинным должно быть равенство общего вида[8] a ? b = b ? a — на основании, в сущности, той же самой визуализации, которую мы применяли для конкретного случая 3 ? 5 = 5 ? 3. Нужно просто несколько «размыть» мысленно действительное количество строк и столбцов рассматриваемой матрицы, и равенство становится очевидным.

Я вовсе не хочу сказать, что все математические отношения можно с помощью верной визуализации непосредственно постигать как «очевидные», или же что их просто можно в любом случае постичь каким-то иным способом, основанным непосредственно на интуиции. Это далеко не так. Для уверенного понимания некоторых математических отношений необходимо строить весьма длинные цепочки умозаключений. Цель математического доказательства, по сути дела, в этом и заключается: мы строим цепочки умозаключений таким образом, чтобы на каждом этапе получать утверждение, допускающее «очевидное» понимание. Как следствие, конечной точкой умозаключения должно оказаться суждение, которое необходимо принимать как истинное, пусть даже оно само по себе вовсе и не очевидно.

Кое-кто, наверное, уже вообразил, что в таком случае можно раз и навсегда составить список всех «возможных» этапов умозаключений и тогда всякое доказательство можно будет свести к вычислению, т. е. к простым механическим манипуляциям полученными очевидными этапами. Доказательство Гёделя (§2.5) как раз и демонстрирует невозможность реализации такой процедуры. Нельзя совершенно избавиться от необходимости в новых «очевидно понимаемых» отношениях. Таким образом, математическое понимание никоим образом не сводится к бездумному вычислению.