8. Возможные последствия

8. Возможные последствия

8.1. Искусственные разумные «устройства»

 Какие же выводы должны мы сделать, исходя из предыдущих рассуждений, о предельном потенциале искусственного интеллекта? В первой части книги было недвусмысленно показано, что никакое развитие технологий производства электронных роботов с компьютерным управлением не приведет в конечном итоге к созданию действительно разумной искусственной машины — в том смысле, что машина будет способна понимать, что она делает, и действовать на основе этого понимания. Электронные компьютеры, несомненно, играют очень важную роль в прояснении многих вопросов, связанных с ментальными феноменами (возможно, прежде всего тем, что наглядно показывают, что подлинными ментальными феноменами не является), не говоря уже об их чрезвычайной полезности и бесценном вкладе в научный, технический и социальный прогресс. Вывод, впрочем, однозначен: компьютеры делают что-то принципиально отличное от того, что делаем мы, сосредоточивая сознательное внимание на очередной проблеме.

Однако, как можно было понять из продолжения нашего разговора во второй части, я ни в коем случае не утверждаю, что создать подлинно разумное устройство совершенно невозможно; просто такое устройство не будет являться «машиной» — в том конкретном смысле, что «машиной» управляет компьютер. В основе его работы должны будут лежать те же физические процессы, которые ответственны за возникновение нашего собственного сознания. Поскольку физической теории таких процессов в нашем распоряжении еще нет, представляется несколько преждевременным делать какие-то умозаключения относительно того, будет ли вообще построено такое устройство, и если будет, то когда. Тем не менее, в рамках поддерживаемой мною точки зрения C (см. §1.3), согласно которой мышление может быть в конечном счете объяснено научно, хотя и с привлечением понятия невычислимости, создание этого устройства вполне допускается.

Не думаю, что такое устройство непременно должно быть по своей природе биологическим. Более того, я не думаю, что между биологией и физикой (или между биологией, химией и физикой) проходит какая-то принципиально непреодолимая граница. Биологическим системам действительно зачастую присуща тонкость и сложность организации, далеко превосходящая даже наиболее изощренные из наших (порой очень и очень изощренных) физических построений. Однако совершенно очевидно, что мы все еще находимся на очень раннем этапе физического понимания нашей Вселенной — в особенности, феноменов, имеющих отношение к мышлению. Таким образом, можно ожидать, что в будущем сложность наших физических построений существенно возрастет. Можно предположить, что в этом будущем усложнении немалую роль сыграют физические эффекты, о которых мы сегодня имеем весьма смутное представление.

Не вижу причин сомневаться в том, что в не столь отдаленном будущем некоторые из приводящих нас сейчас в недоумение эффектов (Z-загадок) квантовой теории найдут удивительные применения в самых разнообразных областях. Уже сегодня предлагаются идеи использования квантовых эффектов в криптографии, что позволяет достичь результатов, недоступных классическим устройствам. В частности, имеются теоретические разработки, предполагающие существенное использование квантовых эффектов (см. [26]) и направленные на отыскание способа передачи секретной информации от отправителя к получателю таким образом, чтобы перехват сообщения третьей стороной был невозможен без обнаружения факта перехвата. На основе этих идей уже были разработаны экспериментальные устройства, которые, несомненно, найдут через несколько лет самое широкое коммерческое применение. В области криптографии было предложено и множество других схем, так или иначе использующих квантовые эффекты, и можно сказать, что вчера еще не существовавшая наука квантовая криптография сегодня развивается бурными темпами. Более того, возможно, что когда-нибудь мы действительно сможем построить квантовый компьютер, однако на данный момент соответствующие теоретические разработки еще весьма далеки от практической реализации, и пока весьма сложно предсказать, когда мы увидим (и увидим ли вообще) их физическое воплощение (см. [277, 278]).

Еще сложнее предсказать возможность (и время) создания устройства, работа которого описывается физической теорией, нам еще даже не известной. Я утверждаю, что такая теория необходима для понимания физики, лежащей в основе устройства, функционирующего невычислимым образом; под «невычислимым» здесь понимается «недоступным для машины Тьюринга». Согласно приведенной выше аргументации, прежде чем рассматривать саму возможность создания такого устройства, мы должны отыскать надлежащую физическую теорию редукции квантового состояния (OR) — а насколько мы сейчас далеки от такой теории, сказать очень сложно. Возможно также, что возникнут какие-то дополнительные неожиданные трудности, обусловленные неизвестными пока специфическими особенностями будущей OR-теории.

Как бы то ни было, если мы хотим построить такое невычислительное устройство, нам все равно придется, я думаю, начать с отыскания теории. Впрочем, возможно, что и не придется: история помнит немало случаев, когда между открытием новых необычных физических эффектов и их теоретическим объяснением проходило много лет. Хорошим примером может послужить сверхпроводимость, обнаруженная экспериментально (Хейке Камерлинг-Оннесом в 1911 году) почти за пятьдесят лет до того, как Бардин, Купер и Шриффер получили наконец (в 1957 году) полное квантово теоретическое ей объяснение. В 1986 году была открыта высокотемпературная сверхпроводимость (см. [343]) — также при полном отсутствии предварительных чисто теоретических оснований верить в ее существование. (По состоянию на начало 1994 года адекватного теоретического объяснения этому феномену у нас все еще нет.) С другой стороны, если речь идет о невычислимых процессах, неясно даже, каким образом вообще можно определить, что поведение данного неодушевленного объекта является невычислимым. Вся концепция вычислимости опирается в значительной степени на теорию, и непосредственное наблюдение в этом случае мало что дает. Однако в рамках той или иной невычислительной теории вполне может быть описано поведение, которое демонстрирует невычислимые аспекты этой самой теории и которое вполне можно исследовать экспериментально и регистрировать с помощью каких-то реальных приборов. Я подозреваю, что в отсутствие теории вероятность наблюдать или регистрировать невычислимое поведение в каких-либо физических объектах исключительно мала.

А теперь давайте попробуем вообразить, что требуемая физическая теория — т.е., как я показал выше, невычислительная OR-теория редукции квантового состояния — у нас уже есть; кроме того, мы располагаем и некоторыми экспериментальными подтверждениями этой теории. Что нам нужно сделать для того, чтобы создать разумное искусственное устройство? А ничего — располагая одной лишь этой теорией, мы ничего сделать не сможем. Понадобится еще один теоретический прорыв — тот, что объяснит нам, как именно соответствующая организация, задействуя надлежащим образом невычислимые OR-эффекты, порождает сознание. Я, например, не имею ни малейшего понятия, что это может оказаться за теория. Как и в упомянутых выше примерах со сверхпроводимостью, есть вероятность, что на устройство с требуемыми свойствами кто-нибудь наткнется до некоторой степени случайно раньше, чем будет разработана корректная теория сознания. Само собой разумеется, вероятность эта крайне ничтожна — разве что воспользоваться неким дарвиновским эволюционным процессом, т.е. предположить, что разум возникнет сам собой, просто по причине непосредственных преимуществ, которые обладание разумом дает его обладателю, задолго до того, как этот самый обладатель сможет понять, каким же образом все произошло (как, собственно говоря, и случилось когда-то с нами!). Процесс этот, безусловно, будет чрезвычайно длительным, особенно если вспомнить, сколько времени потребовалось нашему с вами разуму для проявления себя в качестве такового. Возможно, гораздо более удовлетворительным путем к созданию искусственного разумного устройства покажется читателю прямое заимствование тех на первый взгляд беспорядочных, но все же замечательно эффективных и уместных процедур, которыми мы сами многие тысячелетия с успехом пользуемся.

Разумеется, ничто из вышесказанного отнюдь не отменяет нашего желания узнать, что же все-таки происходит там, в глубинах сознания, что делает разум разумом. Я и сам хочу это узнать. Все, о чем я говорил в этой книге, является, в сущности, доказательством одного простого утверждения: то, что происходит в сознании, отнюдь не сводится к совокупности исключительно вычислительных процессов — как многие сегодня полагают — и не может быть в полной мере понято до тех пор, пока мы не достигнем более глубокого понимания природы материи, времени, пространства и тех законов, что ими управляют. Нам потребуются также гораздо более обширные и подробные знания в области физиологии мозга, особенно на микроскопических уровнях, избегавших до недавних пор внимания исследователей. Мы должны больше узнать об условиях, при которых сознание возникает и исчезает, о его любопытных отношениях с временем, о применениях сознания и о преимуществах обладания им — и о многих других вещах, допускающих объективное исследование. Таким образом, перед нами открывается широчайшее поле деятельности, обещающее несомненный прогресс в самых разных областях.