Парадоксы сознания[33]

Парадоксы сознания[33]

Можно допустить, что все люди обладают сознанием, но это вовсе не означает, что все они отдают себе в этом отчет. Вся эта сфера не предполагает полной однородности. Мы не знаем, как рождается и возникает сознание, мы также не знаем, каковы его связи с интеллектом. В «Сумме технологии» я очень наивно писал об электромозге и даже о его верованиях. Мне казалось (и не мне одному), что возможна прямая конструкторская дорога к интеллекту. Сейчас, лучше информированный, я понимаю всю сложность проблемы. На вопрос, может ли человек выполнять сложные функции с четко определенной целью бессознательно, или же скорее без участия сознания, без колебаний можно ответить утвердительно. Именно так поступает мало-мальски опытный водитель автомобиля, гребец, человек, управляющий в воздухе дельтапланом, а также люди во многих других ситуациях. Скорее даже в этих областях господствуют именно состояния, противоположные сознательным, поскольку гармоничное сочетание навыков, полученных при участии сознания, затем подвергается автоматизации до такой степени, что вторжение сознательного внимания в единую последовательность уже усовершенствованных действий может скорее помешать, чем помочь. Это касается также и наших языковых способностей. Зачастую трудно продекламировать наизусть фрагмент, вырванный из середины какой-нибудь поэмы или стихотворения, именно потому, что это требует определенной дезавтоматизации. Ведь чтобы произнести такой фрагмент, бывает легче начать текст с начала. Это свидетельствует о возрастающей благодаря обучению или приучению автоматизации действий, для которых требуется одновременная работа нейронных модулей, порой расположенных в разных полушариях мозга. Однако очень трудно определить, каким образом ощущает сознание человек, пораженный афазией, атаксией, алексией или агнозией. Нам известно, что человек может видеть, будучи в своем сознании слепым. Такой невидящий не знает, что видит окружающий мир и другого человека с мячом в руке, но схватит этот мяч, если его ему бросить. Феномены такого рода, а их существует легион, лучше известны неврологам, которые, как, например, российский исследователь Лурия, имели дело с тысячами людей, имевших различные повреждения мозга. Лечение таких состояний часто основано на терпеливом обучении пострадавшего использованию различных проявлений окружающей среды или специальных приспособлений, или же контролю поведения другими органами чувств. Было бы нонсенсом, если бы я далее углублялся в неврологию, а сказанное служит лишь в качестве наброска для вступления к теме неметрически многомерной активности мозга, который может любую произвольную целенаправленную функцию выполнить абсолютно различными способами.

Как я писал в «Сумме технологии», конструктора интересует не то, есть ли сознание у машины, а лишь то, правильно ли она функционирует. Все, что мы знаем о внесознательном автоматизме, а также о бессознательной активности инстинктов, позволяет нам считать возможным изучение сложных систем (например, нейронных сетей), когда, зная, что находится на входе, а что – на выходе системы таких сетей, мы можем не знать, что происходит в самой сети. Пока мы не слишком далеко продвинулись от компьютерных программ Винограда, при помощи оптических датчиков и рецепторов выполнявших поручения типа: «скажи, сколько геометрических тел стоит на столе» или «поставь конус на куб» и т.д. Сейчас нам с триумфом объявляют, что робот, который умеет подняться по лестнице или спуститься с нее, может самостоятельно ориентироваться в лабораторном окружении. Однако я бы не сказал, что его уже можно сравнить по умственному развитию с полуторагодовалым ребенком, который еще не разговаривает. Тем временем энтузиасты Artificial Intelligence хотят уже в следующих поколениях роботов видеть если еще не Эйнштейнов, то по меньшей мере официантов или домашних охранников. А ведь как с охранником, так и с официантом можно поболтать на политические или экономические темы. В моих глазах поборники AI сегодня напоминают скорее группы цирковых акробатов, намного более проворных, чем зрители, поскольку они способны выполнять прыжки в воздухе с трапеции на трапецию. Это неоспоримое мастерство sui generis, но оно не должно в каждом случае находиться под сосредоточенным вниманием сознания. Хотя я приписывал машинным системам будущего способность лингвистической артикуляции, и, следовательно, искусство ведения разговоров с человеком в рамках определенной тематики, но не стал бы сравнивать эту способность со свободой речи неквалифицированного разнорабочего или кухарки. Ведь не упоминалась немаловажная проблема, заключающаяся в том, что способность отличить в разговоре искусно запрограммированный компьютер от человека в очень большой, а точнее, в различной степени зависит от интеллектуального уровня собеседника-человека. Из трудов Вейзенбаума мы узнали, между прочим, что его псевдопсихологической программе Eliza удавалось обмануть даже тех людей, которые знали, что ни один человек и ни один разум не стоят за произносимыми вопросами и ответами. Однако психологическое заблуждение, вызванное антропоморфической проекцией, приводило к тому, что, например, секретарша, которой программа Eliza задала вопрос, с точки зрения секретарши интимный, просила, чтобы профессор оставил ее один на один с машиной, понимающей ровно столько же, сколько может понимать стена, отбивающая удары игрока теннисным мячом. Таким образом, мы вынуждены признать проблему искусственного интеллекта дихотомичной, поскольку она возникает при столкновении двух систем: человека, который в нашем предположении понимает, что делает и говорит, и машины, которая, очень постепенно в разных направлениях совершенствуясь, будет имитировать партнера. Я опасаюсь, что имитация может оказаться одновременно и бессознательной, и замечательно изображающей сознание. Эта трудность еще не преодолена, и потому сегодня она представляет собой гордиев узел, распутыванием или рассечением которого должно будет заняться только будущее.