II

II

Расхождение векторов ожиданий и свершений в кибернетике – это факт, вызывающий вопрос: если, в самом деле, мы создаем компьютеры, но не можем создать эффективной модели мозга, поскольку первая задача оказалась несравненно более простой, чем вторая, то почему природная эволюция выбрала более трудную задачу? Разве этот факт не противоречит тому, что мы сами утверждали – о свойственной ей тенденции довольствоваться минимальными усилиями и, таким образом, более простыми решениями? Вот ответ на этот вопрос: мы создаем универсальные цифровые машины, однако не в состоянии составить в такой же степени универсальных машиночитаемых программ, и нас устраивает такое положение вещей, поскольку мы устанавливаем компьютеры только там, где и при отсутствии полной автономии функционирования они справятся с предложенными заданиями. В то время как эволюция никогда не оказывалась в ситуации аналогичного выбора, потому что никогда ее продукты – живые системы – не отказывались от полной функциональной автаркии в пользу узкой специализации – с тремя исключениями: кооперация как форма специализации привела к возникновению неуплотненного конгломерата единиц гомеостаза, то есть колоний живых организмов (кораллы, муравейники), создала из клеток, утрачивающих универсальность, многоклеточные организмы и оформила паразитизм и симбиоз. Вне этих выделенных для групп секторов тактики выживаемости организмы вынуждены были бороться за решение конструкторских проблем центральной нервной системы, аналога универсальной информационной машины, а также проблемы составления для нее программ – одновременно, и поэтому до резкого разделения обеих этих задач тоже не дошло. В процессе эволюции выработалась смешанная тактика и стратегия – в эволюционных творениях; поэтому каждый организм морфологически и функционально оформлен таким образом, что представляет собой суверенную единицу – как игрока, сосредоточенного на борьбе с Природой за выживание, – и пребывает в условиях полной автаркии, ведь он не может рассчитывать ни на чью помощь, особенно информационную, – в то время как компьютеры без человека представляют собой системы настолько же точные, насколько и полностью беспомощные. Таким образом, задачи эволюции с самого начала качественно отличались от задач этой группы технологически цифровых машин. Если бы цифровая машина – либо ее биологический и в то же время изоморфный аналог – возникла в процессе эволюции и справлялась бы с типично гомеостазными проблемами, то она, несомненно, сформировалась бы в течение миллиардов лет развития биосферы. Пошаговый характер эволюции происходит от того, что польза и вред от изменений, вызванных увеличением сложности систем, никогда не уравниваются однозначно, то есть система, в которой происходит расширение и усложнение сомы и мозга, обретает благодаря этому новые преимущества и новые слабости – одним махом.

Статистика дает основание полагать, что достигнутые таким образом преимущества незначительно преобладают над возникающими одновременно экзистенциальными недостатками – в противном случае это движение от простого к сложному очень скоро бы увязло на месте. Бактерия не является более сложной системой, чем универсальная цифровая машина – новейшего типа, – однако очевидно, что способности к выживанию бактерии нельзя даже и сравнивать с «выживанием» компьютера, помещенного в произвольной среде, поскольку он в принципе не представляет собой самостоятельного гомеостата. Таким образом, специфика задач эволюционного развития определила направление конструкторских ходов эволюции, коренным образом отличных от наших в сфере информационных технологий. Эта в высшей степени несамостоятельность компьютеров, их полная зависимость от сотрудника-человека демонстрирует ошибочность представлений о том, что возможен какой-то «бунт» и как следствие – порабощение человечества машинами в форме «компьютерократии». Эти представления основаны на совершенно ложных, неприменимых в интеллектронике исторических аналогиях из области борьбы за власть, преобладание, социальной устойчивости элиты и т.п. Компьютеры нас не поработят, если мы сами до этого не доведем. А привести к этому состоянию можно двумя способами: намеренно, воплощая стремление управляющих машин, – но тогда возникает банальная с точки зрения социологии и этики проблема, раз обретение компьютерами высшей власти будет зависеть от воли человека; или при полном отсутствии подобных планов и намерений. Поэтому не исключена и такая возможность, что система «люди + компьютеры» постепенно обретет динамическую характеристику, совершенно нами нежелательную и в то же время – по крайней мере первоначально – абсолютно нам неизвестную. Наше воображение, исследуя альтернативные варианты будущего, скованное известными ему из истории моментами, ограничилось представлениями «усилитель интеллекта», «гомункулус» – а также «электронный мудрец» или такой же «черт»; этот последний предполагался особенно одаренным претендентом на роль тирана. Однако действительность радикально отступает от этих наивных, ситуативно беспочвенных моделей. Это не означает, что область сотрудничества людей и информационных машин свободна от потенциальной опасности. Просто эта опасность не содержит никакого «персоналистского» элемента: интеллектуальные системы, если уж нас и поработят, то не как «личности», так или иначе воспроизведенные. В то же время именно потому эта опасность страшнее и более реальна, чем если бы компьютеры в своей эволюции приближались к обретению «персоналистических особенностей». Поскольку тогда по крайней мере одна сторона – а именно компьютеры – действовала бы с полным знанием обстановки: тот, кто стремится к власти, будучи при этом личностью, должен осознавать, что делает! Он действует на основании разработанных планов, этически, может быть, «черных», но все-таки планов, он использует их в стратегии собственного поведения, а значит, было бы возможно это знание, содержание этих планов, каким-то образом из него выделить! И если в результате успешного срастания информационных машин и банков памяти возникнут государственные, континентальные, а потом и планетарные компьютерные сети – а это реальное направление развития, – то вся система, состоящая из людей и этих сетей, может проявлять динамику, не отвечающую надеждам цивилизации. Говоря точнее: система может лечь в дрейф. Потому что каждая большая и сложная система обладает бесчисленными закономерностями; когда же человек реализует системы подобного типа, то он сосредоточен на выгоде, какую принесет ему эта реализация, а о непредвиденных последствиях он в этот момент не знает. Проблема технологий, исторически первых, актуальных сводится к разделению надвое глобального инструментального потенциала. Исстари и до сих пор мы использовали только один вид технологий – направленных на производство энергии или предметов, на транспортировку людей и материалов, одним словом, эти технологии служили нам непосредственно. Их развитие привело к нарушению самовосстанавливающегося равновесия в биосфере, и поэтому следующий шаг в развитии технологий имеет одну исключительную задачу – поддержать это поколебленное равновесие. Таким образом, технологии первой группы служили нам непосредственно, в то время как вторая группа будет этому способствовать лишь косвенно, поскольку их задачей будет не наше благоденствие, а спасение всего земного жизненного пространства.

Аналогом физического труда, выполняемого с использованием технологий, труда по добыче полезных ископаемых и их переработке, их последующей транспортировки на большие расстояния, усилий, необходимых для выталкивания из земной гравитационной «воронки» космических снарядов, энергии для обогрева арктического жилища человека и для охлаждения его экваториального жилья и т.п., – аналогом всего этого является информационная работа, причем важно осознавать, что обе эти работы сходны в физическом смысле: поскольку суть всегда состоит в том, чтобы где-то уменьшилась энтропия за счет ее увеличения в другом месте; к подобной трансакции принуждает нас природа мира, в котором мы существуем. Мы стоим на пороге эры информационных технологий, которые, кроме полезных для нас даров, могут преподнести и дары данайцев. Потому что социально-экономический симбиоз человека и машин в информационном плане может привести к стиранию реальных границ компетенции: взаимовлияние составляющих этого симбиоза может выглядеть таким образом, что уже будет непонятно, кто, собственно, ведущий, а кто – ведомый, или, что то же самое, кто кем правит. Большая и сложная глобальная сеть, которая начнет формироваться, будет обладать очень запутанной структурой собственных закономерностей – мы будем ее успешно строить, предполагая определенные выгоды, несомненно и быстро поддающиеся обнаружению на практике; однако система эта может иметь и другие, невидимые вначале и только поэтому, а не в результате чьего-либо коварства утаенные, – такие динамические черты, что незаметно цивилизация ляжет в дрейф. Повторяю, речь не идет о некоей форме «криптократического» поведения компьютерных сетей; мы также не касаемся уже многократно обсуждаемой угрозы человеческому праву на частную жизнь, вызванной размещением в машинной памяти всех, даже самых интимных данных о каждом индивидууме, – угрозы, которой, если уж она реальна, каким-то образом удалось бы противостоять. Симбиоз машин и людей будет характеризоваться определенным вкладом обеих «сторон» – тем, каков процент их участия в принятии решений, в управлении и контроле. Однако система в целом может иметь динамическую характеристику, неподвластную в своей целостности ни одной из сторон, поскольку никакая система не может себя полностью ни описать, ни контролировать: этот принцип непоколебим. Система не в состоянии создать свой адекватный образ, то есть познать саму себя; благодаря отдельным актам созерцания и обобщения она сможет открыть законы собственного движения, но никогда не сможет обрести полную уверенность, что все законы уже открыты и освоены. Это в состоянии сделать только система более высокого уровня, выполняющая функции контроля над предыдущей. Но организация подобного контроля, которая в сфере информации была бы явным аналогом того разделения, какое сейчас происходит в технологии трудовых процессов, иными словами, создание информатики «второго броска», функционирующей не для нас непосредственно, но только наблюдающей симбиоз людей и машин, чтобы заданное ему равновесие не превратилось в какое-нибудь подобие нежелательного дрейфа, – такая организация может привести к фатальному regressus ad infinitum: или, в свою очередь, следовало бы к контролеру приставить надзирателя еще более высокого уровня, который бы присматривал за контролером: в противном случае возникает вопрос – quis custodiet ipsos custodes?[44]

Конечно, эту проблему мы не можем сегодня решить даже приблизительно – решение это относится к очень неблизкому будущему, но о ней не стоит забывать, поскольку она является свидетельством расхождения предварительных ожиданий человека и их реализации, что, пожалуй, постоянно происходит в нашей истории. Видение бесконечного ряда «информационных зеркал» как пирамиды контроля, подвешенной над цивилизацией будущего – воистину странно, как и сам процесс «отражения», моделирования происходящего на Земле с целью оптимального за ним наблюдения – кажется, что это видение является иронической реализацией стародавних представлений-мифов о высших силах, которым все видно в человеческой жизни – и все подвластно. Если эта бесконечность пирамиды надзора карикатурно представляет функцию Бога, архангелов, престолы, господства и прочую иерархию небесной информатики, то делает это неумышленно: впрочем, такой regressus ad infinitum не поддается воссозданию, а потому информационной машины, которая бы воссоздавала бесконечное контролирующее всеприсутствие Божества, скорее всего никогда не будет.

Сказанное выше наводит на следующие размышления – в различных аспектах:

1) В связи с исключительной новизной рассматриваемого явления характерно разделение исследовательской среды на противоположные лагери. Общее для них – это лозунг «Все или ничего»; сторонники кибернетики ожидали от нее «всего», в то время как критики считали ее сугубо малоценной в познавательном отношении. Значительно реже встречается промежуточная точка зрения; в пользу такой точки зрения я приводил аргументы в 1966 г. в «Сумме технологии», в разделе «Сомнения и антиномии» раздела «Интеллектроника». Поведение критиков, таких как M. Таубе, – ликвидаторское; неисправимые же оптимисты склонны к – в такой же по крайней мере степени вредному – откладыванию сроков, когда «все» будет сказано, или же к форменной фальсификации данных. Типичной в этом смысле может быть книга, изданная в 1968 г. издательством «Галлимар» в серии «Идеи», вышедшая из-под пера Ж.М. Фонты и Ж.С. Кинью, «Упорядочивающие факторы: мифы и реальность» (Les ordinateurs – mythes et realites), в которой полностью уничтожаются различия в степени трудностей при составлении разных частей кибернетической программы и прямо сообщается, что якобы в СССР переведен с английского на русский «некий» роман Диккенса при помощи машины, да так хорошо, что перевод выдержал проверку сопоставлением с литературным переводом, сделанным человеком (что попросту ложь – советские источники ни о чем таком не сообщают). Нашлись логики-профессионалы, поверившие в безграничные возможности кибернетики, если Вонг запрограммировал цифровую машину так, что она за 8,5 минут доказала большую часть теорем из фундаменального труда Б. Расселa и А. Уайтхедa «Principia Mathematica» – а эта работа потребовала от указанных специалистов нескольких лет. В то же время до сих пор нет программы, которая позволила бы вести с машиной ни к чему не обязывающую свободную беседу в «дружеском» тоне. Однако подобная несоизмеримость представляется в ином свете, если вспомнить, что человеческая рука действительно не в состоянии поднять тяжесть, пустяковую для подъемного крана, зато она может выполнить тысячи операций, на которые никакой подъемный кран не способен. Наш мозг с трудом выполняет операции чисто дедуктивные, потому что по-другому – универсально – сконструирован. Об интеллектуальных возможностях в лингвистической области (вербальной) свидетельствует количество участков, где расположены селекторы, формирующие высказывание, их количество в исключительных случаях – например, «трудного» литературного текста – просто бесчисленное. В принципе, машины могли бы уже сейчас переводить небольшие научные тексты достаточно четко – при условии, что их авторы, обстоятельно ознакомившись с особенностями компьютерных программ перевода, согласно этим особенностям и писали бы свои статьи. Однако никто таких дополнительных условий ученым не ставит, потому что жизненный опыт подсказывает, что легче просто выучить иностранный язык в необходимом объеме, чем пытаться высказываться в соответствии с переводческими способностями машины.

2) Оппоненты (например, братья Дрейфусы) утверждают, что машина могла бы сравниться с человеком, если бы сама была живым человекоподобным организмом, то есть попросту человеком, «сотворенным в реторте». Защитники же ссылаются на то, что созданию интеллектуально развитых машин препятствуют обстоятельства, не связанные с кибернетикой, – например, баснословная стоимость, отсутствие рыночного спроса на такие устройства или же чисто технические сиюминутные трудности. Более информированные знают, что все эти аргументы противоречат истине. Трудности имеют природу принципиальную и теоретическую; что же касается спроса, то существуют могущественные круги, заинтересованные в создании переданных военным «усилителей интеллекта», то есть барьер, сдерживающий развитие кибернетики, – не экономического характера. Упорство энтузиастов позволило создать программы игры в шахматы, обыгрывающие каждого, даже выше среднего уровня шахматиста, кроме мастеров мирового уровня, но этот успех является результатом совершенствования технических параметров обработки информации, а не преодоления барьеров научного поиска и выхода на более высокий уровень интеллектуальных возможностей компьютера. Как апологеты, так и противники кибернетики переиначивают положение дел. В принципе, фигурой умолчания оптимистов была возможность обойти все те действия, которые реализовывала, создавая нас, природная эволюция. Они рассчитывали на то, что развитие эволюции эквифинально алгоритмическим и эвристическим операциям, которые можно быстро механизировать. Однако, как свидетельствует об этом, к примеру, книга «Artificial Intelligence through Simulated Evolution»[45] (изданная в 1966 г., авторы: L.J. Fogel, A.J. Owens и V.J. Walsh) – выводы которой удивительно совпадают с моими из «Суммы технологии» (первое издание 1964 г.), – немало специалистов понимает необходимость выхода на более широкие позиции: исследование моделей биоэволюции как «экзаменатора» функционирования также и в интеллектуальном аспекте. Таким образом, согласно этим авторам, моделирование эволюционных процессов является необходимой предпосылкой автоматизации интеллекта.

3) Выскажемся, наконец, прямо: во всей рассматриваемой нами области абсолютно не обязательна дихотомия, на основании которой нужно или исповедовать веру в машины, равные человеку, – или не быть таким верующим и тем самым признавать неколебимое превосходство человека над его созданиями в умственной сфере. Совершенствование благодаря технологическому прогрессу параметров машин не приведет само собой создателей компьютеров к пределу, после которого возможно будет конструировать умные машины, но и синтетически сконструированный человек, взятый сам по себе, не будет равен природному homo sapiens. Задание оказалось на несколько уровней сложности более трудным, чем это казалось двадцать лет назад – однако его нерешаемости никто не доказал. Современные машины легко справляются с операциями трудными или вообще непреодолимыми для человека, в то время как человек справляется с заданиями, недоступными машине. Таким образом, до сих пор пути эволюции автоматизированного и природного интеллекта определенно расходятся. Призыв прагматиков – что следует в связи с этим ограничиться использованием машин там и только там, где они эффективны – практически разумный для современных разработок, – может быть, однако, и вредным, если фигурой умолчания, подразумеваемой в этом призыве, будет отказ от широкомасштабных исследований, венцом которых станет автоматизация самих творческих способностей человека. Потому что препятствием на этом пути – в виде абсолютного запрета – является лишь наше незнание (или нежелание знать). Эта задача непомерна и не по силам одному поколению – конечно; отсюда происходит психологически объяснимая поспешность, а затем – разочарования в результате неоправданных, слишком оптимистичных притязаний. Однако это задача, не потерявшая своей актуальности, – и поэтому рано или поздно она будет решена.