Роботехника[25]

Мы живем в эпоху всеобщей специализации. Здесь мне хотелось бы ограничиться одной темой в области развития электроники. Сначала признаюсь, что я никогда не предвидел распространяющейся моды на неживые, но подвижные и даже наделенные голосом существа, которые становятся все более популярными заменителями домашних животных. У них имеются различные встроенные датчики, они могут передвигаться, но единственное, что я не в силах понять, – это большой покупательский спрос на этих псевдоживотных, так как они, по-моему, годятся только в качестве игрушек для детей. Тем временем в рекламе я читаю, что эти псевдособачки или кошечки, или пластиковые имитации коал приносят якобы своим взрослым владельцам много приятных минут. Эти псевдоживотные, питающиеся электрическим током, представляют собой пример многочисленных новых созданий, выброшенных на рынок по принципу, что недостаточно лишь удовлетворять потребности, надо их еще и создавать. Мне кажется, что эти пластиковые создания должны некоторым образом быть предзнаменованием (или прелюдией) якобы неотвратимо наступающей эпохи роботов.

О роботах давно уже писали в научной фантастике[26] и помимо нее, но никто не относился достаточно серьезно к их предполагаемому или выдуманному присутствию. Сегодня же началось настоящее незаметное и разнообразное их проникновение, которое точно я описать не смогу, но определенное представление о нем могу предложить.

Примитивные гомеостаты пятидесятых годов, которые, собственно, и не перешагнули порога лабораторий, могли обходить преграды на ровной поверхности, а при снижении напряжения в аккумуляторах, приводящих их в движение, могли добраться до контакта, питающего их электричеством. Хотя они ни на что не годились, кроме как для поддержания у конструкторов хорошего настроения.

С каждым годом растет количество устройств, которые становятся все более и более успешными посредниками между человеком и объектом его воздействия. У нас уже есть манипуляторы, незаменимые при обработке субстанций, которые могли бы нанести вред человеку при непосредственном контакте (например, радиоактивные). В современной хирургии появились необычайно тонкие приспособления, которые с разной степенью умения могут, например, производить врачебные процедуры вроде операций на сосудах или тканях. Есть также так называемые педипуляторы, но конструкторы, по всей видимости, не очень доверяют их самостоятельности при использовании в качестве движущихся спускаемых аппаратов на Луне, Марсе или других планетах, поэтому пока высылаются не подобные членистоногим, а скорее колесные транспортные средства, как это было с американскими «лунными машинами» или со спускаемыми аппаратами, отправленными на Марс. К совершенствованию и увеличению числа подобных (не обязательно шагающих) аппаратов конструкторов вынуждает просто даже расстояние до Земли, растущее так, что если раньше человек мог управлять луноходом, то сейчас он уже не может с Земли руководить движущимся разведчиком на Марсе.

Наиболее интересно развивается роботехника sensu stricto[27]. И не важно, должны ли роботы, которым таким образом предоставлена самостоятельность, быть похожи на человека. Собственно, их «анатомия» несущественна, потому что в основном уже преодолены трудности, связанные с приведением в движение этих устройств, которые двадцать лет назад умели ходить только по такой плоской поверхности, как пол лаборатории, и падали на первых же хороших ступеньках. Самым твердым орешком является вопрос имитации центральной системы управления (или центральной нервной системы высших животных или человека). Надо честно сказать, что речь идет о вступлении в не существующую еще область психозоической инженерии. В последние годы были существенно усовершенствованы встраиваемые в роботы программы, благодаря чему они уже могут не менее качественно, чем люди, работать на автомобильных и тракторных заводах. Основой для работы устройств, однако, является достаточно ограниченная повторяемость рабочих операций. Я не буду больше углубляться в затягивающие сети инженерного мастерства. Для программистов настоящим препятствием по-прежнему являются будто бы простые действия, выполняемые каждым человеком без усилий. Устройства, которые могут как-то убрать в комнате пыль с минимумом приносимого ущерба, по-прежнему являются непропорционально дорогими. В общем говоря, ситуация такова, что роботы или псевдороботы овладели только отдельными, сугубо специализированными функциями. Они могут выполнять рекомендации или приказы, но этого недостаточно для удовлетворения амбиций проектировщиков. Они ведут речь о роботах, которые, возможно, совершенно не похожи на человека, но проявляют такую самостоятельность в действиях, которая следует из решения как волевого акта. С этим же проблема потому, что мы по-прежнему не знаем, какие неврологические механизмы мозга отвечают за акт воли. Поэтому программисты занимаются созданием таких программных систем, которые имитируют наличие бихевиористически понимаемого сознания. Таким образом, возникло направление, которое должно не столько пройти, сколько обойти тест Тьюринга.

Я уверен, что как количество, так и качество этих программ, обычно ориентированных на очередные поколения параллельно работающих компьютеров, а также на смешанные соединения псевдонейронных сетей, будут достигать все большего уровня точности и тем самым будут все лучше имитировать присутствие обладающего умом сознания, которое многими людьми будет восприниматься как индивид или как воплощенная в машине индивидуальность. В определенном смысле это будет обман людей как собеседников или сотрудников машиной, так как настоящим, присущим личности, сознательным интеллектом, называемым психической жизнью, имитаторы этого типа еще обладать не будут. Следует уяснить себе, что эта дорога ведет к нагромождению трудностей, которые в моем «Големе» я назвал hill climbing toposophical theory[28]. Речь идет о вступлении на территорию, пока недоступную для механических пришельцев, которая находится в наших черепах. Невозможен некий неожиданный скачок от полностью безвольного устройства, пусть даже иногда оказывающего сопротивление, которое мы скорее склонны назвать ослиным упрямством и которое известно пользователям зависающих компьютеров. Прогрессирующая компактность (сжатие) информационных носителей, которые будут все более совершенными эквивалентами твердых дисков, не может обеспечить абсолютную безошибочность. Одна логическая ошибка на миллиард элементарных вычислений – это доказанный недостаток самых быстрых машин, обладающих наибольшей вычислительной мощностью. Не вдаваясь в подробности, скажу только, что за растущую, даже постепенно, быстроту операций надо платить появлением ошибок; быстрота операций, перевалив за биллион логических шагов, начинает душить логически измеримую, ранее признаваемую совершенной безошибочность системы.

Мозг наш является, как сказал фон Нейман, совершенной системой, созданной из несовершенных нейронных элементов. Это еще и потому, что к каждому закодированному в человеческой памяти понятию ведет разнообразное количество дорог. Например, если я не могу вспомнить, как называется всем известная птица с красиво выгнутой шеей, то я мог бы выбирать из памяти правильное название (лебедь) или начинать припоминать обороты типа «лебединая песня», или даже балет «Лебединое озеро». А к находящимся в памяти компьютера «энграммам» обычно ведет одна дорога, поэтому ее блокировка приводит к полной «амнезии» компьютера. Подобных проблем, противостоять которым может только значительный охват сетями элементов памяти, будет множество. Тем более что у самих людей есть трудности с припоминанием названий, таких, как фамилии, потому что количество их пересечений со всем запасом нашей языковой идиоматики, вообще говоря, скромное. Надо также понимать, что от так называемого information retrieval[29] до псевдоинтеллектуальной независимости еще очень далеко.

Пока можно было бы выразить проблему такой фразой: распознавание сымитированной активности искусственного интеллекта будет зависеть как от точности машинного имитатора, так и от критических способностей настоящего человеческого интеллекта в контактах, носящих характер n-мерной игры. Если правда, что количество возможных шахматных партий составляет 10¹⁰⁰, то количество возможных вариантов разговора человека с искусственным интеллектом и сосчитать невозможно, потому что каждый человек среднего интеллекта способен составлять и понимать семантически и синтаксически правильные предложения, которым его никто до этого времени не обучал. Когда машины продемонстрируют такое лингвистическое совершенство и будет ли это вообще, мы не знаем, и поэтому не стоит слишком доверять как негативным, так и позитивным заявлениям резвящихся на этом поле философов. Не какие-то крупнокалиберные, выдвигаемые на поле боя аргументы «за» и «против» в далеком будущем позволят сделать вывод о возникновении или крахе искусственной разумности. Без множества мечтаний, попыток, катастроф не было бы авиации. Без неустанных штурмов не может появиться искусственный интеллект. Предрешение этого спора я считаю преждевременным.