13.3. Автономия, разум и эмоции
13.3. Автономия, разум и эмоции
Но, если вернуться к теории — должно ли это происходить? Ответ на этот вопрос зависит от того, поддержит ли ИИ будущего взгляды на человеческую природу, имеющие религиозную значимость, а именно понятия человеческой свободы, уникальности, эмоций, самости и сознания, в том числе религиозного опыта. Иными словами, он включает в себя весьма сложные и спорные вопросы, относящиеся к теоретической психологии и философии разума.
Далее я собираюсь показать, что ИИ уже предлагает теоретическую поддержку этих понятий. В сущности, он обогащает их, помогая нам понять и оценить то, что в них содержится. Таким образом, как ни парадоксально это покажется многим, ИИ далекого будущего вполне способен углубить наше понимание человечности как таковой.
Ранее я сказала, что системы И–жизни в каком?то смысле автономны. Они не программируются на любые действия, какие только вздумаются программисту, как СДИИ («старый добрый ИИ»: Ходжленд [27]), а действуют сами. Это связано либо со встроенными в них «рефлексами», либо с самоорганизацией снизу. Например, в эволюционирующей робототехнике можно наблюдать постепенное появление роботов, специально приспособленных для выполнения каких?либо задач [18, 29]. Исследователи И–жизни публикуются в журналах, посвященных «Автономным системам» или «Автономным роботам», и рассматривают свои саморегулирующиеся системы как более жизнеподобные (а следовательно, и разумоподобные), чем классический ИИ.
Однако дальнейшие успехи в создании автономных систем такого рода не имеют отношения к нашей нынешней теме. Дело в том, что человеческая свобода — гораздо более широкая и глубокая форма автономии [7]. Она предполагает сознательное самонаправление к тем или иным целям и обдуманный выбор между различными вариантами возможных действий.
В целом свободный выбор направляется моральными принципами (которые могут противоречить друг другу); личными предпочтениями и жизненными целями; житейской мудростью и опытом, в том числе пониманием других людей; а также предвидением возможных последствий своих поступков и сравнением их между собой. Может требоваться понятийный анализ: «Не убий» — но что считать убийством? Часто важную роль играет образ себя, в особенности того, каким человек хотел бы быть. Моральные принципы и житейская мудрость могут передаваться в виде ролевых моделей или историй, часто извлеченных из религиозного контекста (например, Иисус, святые или добрый самаритянин). Значимость этих примеров меняется в зависимости от ситуации. В целом сложный моральный выбор предполагает тонкую игру гипотетических обвинений и оправданий (впрочем, очень сложным бывает и выбор, не носящий морального характера).
Чтобы пролить свет на этот тип свободы, нам требуется не И–жизнь, а ИИ. Коннекционный ИИ помогает нам понять, как мы усматриваем аналогию между новозаветной притчей и собственной жизненной ситуацией ([4], глава 6; [32]). А классический ИИ помогает понять, как в принципе мы структурируем свои мысли и желания и взвешиваем различные противоречивые факторы, решая, что делать ([2], глава 9; [21]).
У очень маленьких детей нет ни свободы, ни моральной ответственности, поскольку необходимая для этого когнитивная и мотивационная сложность у них еще не развита. Например, они судят о том, «хорош» человек или «плох», по результатам его поступков, а не по намерениям, поскольку еще не обладают теорией сознания, позволяющей им осознавать и различать намерения других людей ([5], с. 48). Мэри, разбившую десять тарелок в попытке помочь маме помыть посуду, они называют более «плохой девочкой», чем Джоан, которая разбила всего две тарелки, шаря в буфете в поисках варенья, которое ей есть не полагалось. Теория сознания, как и необходимый для нее жизненный опыт, появляется у детей позже. И только тогда человек становится по–настоящему свободным. (Если она не возникает, человек становится аутистом, что очень серьезно ограничивает его свободу [1].)
Что касается животных, не относящихся к роду человеческому, они не обладают свободой, отличной от простой автономии. Дело в том, что у них нет языка, делающего возможным абстрактное мышление и рассуждение. (Вопрос: может ли собака сделать выбор между различными исходами или выработать план действий? Ответ: не может.)
Кстати сказать, совершенно не к месту здесь обычно вспоминают о детерминизме и индетерминизме [28]. Многие полагают, что для свободного выбора необходим индетерминизм, и приводят принцип Гейзенберга в качестве научного обоснования свободы. Но хотели бы вы, чтобы ваши важные решения, в том числе этические, определялись какой?то внутренней «игрой в орлянку» или квантовым скачком? А как насчет почитаемых религиозных учителей или святых: неужели мы продолжали бы их уважать, если бы выяснилось, что их действия объясняются не религиозными и моральными убеждениями, а случайностью? Короче говоря, индетерминизм в причинах действия убивает истинную свободу — свободу, предполагающую «владение собой» и ответственность. Говорим ли мы о моральном выборе или о творческой оригинальности (часто облекаемой в квазирелигиозные термины) ([4], глава 11), для нас важна сложная структура сознания взрослого человека.
Поскольку ИИ не отрицает этого, более того, помогает нам это понять, нет причин считать, что он должен подорвать веру людей в свободу. Однако такое может случиться, если они и дальше будут рассматривать свободу через призму детерминизма/ индетерминизма, как поступают многие сейчас. Вот яркий пример того, что я имела в виду, называя эти вопросы глубоко проблематичными. Чтобы обсуждать воздействие технологий, необходимо сперва договориться о философских терминах.
Большое значение здесь имеет понятие «образа себя». Работа в области философии ИИ (а также эмпирической психологии) предполагает, что «самость» не является чем?то простым, изначально заданным: это сложная психологическая конструкция, используемая для руководства специфически человеческим поведением ([2], глава 7; [8]; [22], глава 13). Оно включает в себя рефлексию, определяющую приоритеты конкретных целей и ценностей (идеал себя). Пока что ИИ не может дать нам детальных теорий самости, для этого он недостаточно разработан; однако он уже дает нам общее математическое представление о том, что представляет собой этот психологический конструкт и как он возможен.
Даже столь близкий к самости феномен, как скорбь от потери любимого, может быть (в общих чертах) понят в терминах ИИ. Подобно тому как для свободного выбора необходима определенная когнитивно–мотивационная архитектура, так же определенная психологическая архитектура требуется и для возникновения скорби, и для переживания ее на протяжении нескольких месяцев или лет [46]. Скорбь от потери любимого, при всех ее дестабилизирующих эффектах, неизбежна, учитывая психологическую природу — математическую архитектуру — личной любви. Этот тип любви (в отличие от похоти или даже агапе) представляет собой сложно структурированную привязанность, глубоко укорененную в личных когнитивных и мотивационных ресурсах, не в последнюю очередь, в теории сознания [26]. Она вступает в игру всякий раз, когда перед человеком предстает выбор, способный так или иначе повлиять на любимого.
Дети в экспериментах Теркл, как и большинство наших современников, полагали, что ИИ не имеет ничего общего с эмоциями. Но это ошибка. Действительно разумная система, биологическая или искусственная, не может не обладать эмоциями в какой?либо форме. Дело в том, что эмоции вообще, от легкого беспокойства до безутешного горя, необходимы для управления поведением в условиях ограниченности ресурсов и множества конфликтующих мотивов или целей. Они не опциональное дополнение, а математическая необходимость. («У меня только две руки!» — это выражение имеет не только буквальный, но и глубокий психологический смысл.) Наличие эмоций у ИИ признается с конца 1960–х годов (хотя, кажется, часто игнорируется) ([39]; [2], глава 6; [41]; [46]).
Эмоции тесно связаны с религией, поскольку бесстрастная вера вряд ли заслуживает своего имени. Аскетический деизм может приглушать эмоции и определенно отвергает любые личные аспекты Высшего Существа и отношения к Нему людей. Но даже деизм предполагает определенные эмоции — благоговение и трепет. (Без них он превращается в холодную научную космологию.) Анимистские религии могут добавлять к этому страх, радость, агрессию, мольбу, даже благодарность. А полномасштабный теизм включает в себя опыт (иллюзорный или реальный) отношений любви с личным Богом, что выводит нас на ту же базовую психологическую архитектуру, что и чувство скорби.
Однако скорбь здесь невозможна, так же как невозможно для разумного взрослого человека испытывать негодование из?за дождя. (Раздражение, быть может, но не негодование.) В особенности невозможно это потому, что здесь любимый (как мы верим) не может ни умереть, ни изменить. Точнее, в это невозможно поверить, пока тверды наши богословские убеждения. Но иногда они колеблются. Тогда могут возникнуть эмоции, сравнимые со скорбью, негодованием или горьким разочарованием; вспомним возглас псалмопевца: «Боже мой, Боже мой, для чего Ты меня оставил?» С богословской точки зрения испытывать подобные эмоции столь же неверно, как негодовать на дождь; правильное отношение к Богу даже пред лицом самых черных злодейств и бедствий — непоколебимое доверие Иова. Ибо невозможно, буквально невозможно, чтобы Бог покинул народ свой. Бросить в беде — самый мерзкий из видов предательства, ибо бросить может только сильный и только слабого ([3], с. 80–86). Наши представления о личной любви исключают предательство во всех его формах, и прежде всего — способность бросить в беде. (Вот почему цитата из псалмопевца в устах Иисуса на кресте так же глубоко проблематична, как и «искушение» его дьяволом.)
Короче говоря, такие эмоции, как любовь, скорбь или негодование, — это не просто чувства. Скорее это тонко структурированные психологические диспозиции, создаваемые сложной вычислительной архитектурой.
Однако практическая работа с ИИ (законченными компьютерными моделями) дает немного оснований для выводов о самости и эмоциях. Один из ранних исследователей ИИ, а также доктор медицины и практикующий психоаналитик попытался проверить на ИИ фрейдовскую теорию невроза. Его интересовало то, как суперэго порождает тревогу; как тревога распространяется на предметы, аналогичные представляющим реальную угрозу; как выбирается один из доступных защитных механизмов (проекция, замещение, отрицание и т. п.) и как эти механизмы влияют на специфические трансформации вызванных тревогой представлений ([19], см. главы 2–3). Позже он попытался также смоделировать системы вызванных тревогой представлений, характерные для параноидной шизофрении [20]. Но эти попытки были явно незрелыми; достаточно трудно заставить компьютер рационально стремиться даже к одной цели, не говоря уж о смешении нескольких мотивов под влиянием тревоги и/или суперэго.
Современные исследования ИИ включают в себя более реалистичную (хотя и далеко не столь амбициозную) стимуляцию эмоций и изучение их способности регулировать поведение в условиях нескольких потенциально конфликтующих целей. Самый удачный пример на сегодняшний день — это эмоциональная история няни, ухаживающей за дюжиной младенцев: каждого из них нужно кормить, пеленать, ласкать и развлекать в разное время и с разной интенсивностью и каждого немедленно спасать, если он подползет слишком близко к реке или к дороге [45]. (У няни, разумеется, только две руки, она не может делать все сразу и потому вынуждена составлять себе определенное «расписание».) Но даже такая модель ИИ пока еще, увы, очень груба и не затрагивает ни образа себя, ни понятия самости.
В далеком будущем ИИ может сильно измениться. По причинам, которые объясню ниже, я не верю, что когда?нибудь он сможет воспроизводить все сложности и тонкости человеческого сознания. Однако не сомневаюсь, что ИИ далекого будущего смогут воспроизводить гораздо больше эмоций и делать это намного тоньше. Возможно, они будут включать в себя даже эффективное различение образа системы и идеала системы. В сущности, почему бы и нет? Марвин Мински, первопроходец ИИ, давным–давно указывал на то, что сложному разуму необходим образ себя [34] (и некоторые ранние ИИ–программы в его лаборатории могли исследовать собственное поведение в свете своих целей и соответствующим образом его исправлять [42]). Это в принципе возможно, поскольку понятие рекурсии делает возможной рефлексивную обработку информации. Так исчезает «парадокс» ссылки на самого себя.