1. Машинное сознание

1. Машинное сознание

Может ли машина быть сознательной? Может ли надлежащим образом запрограммированный компьютер действительно иметь ум? Эти вопросы были предметом громадного множества дискуссий в последние десятилетия. Исследования в области искусственного интеллекта (или ИИ) в значительной своей части были нацелены на воспроизведение ментального в вычислительных машинах. О серьезном прогрессе говорить пока не приходится, но сторонники этого подхода доказывают, что у нас есть все основания считать, что в итоге компьютеры действительно обретут ум. В то же время, оппоненты доказывают, что у компьютеров есть некие ограничения, которых лишены люди, так что не стоит и вопроса о том, чтобы сознающий ум возникал в силу одних лишь вычислительных процессов.

Есть два вида типичных возражений против искусственного интеллекта. Это могут быть внешние возражения, когда пытаются показать, что вычислительные системы никогда не смогли бы даже вести себя подобно когнитивным системам. Согласно этим возражениям, люди обладают определенными функциональными способностями, которые никогда не могли бы быть у компьютеров. Так, иногда утверждается, что, поскольку эти системы следуют правилам, они никогда не смогут демонстрировать творческое или гибкое поведение, свойственное людям (напр., Dreyfus 1972). Другие доказывали, что компьютеры никогда не смогут воспроизвести математические интуиции человека, так как вычислительные системы, в отличие от людей, ограничены теоремой Геделя (Lucas 1961; Penrose 1989).

Внешние возражения наталкивались на трудности, связанные с успехами вычислительных симуляций физических процессов в целом. Кажется, в частности, что у нас есть серьезное основание верить в вычислимость законов физики, так что мы по крайней мере должны быть способны осуществить вычислительную симуляцию человеческого поведения. Иногда это оспаривается доводами о невычислимом компоненте физических законов (так поступает Пенроуз) или о нефизической причинности (как это делает Лукас), но очевидно, что сторонники подобных доводов ведут неравный бой.

Большее распространение получили возражения, называемые мной внутренними. Те, кто высказывает их, хотя бы в целях своей аргументации признают, что компьютеры могли бы симулировать человеческое поведение, но доказывают, что они все равно были бы лишены ментального. В частности, предполагается, что у них не было бы внутренней жизни: ни сознательного опыта, ни подлинного понимания. В лучшем случае компьютер мог бы симулировать, но не воспроизводить ментальность. Наиболее известным возражением этого типа является аргумент «Китайской комнаты» Джона Серла (Searle 1980). Согласно этим возражениям, вычислительные системы в лучшем случае были бы наделены пустыми оболочками ментального: они были бы кремниевыми разновидностями зомби.

Сторонники нередуктивного взгляда на сознательный опыт нередко симпатизировали внутренним возражениям против искусственного интеллекта, и многие доказывали, что простой компьютер не может обладать сознанием. Более того, те, на кого произвела впечатление проблема сознания, подчас характеризовали эту проблему, указывая на сознание как на такую черту, которая есть у нас, но отсутствовала бы у любого компьютера! Многим оказалось трудно поверить, что искусственная, небиологическая система могла бы быть тем, что могло бы порождать сознательный опыт.

Однако нередуктивный взгляд на сознание вовсе не автоматически приводит к пессимистическим воззрениям на ИИ. Это совершенно разные вопросы. Первый имеет отношение к прочности сопряжения физических систем и сознания: конституируется ли сознание физическими процессами, или же оно всего лишь возникает из этих процессов? Второй вопрос касается формы этого сопряжения: какие именно физические системы порождают сознание? Разумеется, не очевидно, что выполнение надлежащего вычисления должно порождать сознание; но не очевидно и то, что нейронные процессы в мозге должны порождать его. И, на первый взгляд, не ясно, почему компьютеры должны уступать мозгу в этом отношении. Признав удивительный факт порождения мозгом сознания, мы не испытаем нового удивления, обнаружив, что вычисление могло бы порождать сознание. Так что само по себе принятие нередуктивного взгляда на сознание должно было бы оставлять рассматриваемый нами вопрос открытым.

Рис. 9.1. Bloom County о сильном ИИ (© 1985, Washington Post Writers Group. Перепечатано с разрешения).

(1) — Я мыслю. Следовательно…

(2) — Я существую. Я существую!

(3) — Я мыслю! Следовательно, я живой! Я живой, у меня есть жизнь, мысли и психика! Сладкое сознание!.. И бессмертная душа! — Хлоп!

В этой главе я пойду дальше и попытаюсь показать оправданность амбиций сторонников искусственного интеллекта (рис. 9.1). В частности, я буду отстаивать позицию, которую Серл называет сильным искусственным интеллектом и которая состоит в том, что существует непустой класс вычислений, такой, что осуществление любого вычисления этого класса достаточно для ментального и в том числе для существования сознательного опыта. Конечно, эта достаточность имеет силу лишь естественной необходимости: осуществление любого из этих вычислений при отсутствии сознания является логически возможным. Но мы видели, что это верно и для мозга. При оценке перспектив машинного сознания в актуальном мире нас интересует естественная возможность и необходимость.

(Чтобы этот не вывод не казался тривиальностью, учитывая панпсихистские предположения, высказанные в предыдущей главе, замечу, что ничто в этой главе не зависит от тех соображений. В самом деле, я буду доказывать не только то, что осуществление надлежащего вычисления достаточно для сознания, но и то, что осуществление надлежащего вычисления достаточно для богатого сознательного опыта, подобного нашему.)

Я уже выполнил большую часть работы, которая требуется для указанной защиты сильного ИИ, обосновывая в главе 7 принцип организационной инвариантности. Если тот аргумент верен, то он устанавливает, что любая система с надлежащим типом функциональной организации наделена сознанием — неважно, из чего она сделана. Так что мы уже знаем, что, скажем, кремниевый состав не является преградой для обладания сознанием. Остается лишь прояснить связь между вычислением и функциональной организацией, чтобы установить, что осуществление надлежащего вычисления гарантирует наличие релевантной функциональной организации. Если это сделано, то отсюда вытекает сильный ИИ. Я также отвечу на ряд возражений, выдвинутых против проекта сильного ИИ.