8.2. Что компьютеры умеют делать хорошо… и что не очень

8.2. Что компьютеры умеют делать хорошо… и что не очень

Даже зная о том, что существующая концепция компьютера не позволяет достичь ни подлинной разумности, ни какого бы то ни было осознания себя, ни в коем случае не следует сбрасывать со счетов огромную мощь современных компьютеров, которая в ближайшей перспективе, по-видимому, увеличится и вовсе до невообразимых пределов (см. §§1.2, 1.10 и [267]). Пусть эти машины и не понимают того, что они делают, они делают это невероятно быстро и точно. Не смогут ли компьютеры таким образом (пусть и неразумным) достичь — к тому же с большей эффективностью — тех же результатов, для получения которых мы используем разум? Можем ли мы сказать заранее, в каких областях компьютерные системы добьются больших успехов, а в каких им никогда не удастся превзойти разум?

Уже сегодня компьютеры замечательно играют в шахматы — приближаясь к уровню лучших гроссмейстеров-людей. В шашки компьютер «Чинук» обыграл всех противников за исключением абсолютного чемпиона мира Мариона Тинсли. А вот в древней восточной игре го компьютеры, как выясняется, не сильны. Компьютер здесь получает преимущество только в том случае, когда продолжительность хода ограничена; если же дать человеку достаточно времени на ход, то компьютер, как правило, оказывается в проигрыше. Шахматные задачи глубиной в два-три хода компьютер решает практически мгновенно, вне зависимости от того, насколько сложной находит задачу человек. С другой стороны, простая по замыслу, но требующая для решения, скажем, пятьдесят или сто ходов задача может привести к полному поражению компьютера, тогда как опытный шахматист-человек, возможно, никаких трудностей и не встретит (см. также §1.15 и рис. 1.7).

Эти особенности по большей части объясняются различиями в способностях, присущих компьютеру и человеку. Компьютер всего лишь выполняет вычисления, не понимая при этом, что он делает, — хотя он и пользуется опосредованно тем пониманием, которое программисты вложили в написание программы. Компьютер может хранить и использовать большой объем информации; человек, впрочем, на это тоже способен. Компьютер может многократно, чрезвычайно быстро и точно выполнять предписанные ему программистами операции; его действия абсолютно бездумны, но по скорости и точности далеко превосходят возможности любого человека. Игрок-человек оценивает ситуацию и составляет осмысленные планы, располагая при этом общим пониманием игры вообще и данной конкретной позиции в частности. Эти способности компьютеру абсолютно недоступны, однако недостаток действительного понимания он зачастую с успехом заменяет вычислительной мощью.

Предположим, что количество возможных вариантов, которые компьютеру необходимо рассмотреть за один ход, равно, в среднем, p; тогда при глубине в m ходов компьютеру придется рассмотреть p^m альтернатив. Если расчет каждой альтернативы занимает в среднем время t, то полное время T, необходимое для расчета задачи на такую глубину, составит

T = t ? p^m.

В шашках число p не бывает очень большим — скажем, четыре, — что позволяет компьютеру за отведенное ему время просчитывать дальнейшую игру на значительную глубину, вплоть до двадцати ходов (m = 20), тогда как в игре го нередки ситуации, когда p = 200, и сравнимая по мощности компьютерная система справится в этом случае не более чем с пятью (m = 5) ходами или около того. Шахматы располагаются где-то посередине. Кроме того, необходимо учесть, что человеческие оценки и понимание гораздо медленнее, нежели компьютерные вычисления (для человека t велико, для компьютера — мало), однако с помощью этих оценок человек способен значительно сократить эффективное число p (для человека эффективное значение p мало, для компьютера — велико), поскольку достойной дальнейшего рассмотрения человек сочтет лишь малую часть всех доступных альтернатив.

В общем случае из этого следует, что в играх, где p велико, но может быть значительно уменьшено посредством понимания и оценки, относительное преимущество получает игрок-человек. При достаточно большом T человеческая способность сократить «эффективное p» увеличивает m в формуле T = t ? p^m гораздо быстрее, нежели этого можно добиться, уменьшая t (что как раз очень хорошо умеют делать компьютеры). Однако при малом полном времени T более эффективным оказывается уменьшение t (поскольку существенные для данной игры значения m будут, скорее всего, тоже небольшими). Эти выводы представляют собой простые следствия из «экспоненциальной» формы выражения T = t ? p^m.

Приведенное рассуждение страдает некоторой упрощенностью, однако суть его, полагаю, достаточно ясна. (Если вы не математик, но хотите получить представление о том, как ведет себя выражение t ? p^m, попробуйте подставить в него различные значения t, p и m.) Я не вижу особого смысла углубляться здесь в подробности, но кое-что, думаю, следует прояснить. Кто-то, возможно, полагает, что «большая глубина вычисления», выражаемая числом m, — это вовсе не то, чего стремится достичь игрок-человек. Спешу разуверить: в действительности человек стремится именно к этому. Когда игрок-человек определяет ценность позиции на несколько ходов вперед, а затем решает, что дальше ее просчитывать смысла нет, такое вычисление является в действительности вычислением гораздо большей глубины, поскольку человеческая оценка охватывает и возможный эффект нескольких последующих ходов. Как бы то ни было, с помощью упрощенных соображений такого рода можно в общих чертах понять, почему научить компьютер хорошо играть в го гораздо сложнее, чем научить его хорошо играть в шашки, почему у компьютеров лучше получается решать короткие шахматные задачи и почему компьютеры получают относительное преимущество в играх с ограничением на время хода.

Подчеркнем еще раз главное отличие: человеческий мозг обладает способностью, какой компьютер принципиально лишен, — мозг способен выносить суждения, основанные на понимании. Именно это различие и приводит к следствиям, описанным в общем виде в вышеприведенных простых рассуждениях (а также в рассуждениях относительно шахматной задачи, представленной на рис. 1.7 в §1.15). Сознательное понимание — процесс сравнительно медленный, однако он может значительно сократить число альтернатив, требующих серьезного рассмотрения, существенно увеличив таким образом эффективную глубину вычисления. (По достижении определенной точки необходимость в рассмотрении отдельных альтернативных вариантов и вовсе отпадает.) И вообще, всем, кому интересно, чего компьютеры могут достичь в будущем, я, думается, могу дать хорошую подсказку: попытайтесь ответить на вопрос, требуется ли для выполнения той или иной задачи подлинное понимание. Многие вещи в нашей повседневной жизни не требуют для своего выполнения какого-то особого понимания, и вполне возможно, что с ними отлично справятся роботы с компьютерным управлением. Уже сейчас существуют управляемые искусственными нейронными сетями машины, успешно выполняющие такого рода задачи. Например, машины научились достаточно хорошо распознавать лица, производить геологическую разведку, находить по звуку неполадки в работе различных механизмов, разоблачать мошенничества с кредитными картами и т.д.^{99} Там, где применение таких машин возможно, их эффективность в общем случае приближается к средней эффективности экспертов-людей (а порой и превосходит ее). Однако вследствие особенностей необходимого в данном случае «восходящего» программирования, мы не увидим здесь того уровня мощной машинной «компетентности», какой присущ нисходящим системам (скажем, шахматным компьютерам), или того, что — еще более впечатляюще — демонстрируют компьютеры при выполнении обыкновенных численных расчетов, в каковой области даже лучшие вычислители-люди и близко не подходят к производительности средних по сегодняшним меркам компьютеров. Что же касается задач, с которыми эффективно справляются искусственные нейронные сети (восходящего типа), то задействуемое в выполнении таких задач людьми понимание, если честно, едва ли превышает способности компьютеров, поэтому в таких областях от компьютеров можно ожидать некоторого ограниченного прогресса. Там, где компьютерные программы имеют по большей части нисходящую организацию (прямые расчеты, шахматные программы, научные вычисления), компьютеры способны достичь огромной мощности и эффективности. В этих случаях компьютер также не нуждается в подлинном понимании выполняемых им действий, только здесь все необходимое понимание предварительно вложено в программу человеком (см. §1.21).

Следует упомянуть и о том, что в системах нисходящего типа очень часты компьютерные ошибки, возникающие из-за ошибок в программах. Впрочем, такая ситуация является результатом человеческой ошибки, а это совершенно иное дело. Существуют — и порой даже приносят реальную пользу — автоматические системы исправления ошибок, однако они способны выловить далеко не все ошибки, некоторые оказываются им не по зубам.

Опасность чрезмерно доверчивого отношения к системам с полным компьютерным управлением хорошо иллюстрируется ситуациями, в которых упомянутая система в течение долгого времени работает вполне приемлемо, создавая, возможно, у человека впечатление, что она понимает, что делает. И вдруг неожиданно она выкидывает нечто совершенно безумное, что недвусмысленно показывает, что никакого подлинного понимания в ее действиях никогда не было (как в случае с неспособностью компьютера «Deep Thought» решить шахматную задачу, изображенную на рис. 1.7). Так что никогда не теряйте бдительности. Вооруженные знанием того, что «понимание» просто-напросто не является вычислительным качеством, мы всегда должны помнить: никакой робот с компьютерным управлением таким качеством ни в коей мере обладать не может.

Разумеется, в отношении обладания способностью к пониманию люди и сами очень друг от друга отличаются. Как и компьютер, человек тоже может создать у окружающих впечатление присутствия в его действиях понимания, когда на самом деле никакого понимания там нет. Как правило, имеет место своего рода компромисс между подлинным пониманием, с одной стороны, и памятью и способностью к счету — с другой. Компьютеры сильны в последнем, но не способны достичь первого. Как хорошо известно преподавателям на всех уровнях (но, увы, не всегда известно правительственным чиновникам), гораздо более ценной во всех отношениях является способность к пониманию. Именно понимания (а не просто попугайского зазубривания правил и фактов) стремится добиться от своих учеников учитель. Одно из требований к составителю экзаменационных билетов (особенно в математике) как раз в том и заключается, чтобы по ответам абитуриента на вопросы можно было бы судить о его способности именно к пониманию, отдельно от способностей к запоминанию или счету — хотя эти последние, надо признать, также не лишены некоторой полезности.