2. Сознательные роботы

Я собираюсь представить второй мысленный эксперимент, дабы подкрепить выводы, извлеченные из первого. Цель данного эксперимента, как и предыдущего, заключается в том, чтобы с помощью своих интуиции попытаться вбить клин между ментальными состояниями и поведением. Вообразим, будто мы конструируем роботов для работы на промышленной линии. Вообразим также, что наши роботы слишком грубоваты и склонны приводить в беспорядок наиболее тонкие элементы своей задачи. Но также вообразите, что нам достаточно известны электрохимические свойства человеческого сознания, чтобы знать, как создавать роботов с довольно низким уровнем сознания, и таким образом мы оказываемся способными конструировать и выпускать сознательных роботов. Далее вообразите, что эти сознательные роботы способны различать то, что не могут различать бессознательные роботы, и поэтому первые на производственной линии добиваются большего. Разве в сказанном содержится какое-нибудь противоречие? Должен сказать, что согласно моим “интуициям”, все это прекрасно согласовано. Разумеется, это научная фантастика, но тогда и многие из наиболее важных мысленных экспериментов в философии и науке являются научной фантастикой.

А вот сейчас вообразим одно, достойное сожаления свойство наших сознательных роботов: предположим, что они совершенно несчастны. Опять же мы можем представить, что знания нашей нейрофизиологии достаточно нам для установления того, что они крайне несчастливы. Итак, вообразим, что мы даем нашей исследовательской группе роботов следующую задачу: сконструируйте робота, который обладал бы способностью делать те же самые различения, что и сознательные роботы, но который был бы совершенно лишен сознания. Мы тогда могли бы позволить этим несчастным роботам возвратиться к более гедонически удовлетворительному прошлому. Это мне представляется хорошо сформулированным исследовательским проектом; и мы можем предположить, что, выражаясь в операциональном духе, наши ученые пытаются сконструировать робота с такой “начинкой”, которая, как им известно, не породит и не будет поддерживать сознание, но будет обладать теми же самыми функциями на входе и выходе, что и робот, обладающий “начинкой”, порождающей и поддерживающей сознание. Тогда мы могли бы предположить, что они добились успеха и построили робота, совершенно лишенного сознания, но обладающего поведенческими способностями и возможностями, абсолютно тождественными с теми же способностями сознательного робота.

Цель этого эксперимента, как и осуществленных ранее экспериментов, показать, что в той мере, в какой затрагивается сознание, поведение просто не имеет к этому никакого отношения. Мы могли бы иметь идентичное поведение двух различных систем, одна из которых обладает сознанием, а другая совершенно бессознательна.