Права — роботам?

(в соавторстве с Агатой Саган)

МЕСЯЦ НАЗАД КОМПАНИЯ Gecko Systems объявила, что тестирует «полностью автономного персонального робота-компаньона и помощника по хозяйству», называемого также carebot — робот-сиделка. Он разработан для пожилых людей и инвалидов, чтобы с его помощью они получили возможность жить и обслуживать себя самостоятельно и ни от кого не зависеть. Компания сообщает, что женщина с потерей краткосрочной памяти просияла, когда робот спросил ее: «Хочешь мороженого?» Она ответила: «Да», а робот обо всем позаботился.

Роботы умеют уже очень многое, от сборки автомобилей до обезвреживания бомб или, что страшнее, до управления ракетным огнем. Дети и взрослые возятся с роботами-игрушками, а роботы-пылесосы избавляют от пыли все больше домов и, судя по роликам на YouTube, развлекают все больше котиков. У роботов даже есть свой чемпионат мира по футболу — Robot World Cup, хотя, судя по уровню игроков, который мы видели на последнем таком мероприятии в Граце (Австрия) прошлым летом, футболистам пока не стоит беспокоиться. (А вот шахматистам — уже пора.)

Большинство роботов для дома имеют функциональный дизайн. Домашние помощники от Gecko System очень похожи на робота R2-D2 из «Звездных войн». Роботы, которых делают Honda и Sony, больше похожи на андроида C-3PO из той же эпопеи. Однако уже появились и роботы с мягкими гибкими телами, человеческими лицами и мимикой и большим репертуаром движений. Демонстрационная модель компании Hanson Robotics по имени Альберт лицом поразительно похожа на Альберта Эйнштейна.

Скоро ли гуманоиды поселятся в наших домах? Ноэль Шарки, профессор Шеффилдского университета в области искусственного интеллекта и робототехники, прогнозирует, что работающие родители будут охотно пользоваться роботом-няней, и тревожится о том, как отразятся на ребенке эти часы в обществе машины, не способной к эмпатии, пониманию и сочувствию. Еще один законный вопрос — почему мы разрабатываем энергоемких роботов как раз для тех немногих занятий — уход за детьми или престарелыми, — где могут найти работу люди без образования?

В книге «Любовь и секс с роботами» (Love and Sex with Robots) Дэвид Леви идет дальше и допускает, что мы будем влюбляться в теплых, приятных на ощупь роботов и даже заниматься с ними сексом. (Если у этого робота больше одного полового партнера, просто извлеките соответствующие части, подержите их в дезинфицирующем растворе, и готово. Никакого риска подхватить инфекцию, передающуюся половым путем!) Но как отразится на супружеских отношениях присутствие в доме секс-бота? Что мы почувствуем, когда окажется, что супруга проводит слишком много времени в обществе неутомимого робота-любовника?

Еще тревожнее вопрос, хорошо знакомый нам по книгам и кино: не придется ли нам однажды защищать свою цивилизацию от разумных машин, которые мы сами же и создали? Некоторые считают появление сверхчеловеческого искусственного интеллекта неизбежным и ждут, что это случится не позже 2070 года. Они называют этот этап сингулярностью и считают, что он полностью преобразит мир.

Элиезер Юдковский, один из основателей Института сингулярности и исследований искусственного интеллекта, считает, что сингулярность вызовет «взрывообразный рост разумности»: сверхразумные машины начнут создавать еще более разумные машины и так далее, поколение за поколением. Более осторожная в своих прогнозах Ассоциация развития искусственного интеллекта учредила специальную экспертную панель, изучающую то, что называют «возможной потерей контроля над компьютерным интеллектом со стороны человека».

Если это случится, ключевым для цивилизации станет вопрос: будут ли сверхразумные компьютеры дружественными? Не пора ли задуматься, что можно сделать, чтобы наши собственные создания не превратились во врагов?

Впрочем, пока что беспокоиться стоит не о том, что роботы могут причинить вред человеку, а, наоборот, о том вреде, который роботам можем причинить мы. Сейчас они просто вещь, собственность. Но что, если, усложняясь, они начнут испытывать чувства? В конце концов, что такое человеческий мозг, как не очень сложная машина?

Если машины обзаведутся сознанием, будем ли мы считаться с их чувствами? История отношений с единственными из известных нам чувствующих существ, кроме людей, — с животными — не позволяет надеяться, что чувствующие роботы станут для нас не имуществом, а существами, с чьими моральными правами и интересами необходимо считаться.

Ученый-когнитивист Стив Торренс отмечает, что мощные технологические инновации, например автомобили, компьютеры и телефоны, имеют тенденцию распространяться быстро и неконтролируемым образом. Появление в таком масштабе сознательных роботов, которых мы не примем в свой круг существ моральных, может привести к массовому дурному обращению с ними.

Еще сложнее вопрос, как понять, что робот уже обладает сознанием, а не просто имитирует сознание, потому что его так запрограммировали. Тут может помочь хорошее понимание его программного компонента: позволяет ли написанный его разработчиками код имитировать сознание? Если да, нет причин считать такого робота сознательным. Но если он создан с некими способностями, которые случайным образом привели к возникновению сознания, у нас есть все основания считать его действительно сознательным существом. Не исключено, что движение за права роботов зародится именно в этот момент.

Project Syndicate, 14 декабря 2009 года