Что случится, если эти новые технологии будут использованы в войне? Не могут ли они привести к нашему вымиранию?

Что случится, если эти новые технологии будут использованы в войне? Не могут ли они привести к нашему вымиранию?

Некоторые технологии, которые будут разработаны в этом веке будут очень и очень мощными. Будучи использованы в дурных целях, они смогут причинить большой ущерб людям и окружающей среде. Некоторые даже могут, в самом плохом случае, привести к исчезновению разумной жизни. Это самое страшное, что может произойти, и этого мы должны избежать любой ценой.

Вот некоторые гибельные для человечества сценарии, которые обсуждались трансгуманистами:

Серая топь (gray goo). — Самовопроизводящиеся наномашины [См. "Что такое нанотехнология?"] случайно выходят из под контроля и пожирают всю биосферу, превращая ее в "серую топь". Поскольку молекулярная нанотехнология будет использовать новые химические структуры, нет оснований полагать, что природные механизмы, которые поддерживают равновесие, сдерживая размножение органических самовоспроизводящихся существ, станут препятствием для нано-репликаторов.

В принципе, сравнительно легко встроить дублирующие предохранители, которые сделают такое развитие событий невозможным. Например, можно сделать самовоспроизводящиеся машины (репликаторы) зависимыми от какого-то "витамина" — редкого химического вещества, необходимого им для функционирования. Или можно сделать адаптивные мутации сколь угодно маловероятными с помощью правильного дизайна. Эксперименты с самовоспроизводящимися машинами могут быть ограничены границами "запечатанных лабораторий", небольших камер, которые автоматически взрываются, уничтожая все внутри, если что-то попытается проникнуть через их стены (неважно, изнутри или снаружи). Таким образом, если разработка нанотехнологий будет производиться ответственными людьми и со строгими предосторожностями, появления серой топи можно избежать.

Черная топь (black goo). — Общепринято считать, что "черная топь", под которой понимают умышленно изготовленные разрушительные наномашины, представляет собой гораздо большую проблему.

Один из способов защититься от угрозы черной топи, заключается в создании "активных щитов" — автоматических защитных систем со встроенными ограничениями, предназначенными для предотвращения их использования в агрессивных целях. Можно представить себе глобальную иммунную систему, состоящую из наномашин, блуждающих по поверхности Земли в поисках опасных репликаторов. Проблема с этим подходом заключается в том, что хотя создание надежной глобальной иммунной системы может быть возможным, это может оказаться гораздо сложнее, чем создание разрушительных наномашин. В таком случае, в течение некоторого времени мир будет беззащитен. Необходимо, чтобы в течение этого периода соглашения о нераспространении и всемирный контроль помешали агрессорам злоупотребить нанотехнологией.

Другой способ снизить риск нашей гибели заключается в создании рассредоточенных космических колоний. Опять-таки, проблема состоит в том, что для реализации таких проектов в больших масштабах потребуется слишком много времени.

Сколько будет длиться критический период (от разработки опасных наномашин до создания адекватной защиты), зависит от темпов технического прогресса в течение этого интервала. Те, кто полагают, что в будущем произойдет сингулярность [См. "Что такое сингулярность?"], уверены, что этот период может оказаться очень коротким.

Сверхразум. — Хотя в целом трансгуманисты желают создания сверхразума, некоторые опасаются, что плохо запрограммированный сверхразум может захотеть истребить всех людей или даже уничтожить всю разумную жизнь, включая себя. Что еще усиливает такие опасения, так это идея о том, что сверхразум умственно будет столь чуждым нам и столь превосходящим человеческий разум, что для нас будет очень сложно предвидеть или регулировать его мотивацию и невозможно контролировать его против его воли. [См. "Как постлюди или сверхразумные машины будут относиться к людям, чьи возможности не были расширены?"]

Ядерное и биологическое оружие. — Ядерное и биологическое оружие продолжают оставаться угрозами. Сегодняшних запасов оружия недостаточно, чтобы полностью уничтожить наш вид. Однако вполне возможно, что в будущем с помощью генной инженерии будут созданы еще более смертельные биологические агенты, чем мы имеем сегодня. Хочется надеяться, что разработка вакцин и противоядий не будет отставать от разработки токсинов и возбудителей болезней, но мы не может быть в этом уверены.

Предотвращение распространения оружия массового уничтожения должно иметь самый высокий приоритет для любой ответственной страны. Помимо масштабной войны, способной уничтожить наш вид, слишком легко представить себе "государство-изгой" или террористическую группу, использующих, возможно, с целью шантажа, оружие массового уничтожения, чтобы вызвать большие потери среди гражданского населения и разрушить цивилизацию.

Другие сценарии конца света. — Быстро усиливающийся парниковый эффект, при котором из-за потепления выделяется все больше и больше метана, который сам является парниковым газом, (по мнению большинства трансгуманистов, едва ли это приведет к нашему вымиранию); естественные пандемии, быстро распространяющиеся через межконтинентальный транспорт (вряд ли они погубят нас, но к этому нужно относиться серьезно); столкновение с кометой или астероидом (очень маловероятно); распад метаустойчивого вакуума, вызванный физическими экспериментами в области высоких энергий (энергия, достижимая сегодня, значительно значительно ниже даже энергии космического фонового излучения, но в будущем могут быть разработаны более мощные методы ускорения частиц, которые могут оказаться потенциально опасными). Бесспорно, что существуют и другие опасности, о которых мы пока не догадываемся. В этой связи представляет интерес спорный аргумент Картера-Лесли о конце света (Carter-Leslie Doomsday argument), в котором на основании теоремы Байеса и нескольких небольших эмпирических предположений, делается вывод о том, что риск гибели человечества до сих пор систематически недооценивался [см. ссылку].

Ссылки: Drexler, E. 1986. The Engines of Creation: The Coming Era of Nanotechnology, chapters 11–15. http://www.foresight.org/EOC/index.html Эрик Дрекслер. 1986. Машины созидания: Грядущая эра нанотехнологии, пер. М. Свердлова, главы 11–15. http://mikeai.nm.ru/russian/eoc/eoc.html Leslie, J. 1996.The End of the World: The Ethics and Science of Human Extinction. Routledge. Bostrom, N. 1996. "Observational Selection Effects and Probability" http://www.anthropic-principle.com/preprints.html

Поделитесь на страничке

Следующая глава >

Похожие главы из других книг

Новые виды и новые проблемы проектирования

Из книги Видение Нагуаля автора Ксендзюк Алексей Петрович

Новые виды и новые проблемы проектирования Таким образом, новое состояние в системном проектировании представляет собой проектирование систем деятельности. Здесь речь идёт о социотехническом(в противовес системотехническому) проектировании, где главное внимание


3. Новые «толтеки» и новые мифы

Из книги Зеркало отношений автора Джидду Кришнамурти

3. Новые «толтеки» и новые мифы Можно ли рассматривать нагуализм как разновидность оккультизма, и если можно, то в чем его особенности и отличия от того весьма разношерстного и противоречивого явления, что традиционно именуется "оккультными науками"? Оккультизм часто


   Если сексуальное чувство рождается из любви, это – не жажда, даже если тогда возникает большое восхищение.

Из книги Комментарии к жизни. Книга третья автора Джидду Кришнамурти

   Если сексуальное чувство рождается из любви, это – не жажда, даже если тогда возникает большое восхищение.     Собеседник: Что такое страсть?     Кришнамурти: Я думаю, что мы должны ясно представлять себе, что жажда и страсть являются двумя различными вещами. Жажда


   Если существует беспорядок в моей жизни в отношении секса, то и остальная часть моей жизни находится в беспорядке. Так что я должен спрашивать, не как привести одну часть в порядок, а почему разломал жизнь в такое множество различных фрагментов…

Из книги Простая правильная жизнь автора Козлов Николай Иванович

   Если существует беспорядок в моей жизни в отношении секса, то и остальная часть моей жизни находится в беспорядке. Так что я должен спрашивать, не как привести одну часть в порядок, а почему разломал жизнь в такое множество различных фрагментов…     Собеседник: Много


«Вы не присоединитесь к нашему обществу защиты животных?»

Из книги Кризис сознания: сборник работ по «философии кризиса» автора Фромм Эрих Зелигманн

«Вы не присоединитесь к нашему обществу защиты животных?» Солнце в небе было очень ярким, и от моря дул прохладный бриз. Это было еще довольно-таки раннее утро, на улицах было очень мало людей, и интенсивное движение транспорта еще не началось. К счастью, сегодня день не


Привести жизнь в порядок

Из книги Предательство интеллектуалов автора Бенда Жюльен

Привести жизнь в порядок Цель стоит, я знаю, что я этого хочу и это мне надо. Но вижу, что день за днем я ничего в этом направлении не делаю, не занимаюсь, я занята все время чем-то другим. Я себе это сообщила, и забыть это теперь мне будет сложно. Что я буду делать с этим


И нет меры счастью и отчаянию нашему[51]

Из книги Индивидуализированное общество автора Бауман Зигмунт

И нет меры счастью и отчаянию нашему[51] Как образовался массовый рынок, на котором продают и внедряют массовую культуру? Прежде всего, и покупателю и продавцу стал невыгоден индивидуальный вкус, и это резко затормозило его развитие. Людей соответствующим образом


Прим. Е …интеллектуал, усваивая политические страсти, вносит в их развитие огромный вклад благодаря утонченности своих чувств, если он художник, благодаря своей способности убеждать, если он мыслитель, и в обоих случаях — благодаря своему нравственному авторитету

Из книги Все лучшее, что не купишь за деньги. Мир без политики, нищеты и войн автора Фреско Жак

Прим. Е …интеллектуал, усваивая политические страсти, вносит в их развитие огромный вклад благодаря утонченности своих чувств, если он художник, благодаря своей способности убеждать, если он мыслитель, и в обоих случаях — благодаря своему нравственному авторитету Сам


Старший Брат на телеэкране: новые времена, новые страхи

Из книги Теория нравственных чувств автора Смит Адам

Старший Брат на телеэкране: новые времена, новые страхи Чтобы представить себе дистанцию, отделяющую нынешнее поколение и присущие ему страхи от поколения, чьи страхи выразили Адорно, Арендт, Кассирер, Фромм, Хаксли и Оруэлл, стоит обратиться к телешоу «Старший Брат»,


Глава III. ЕСЛИ МЫ НЕ ОДОБРЯЕМ ПОСТУПКА БЛАГОДЕТЕЛЯ, ТО БЛАГОДАРНОСТЬ ОБЛАГОДЕТЕЛЬСТВОВАННОГО ЧЕЛОВЕКА ВЫЗЫВАЕТ К СЕБЕ СЛАБОЕ СОЧУВСТВИЕ; А ЕСЛИ ОСНОВАНИЯ, ПОБУДИВШИЕ ЧЕЛОВЕКА ПРИЧИНИТЬ ЗЛО БЛИЖНЕМУ, НЕ ВЫЗЫВАЮТ НЕОДОБРЕНИЯ, ТО НЕГОДОВАНИЕ ПОСТРАДАВШЕГО НЕ ВЫЗЫВАЕТ К СЕБЕ НИКАКОЙ СИМПАТИИ

Из книги автора

Глава III. ЕСЛИ МЫ НЕ ОДОБРЯЕМ ПОСТУПКА БЛАГОДЕТЕЛЯ, ТО БЛАГОДАРНОСТЬ ОБЛАГОДЕТЕЛЬСТВОВАННОГО ЧЕЛОВЕКА ВЫЗЫВАЕТ К СЕБЕ СЛАБОЕ СОЧУВСТВИЕ; А ЕСЛИ ОСНОВАНИЯ, ПОБУДИВШИЕ ЧЕЛОВЕКА ПРИЧИНИТЬ ЗЛО БЛИЖНЕМУ, НЕ ВЫЗЫВАЮТ НЕОДОБРЕНИЯ, ТО НЕГОДОВАНИЕ ПОСТРАДАВШЕГО НЕ ВЫЗЫВАЕТ К


Не будут ли новые технологии доступны лишь для богатых и влиятельных? Что будет с остальными?

Из книги автора

Не будут ли новые технологии доступны лишь для богатых и влиятельных? Что будет с остальными? Можно привести тот аргумент, что уровень жизни среднего американца сегодня выше, чем у любого короля пятьсот лет назад. Король мог иметь оркестр при дворе, но вы можете позволить


Могут ли трансчеловеческие технологии быть опасными?

Из книги автора

Могут ли трансчеловеческие технологии быть опасными? Да, и это означает, что мы должны изучать и обсуждать возможные проблемы до того, как они станут реальностью. Биотехнология, нанотехнология и искусственный интеллект могут оказаться источником серьезной опасности,


Каким будет общество, в котором будут жить транслюди?

Из книги автора

Каким будет общество, в котором будут жить транслюди? Пока у нас недостаточно информации для того, чтобы дать точный ответ на этот вопрос. Характер общества, в котором будут жить постлюди, зависит от особенностей постлюдей, которые произойдут от сегодняшних людей.


Как постлюди или сверхразумные машины будут относиться к людям, чьи возможности не были расширены?

Из книги автора

Как постлюди или сверхразумные машины будут относиться к людям, чьи возможности не были расширены? Это будет зависеть от мотивации постлюдей, поэтому пока никто не знает точного ответа. Давайте рассмотрим три возможных сценария:(a) Возможно, что будущее общество будет