Читать книгу - "На краю пропасти. Экзистенциальный риск и будущее человечества - Тоби Орд"

Если уровень риска опустится ниже текущего, будущее, возможно, станет существенно более ценным, чем можно предположить в соответствии с примитивной моделью[670]. Повышение ценности в общем зависит от отношения риска в следующем столетии к долгосрочному вековому риску. Например, если вероятность экзистенциальной катастрофы в текущем столетии составляет 1 к 10, но стремительно снижается до уровня фонового природного риска, то есть менее 1 к 200 000 в столетие, то ценность устранения риска в текущем столетии в сравнении с примитивной моделью возрастает в 20 000 раз.

Также возможно, что снижение риска будет менее ценно, чем можно ожидать в соответствии с примитивной моделью, хотя это и кажется менее вероятным. Такое может произойти, например, если большая часть риска окажется совершенно непредотвратимой. Это не слишком вероятно, поскольку главным образом риск вызывает человеческая деятельность, а человечество может ее контролировать. То же самое может случиться, если ценность будущих веков будет стремительно снижаться. Но я не вижу причин этого ожидать: исторические данные за долгий период говорят об обратном, и мы видели, что не стоит дисконтировать собственную ценность нашего будущего. Третий путь к такому исходу откроется в том случае, если суммирование ценностей будущего окажется этически необоснованным: например, если придется вычислять средние ценности веков или не принимать в расчет все будущие поколения. Однако, как говорится в Приложении В, такие альтернативные подходы и сами не лишены серьезных проблем. Наконец, истинная ценность может оказаться ниже, чем можно предположить в соответствии с примитивной моделью, если риск сейчас низок, но повысится в будущем и если у нас сейчас нет возможности повлиять на этот будущий риск. На мой взгляд, это самая правдоподобная из причин, по которым ценность снижения риска может оказаться завышенной.

В целом, как я полагаю, примитивный подход с гораздо большей вероятностью занижает, а не завышает важность защиты нашего будущего. Но даже если вы считали, что вероятности этого примерно равны, заметьте, что их эффекты несимметричны. Это объясняется тем, что они выступают в качестве множителей. Допустим, вы полагали, что ценность снижения риска может быть как в десять раз выше, чем в соответствии с примитивной моделью, так и в десять раз ниже. Вычислив среднее этих значений, мы получим, что ценность будет выше не в один, а в 5,05 раза. Следовательно, если только мы в высокой степени не уверены в том, что примитивная модель дает завышенную оценку, нам следует действовать так, словно оценка в соответствии с ней занижена[671].

Приложение F

Рекомендации по разработке стратегии и проведению исследований

Для удобства поиска я собрал вместе все свои рекомендации по разработке стратегии и проведению исследований в сфере экзистенциального риска.

Астероиды и кометы

• Исследовать возможности для отражения астероидов и комет диаметром более 1 км, возможно ограничившись методами, которые невозможно использовать в военных целях, например теми, что не приводят к точным изменениям траектории.

• Вписать короткопериодические кометы в ту же схему рисков, что и околоземные астероиды.

• Углубить наши знания о рисках, сопряженных с долгопериодическими кометами.

• Усовершенствовать модели сценариев развития “импактной зимы”, особенно для астероидов диаметром 1–10 км. Работать со специалистами по климатическому моделированию и моделированию ядерной зимы, чтобы видеть, что показывают современные модели.

Мегаизвержения

• Найти все места, где в прошлом случались мегаизвержения.

• Уточнить весьма приблизительные оценки частоты таких извержений, особенно для крупнейших из них.

• Усовершенствовать наши модели “вулканической зимы”, чтобы выяснить, какие масштабы извержений могут представлять реальную угрозу для человечества.

• Установить контакт с ведущими исследователями астероидов, чтобы перенять у них опыт моделирования и управления.

Звездные вспышки

• Построить более качественную модель угрозы с учетом заданных распределений параметров, вместо того чтобы полагаться на характерные примеры. Далее провести анализ чувствительности этой модели – есть ли какие-либо вероятные параметры, которые могли бы сделать эту угрозу настолько же серьезной, как угроза столкновения с астероидом?

• Творчески подходить к поиску причин, по которым текущие оценки могут занижать риск в сто и более раз.

Ядерное оружие

• Возобновить действие договора о ликвидации ракет средней и меньшей дальности (договора о РСМД).

• Продлить договор СНВ-III, действие которого истекает в феврале 2021 года[672].

• Вывести американские МБР из состояния повышенной боевой готовности (официально оно называется “Запуск по предупреждению”).

• Расширить полномочия Международного агентства по атомной энергии (МАГАТЭ) по контролю за тем, как страны выполняют соглашения о безопасности.

• Работать над разрешением ключевых неопределенностей в моделировании ядерной зимы.

• Охарактеризовать сохраняющиеся неопределенности, а затем применить методы Монте-Карло, чтобы продемонстрировать распределение вероятных исходов, сделав особый акцент на наихудших вариантах в соответствии с нашими текущими представлениями.

• Изучить, какие регионы мира наиболее устойчивы к эффектам ядерной зимы и какова вероятность того, что цивилизация там сохранится.

Климат

• Финансировать исследования и разработку инновационных подходов к чистой энергетике.

• Финансировать исследования безопасных геоинженерных технологий и регулирование геоинженерии.

• США следует вернуться в Парижское соглашение.

• Продолжать исследования возможности возникновения бесконтрольного или влажного парниковых эффектов. Могут ли они оказаться более вероятными, чем считается в настоящее время? Есть ли способы гарантированно их предотвратить?

• Углубить наши знания об обратных связях, сопряженных с вечной мерзлотой и гидратами метана.

• Углубить наши знания об обратных связях, сопряженных с формированием облаков.

• Лучше охарактеризовать неопределенность, связанную с чувствительностью климата: что мы можем и не можем сказать о правом хвосте распределения.

• Углубить наши знания об экстремальном потеплении (например, на 5–20 °C), в том числе занявшись поиском конкретных механизмов, посредством которых оно может реально грозить человечеству вымиранием или глобальным коллапсом цивилизации.

Экологический ущерб

• Углубить наши знания о том, сопряжено ли сегодня истощение какого-либо ресурса с экзистенциальным риском.

• Углубить наши знания о текущей потере биоразнообразия (как региональной, так и глобальной) и провести сравнение сложившейся ситуации с вымираниями прошлого.

• Создать базу данных существующего биологического разнообразия, чтобы сохранить генетический материал тех видов, которые находятся под угрозой исчезновения.

Пандемии искусственного происхождения

• Привести Конвенцию о биологическом оружии в соответствие с Конвенцией о химическом оружии: увеличить ее бюджет с 1,4 млн до 80 млн долларов, соответственно расширить штат обслуживающих ее сотрудников и наделить их правом расследовать вероятные нарушения ее условий.

• Укрепить способность ВОЗ реагировать на зарождающиеся пандемии путем эффективного эпидемиологического надзора, быстрой диагностики болезней и контроля заболеваемости. Для этого необходимо увеличить финансирование и расширить полномочия ВОЗ, а также активизировать исследования и разработки нужных технологий.

• Убедиться в том, что все продукты синтеза ДНК проходят скрининг на наличие опасных патогенов. Если компании по синтезу не смогут сами довести этот показатель до 100 %, потребуется международное