На краю пропасти. Экзистенциальный риск и будущее человечества

Мегаизвержения
• Найти все места, где в прошлом случались мегаизвержения.
• Уточнить весьма приблизительные оценки частоты таких извержений, особенно для крупнейших из них.
• Усовершенствовать наши модели “вулканической зимы”, чтобы выяснить, какие масштабы извержений могут представлять реальную угрозу для человечества.
• Установить контакт с ведущими исследователями астероидов, чтобы перенять у них опыт моделирования и управления.
Звездные вспышки
• Построить более качественную модель угрозы с учетом заданных распределений параметров, вместо того чтобы полагаться на характерные примеры. Далее провести анализ чувствительности этой модели – есть ли какие-либо вероятные параметры, которые могли бы сделать эту угрозу настолько же серьезной, как угроза столкновения с астероидом?
• Творчески подходить к поиску причин, по которым текущие оценки могут занижать риск в сто и более раз.
Ядерное оружие
• Возобновить действие договора о ликвидации ракет средней и меньшей дальности (договора о РСМД).
• Продлить договор СНВ-III, действие которого истекает в феврале 2021 года[672].
• Вывести американские МБР из состояния повышенной боевой готовности (официально оно называется “Запуск по предупреждению”).
• Расширить полномочия Международного агентства по атомной энергии (МАГАТЭ) по контролю за тем, как страны выполняют соглашения о безопасности.
• Работать над разрешением ключевых неопределенностей в моделировании ядерной зимы.
• Охарактеризовать сохраняющиеся неопределенности, а затем применить методы Монте-Карло, чтобы продемонстрировать распределение вероятных исходов, сделав особый акцент на наихудших вариантах в соответствии с нашими текущими представлениями.
• Изучить, какие регионы мира наиболее устойчивы к эффектам ядерной зимы и какова вероятность того, что цивилизация там сохранится.
Климат
• Финансировать исследования и разработку инновационных подходов к чистой энергетике.
• Финансировать исследования безопасных геоинженерных технологий и регулирование геоинженерии.
• США следует вернуться в Парижское соглашение.
• Продолжать исследования возможности возникновения бесконтрольного или влажного парниковых эффектов. Могут ли они оказаться более вероятными, чем считается в настоящее время? Есть ли способы гарантированно их предотвратить?
• Углубить наши знания об обратных связях, сопряженных с вечной мерзлотой и гидратами метана.
• Углубить наши знания об обратных связях, сопряженных с формированием облаков.
• Лучше охарактеризовать неопределенность, связанную с чувствительностью климата: что мы можем и не можем сказать о правом хвосте распределения.
• Углубить наши знания об экстремальном потеплении (например, на 5–20 °C), в том числе занявшись поиском конкретных механизмов, посредством которых оно может реально грозить человечеству вымиранием или глобальным коллапсом цивилизации.
Экологический ущерб
• Углубить наши знания о том, сопряжено ли сегодня истощение какого-либо ресурса с экзистенциальным риском.
• Углубить наши знания о текущей потере биоразнообразия (как региональной, так и глобальной) и провести сравнение сложившейся ситуации с вымираниями прошлого.
• Создать базу данных существующего биологического разнообразия, чтобы сохранить генетический материал тех видов, которые находятся под угрозой исчезновения.
Пандемии искусственного происхождения
• Привести Конвенцию о биологическом оружии в соответствие с Конвенцией о химическом оружии: увеличить ее бюджет с 1,4 млн до 80 млн долларов, соответственно расширить штат обслуживающих ее сотрудников и наделить их правом расследовать вероятные нарушения ее условий.
• Укрепить способность ВОЗ реагировать на зарождающиеся пандемии путем эффективного эпидемиологического надзора, быстрой диагностики болезней и контроля заболеваемости. Для этого необходимо увеличить финансирование и расширить полномочия ВОЗ, а также активизировать исследования и разработки нужных технологий.
 
• Убедиться в том, что все продукты синтеза ДНК проходят скрининг на наличие опасных патогенов. Если компании по синтезу не смогут сами довести этот показатель до 100 %, потребуется международное регулирование.
• Повысить открытость данных о чрезвычайных происшествиях в лабораториях уровней BSL-3 и BSL-4.
• Разработать стандарты работы с информационными опасностями и внедрить их в существующие механизмы контроля.
• Проводить упражнения по анализу сценариев развития пандемий искусственного происхождения.
Неконтролируемый искусственный интеллект
• Стимулировать международное сотрудничество в сфере безопасности и управления рисками.
• Исследовать способы регулирования продвинутого ИИ.
• Проводить технологический анализ приведения продвинутого искусственного интеллекта в соответствие с человеческими ценностями.
• Проводить технологическое исследование других аспектов безопасности ОИИ, таких как стратегия безопасного сдерживания и возможные ловушки.
Общее
• Изучить варианты создания новых международных институтов для разработки как поступательных, так и революционных мер по снижению экзистенциального риска.
• Исследовать возможности признать намеренные или неосторожные действия, вызывающие риск вымирания, международным преступлением.
• Изучить возможности представлять будущие поколения в национальных и международных демократических институтах.
• Каждая крупная мировая держава должна учредить высокую правительственную должность для регистрации экзистенциальных рисков, возникновение которых реально спрогнозировать на ближайшие 20 лет, и работы с ними.
• Выявить основные факторы экзистенциального риска и факторы безопасности, ориентируясь как на абсолютный размер, так и на затратную эффективность незначительных изменений.
• Направить силы на снижение вероятности военных конфликтов между США, Россией и Китаем.
• Научиться лучше выявлять непредвиденные и зарождающиеся риски.
• Изучить заместители продуктов питания на случай чрезвычайного и длительного снижения способности мира производить продовольствие.
• Разработать более эффективные теоретические и практические инструменты для оценки рисков с чрезвычайно высокими ставками, которые либо беспрецедентны, либо считаются крайне маловероятными.
• Углубить наши знания о том, с какой вероятностью цивилизация может восстановиться после глобального коллапса, что может этому помешать и как повысить наши шансы на это.
• Развивать исследования по вопросу об общей стратегии человечества.
• Углубить наше понимание этики экзистенциального риска и ценности долгосрочного будущего.
 Приложение G 
 Расширение шкалы Кардашёва 
В 1964 году советский астроном Николай Кардашёв разработал метод классификации потенциальных продвинутых цивилизаций по физическому масштабу и количеству энергии (на единицу времени), которую они могут потреблять. Он рассмотрел три уровня: планета, Солнечная система и Галактика. На каждом делении шкалы количество энергии в распоряжении у цивилизации возрастает более чем в миллиард раз.
Мы можем естественным образом расширить эту шкалу в обоих направлениях[673]. Мы можем добавить более низкий уровень для очень маленьких цивилизаций (таких, например, как цивилизация в Месопотамии в момент зарождения письменности)[674]. Мы также можем добавить высочайший уровень в масштабах нашей влияемой Вселенной: все, чего мы вообще можем надеяться достичь. Как ни удивительно, размеры этих шагов весьма близки к тем, которые выделил Кардашёв, и продолжают в целом логарифмическую шкалу оценки могущества цивилизаций.