На краю пропасти. Экзистенциальный риск и будущее человечества

Я также рекомендую мыслить творчески и проверить, могут ли существующие модели занижать риск на порядок и более.
 193 
Подробнее об этом в главе 8.
 194 
Masson-Delmotte et al. (2013) утверждают, что “практически наверняка” (с вероятностью более 99 %) такое орбитальное возбуждение – постепенные изменения в положении Земли относительно Солнца – не может вызвать масштабного оледенения в последующую тысячу лет. Они отмечают, что климатические модели не прогнозируют оледенения в последующие 50 тыс. лет, при условии что концентрация углекислого газа в атмосфере не упадет ниже 300 частиц на миллион. Мы также знаем, что ледниковые периоды случаются достаточно часто, а следовательно, если бы они представляли высокий риск вымирания, мы увидели бы это в палеонтологической летописи (большая часть истории Homo sapiens вообще приходится на ледниковые периоды).
Однако, поскольку мы рассматриваем многие другие риски, вероятность которых, как мы знаем, невелика, нам полезно было бы знать, насколько низка вероятность начала ледникового периода и какой именно риск глобального коллапса цивилизации может быть с ним сопряжен. Стоит отметить, что неолитическая революция случилась именно в конце последнего ледникового периода, а это позволяет предположить, что, даже если они представляют очень маленький риск вымирания, поддерживать сельскохозяйственную цивилизацию при них значительно сложнее.
 195 
Adams & Laughlin (1999). Изменение в связи с прохождением черной дыры еще менее вероятно, поскольку звезд гораздо больше, чем черных дыр.
 196 
Оценить эту вероятность на основе наблюдений сложно, поскольку все свидетели такого события погибли бы, тем самым вычеркнув любые положительные примеры из нашей совокупности данных. Тем не менее Tegmark & Bostrom (2005) представляют хитроумное рассуждение, которое исключает вероятность того, что коллапс вакуума происходит чаще, чем раз в 1 млрд лет, с достоверностью 99,9 %. Buttazzo et al. (2013) предполагают, что истинная годовая вероятность составляет менее 1 к 10600, а многие другие считают, что наш вакуум и есть истинный вакуум, поэтому вероятность его коллапса равняется нулю.
Возможно, спровоцировать коллапс вакуума могут и наши действия, например проведение экспериментов в сфере физики высоких энергий. Риски, сопряженные с такими экспериментами, рассматриваются на с. 191–192.
 197 
Судя по геологической летописи, вековая вероятность составляет примерно 1 к 2000. Пока нет единого мнения по вопросу о том, случайный это процесс или периодический. Обзор недавних открытий в этой сфере см. у Buffett, Ziegler & Constable (2013).
 198 
Lingam (2019).
 199 
О том, что долголетие нашего вида свидетельствует о низком уровне природного риска, упоминают Leslie (1996, p. 141) и Bostrom (2002b). Насколько мне известно, первую попытку провести количественную оценку данных из ископаемой летописи, сделали Ord & Beckstead (2014). Мы с коллегами развили эту мысль в статье Snyder-Beattie, Ord & Bonsall (2019).
 200 
Все описанные техники дают оценки на основе средних. Если мы узнаем, что живем в неординарное время, они могут оказаться бесполезны. Крайне маловероятно, что мы обнаружим 10 километровый астероид, летящий по направлению к Земле, однако, если это все таки случится, мы более не сможем полагаться на законы средних чисел. Я не знаю ни одной природной угрозы, о которой нам сегодня известно нечто такое, что позволяло бы сделать вывод о значительном повышении риска нашего вымирания (и мы удивимся, если окажемся в такой ситуации, поскольку они, должно быть, возникают редко). Гораздо чаще приобретаемые нами знания показывают, что в среднесрочной перспективе риск, сопряженный с такими угрозами, как астероиды и сверхновые, даже ниже среднего в долгосрочной перспективе.
 
 201 
Определить соответствующие показатели для риска необратимого коллапса можно косвенным образом. Основные выявленные угрозы, очевидно, представляют примерно одинаковый риск необратимого коллапса цивилизации и вымирания (скажем, в пределах одного порядка), поэтому есть некоторые основания полагать, что, если мы выясним, что риск вымирания очень низок, мы сможем также сделать вывод о невысоком риске необратимого коллапса. Нарушить описанную закономерность может природная опасность, которая позволяет связать риск коллапса и риск вымирания. Найти ее сложнее, чем может показаться, особенно если вспомнить, что многие используемые нами ископаемые относятся к видам, которые в гораздо меньшей степени, чем мы, устойчивы к вымиранию, поскольку их географический ареал не так велик, а количество источников пищи ограничено. Искомое бедствие должно было бы навсегда уничтожить цивилизацию во всем мире, но при этом не привести к вымиранию вида.
Можно подойти к делу иначе и применить первый из моих методов, но ориентироваться при этом на продолжительность существования цивилизации, а не Homo sapiens. Цивилизация существует около 100 веков, поэтому наиболее вероятное предположение попадет в диапазон от 0 до 1 % на век. Уже кое что, но обнадеживающей такую оценку, конечно, не назовешь. Весьма полезно будет глубже изучить, как сделать эти оценки более точными, и определить пределы риска необратимого коллапса цивилизации.
 202 
Возникают существенные сомнения насчет того, действительно ли Homo sapiens появился 200 тыс. лет назад и правильно ли датированы другие связанные с этим события, однако мы поговорим об этом позже. Называя цифру 200 тыс. лет, я веду отсчет от ископаемых находок из Омо, которые обычно признаются останками Homo sapiens. Возраст обнаруженных позже ископаемых из Джебель-Ирхуд в Марокко определяется примерно в 300 тыс. лет, но пока идут споры, считать ли эти останки принадлежащими Homo sapi-ens (см. примечание 2 к главе 1). Известно, однако, что указанные даты верны в пределах двукратной величины, а такой точности достаточно, чтобы делать качественные выводы. Вы вольны заменить их любыми другими оценками, которые предпочитаете, и посмотреть, как изменятся при этом количественные оценки.
 203 
Это не совсем верно, поскольку в некоторых математических контекстах могут происходить события с нулевой вероятностью. Однако их вероятность бесконечно мала, как, например, вероятность того, что, вечно подбрасывая монетку, вы ни разу не выбросите орла. Разумеется, у нас нет и достаточных свидетельств, чтобы сделать вывод о том, что вымирание человека в этом смысле бесконечно маловероятно.
 204 
Эта область исследований развивается и явно имеет большое значение для изучения экзистенциального риска, который связан исключительно с беспрецедентными событиями. Сформулировать вопрос можно следующим образом: какую вероятность присвоить провалу, если нечто оборачивалось успехом в каждом из n проведенных к настоящему моменту испытаний? Иногда это называют проблемой отсутствия данных о неудачных исходах. Среди прочих предлагаются такие статистические оценки:
Оценка максимальной вероятности.
1/3n Оценка “третьей части” (Bailey, 1997).
– 1/2,5n Аппроксимация метода из работы Quigley & Revie (2011).
1/2n+2 Байесовский вывод при априорном максимуме энтропии.
– 1/1.5n Достоверность 50 % (Bailey, 1997).
1/n+2
Байесовский вывод при априорном равномерном распределении.
1/n Оценка “верхнего предела”.
Обратите внимание, что широко распространенное “правило трех” (Hanley, 1983) нельзя считать попыткой ответить на тот же вопрос: в соответствии с ним предлагается использовать 3/n, однако в качестве верхнего предела (при достоверности в 95 %), а не в качестве наиболее вероятного предположения. Мы будем использовать более прямолинейный подход для определения таких пределов и повышения уровня достоверности.