На краю пропасти. Экзистенциальный риск и будущее человечества
Я не стану использовать такую терминологию на страницах этой книги и продолжу называть экзистенциальные риски “рисками”. Обратите внимание, что почти всегда я говорю о “рисках” применительно к ситуациям, объективная вероятность которых нам неизвестна, но у нас есть хотя бы какие то количественные данные о том, случится ли катастрофа (например, то, что вероятность начала ядерной войны в следующую минуту составляет менее 50 %).
527
Обзор попыток и методик оценки экзистенциального риска см. в Rowe and Beard (2018).
528
Lepore (2017).
529
Дерево ошибок – это схема логических связей между событиями, в частности связей, приводящих к провалу. Оно позволяет выявить возможные источники провалов – последовательности и комбинации событий, которые должны случиться, чтобы дело окончилось неудачей, и оценить их вероятность.
530
Вопрос об антропных эффектах отбора при оценке риска был поднят в Leslie (1996, pp. 77, 139–141) и изучен в Bostrom (2002a). См. работу Cirkovic, Sandberg & Bostrom (2010), где тщательно анализируется “антропная тень”: цензурирование исторических данных о различных событиях, связанных с риском вымирания.
531
Испытание термоядерной бомбы США на атолле Бикини в 1954 году, когда мощность и последствия взрыва оказались значительно выше, чем было запланировано, из-за непредвиденных дополнительных реакций. – Прим. науч. ред.
532
Это подчеркивается, с привязкой к Большому адронному коллайдеру, в работе Ord, Hillerbrand & Sandberg (2010). Разобраться, в чем проблема, поможет байесовский подход. У нас есть априорное представление об объективной вероятности, а также некоторые данные, подкрепляющие расчеты ученых. Следовательно, наша апостериорная оценка должна находиться в промежутке между априорной оценкой и оценкой ученых. Когда ученые дают чрезвычайно низкую оценку, апостериорная оценка, как правило, оказывается выше.
Эта проблема затрагивает все риски с низкой вероятностью, но решать ее нужно лишь в тех случаях, когда ставки достаточно высоки и потому есть основания для дополнительного анализа.
533
Это связано с тем, что в случае с маловероятными рисками с высокими ставками истинная вероятность скорее окажется выше, а не ниже оценки. Например, если вероятность оценивается в один на миллион и шансы того, что истинная вероятность окажется в десять раз выше или в десять раз ниже, равны, то первое сильнее влияет на ожидаемую истинную вероятность, повышая ее. Иными словами, если вы еще не сделали поправку на этот эффект, ваша точечная оценка базовой вероятности часто оказывается ниже ожидаемой, но при принятии решений важна именно ожидаемая оценка.
534
Для начала можно, например, создать орган по образцу МГЭИК и поручить ему оценку экзистенциального риска в целом. Этот новый международный консультационный совет под эгидой ООН будет собирать данные о том, каков сложившийся научный консенсус по вопросу об экзистенциальном риске, и объяснять его.
535
Beck (2009), p. 57.
536
Герберт Уэллс почти всю жизнь активно призывал к созданию мирового правительства (Wells, 1940, pp. 17–18; перевод А. Биргера): “Именно система националистического индивидуализма и некоординированного предпринимательства является мировой болезнью, и именно вся система должна уйти. […] Поэтому первое, что нужно сделать при осмыслении основных проблем мира во всем мире, – это осознать, что мы живем в конце определенного периода Истории, периода суверенных государств. Как мы говорили в восьмидесятые годы со все возрастающей правдивостью: “Мы находимся в переходном возрасте”. Теперь мы получаем некоторую меру остроты перехода. Это фаза человеческой жизни, которая может привести, как я пытаюсь показать, либо к НОВОМУ ОБРАЗУ ЖИЗНИ для нашего вида, либо к более длительному или короткому периоду насилия, страданий, разрушения, смерти и вымирания человечества.”.
Бертран Рассел (1951) писал: “До конца текущего столетия, если не случится ничего непредвиденного, реализуется одна из трех возможностей. Они таковы:
1. Уничтожение человеческой жизни, а возможно, всей жизни на планете.
2. Возврат к варварству после катастрофического сокращения численности населения Земли.
3. Объединение мира под властью одного правительства, обладающего монополией на все основные средства ведения войны”.
В наши дни Ник Бустрём призывает к формированию того, что он называет “синглтоном” (2006). Это может быть особый тип мирового правительства, но это необязательно. Насколько я понимаю его мысль, человечество становится синглтоном, если оказывается в ситуации, в которой ведет себя практически как единый агент. В таком случае человечество избегает исходов, не оптимальных, по Парето, в интуитивном представлении людей по всему миру (например, конфликтов с отрицательной суммой, таких как война). Но наличие единого политического центра, осуществляющего управление, при этом не требуется.
537
Einstein (1948), p. 37. Эйнштейном двигало стремление устранить риск вымирания, но в его представлении механизм этого риска немного отличался от того, который особенно волнует меня. Если я указал на проблему появления злоумышленников и несоблюдения мораториев в отдельных странах, то Эйнштейна главным образом заботила необходимость сделать так, чтобы страны лишились возможности вести войну друг с другом, как только методы ведения войн станут грозить человечеству вымиранием.
538
Народное название не слишком точно, поскольку это не телефон и не красный. Не стоит полагать, будто он стоит у президента на столе. В реальности это защищенная линия телетайпной связи (сначала связь осуществлялась по факсу, теперь – по электронной почте), которая находится в Пентагоне.
539
Это прекрасно описал в своих воспоминаниях советский посол Анатолий Добрынин (1995, p. 100): “Сейчас даже трудно поверить, до чего примитивна была связь с Москвой в грозные дни кубинского кризиса, когда счет шел не на дни, а на часы. Я, например, писал срочную телеграмму о разговоре с Р. Кеннеди. Она тут же шифровалась (сперва это делалось вручную, а не шифромашинами). Затем по телефону мы просили телеграфное агентство «Вестерн Юнион» срочно прислать нам своего посыльного, чтобы забрать телеграмму. Мы, конечно, очень надеялись, что он сразу же отвезет телеграмму в агентство для срочной отправки в Москву. Но ведь он мог и остановиться где то по дороге, встретив, например, знакомую девушку!”
540
Можно рассмотреть это с точки зрения современной военной концепции цикла НОРД (времени, необходимого на наблюдение, ориентацию, решение и действие). Поскольку цикл НОРД в дипломатии был слишком медленным, эффективно управлять событиями на месте не получалось.
Были и варианты для более быстрой коммуникации, например срочные объявления по радио и телевидению, но в таком случае дипломатию нужно было вести на глазах у всего мира, из за чего сторонам становилось значительно сложнее идти на уступки и соглашаться на условия, которые не пользовались поддержкой внутри страны или на международной арене.
541
Бюджет ОЗХО в 2019 году составлял 70 млн евро, или 79 млн долларов (OPCW, 2018). Число сотрудников взято из OPCW (2017).
542
Работу в этом направлении возглавил Международный консорциум по синтезу генов (ISCG, 2018), что достойно похвалы.