На краю пропасти. Экзистенциальный риск и будущее человечества
543
U. S. Department of State (n. d.). Многие сходятся во мнении, что договор стал важным шагом к разоружению, помог исключить крупный класс оружия из арсеналов двух великих ядерных держав и внедрил надежные процедуры верификации (Kühn & Péczeli, 2017).
544
Я говорю о риске вымирания, вместо того чтобы оперировать более широким понятием экзистенциального риска, поскольку во втором случае возникает дополнительная трудность при оценке того, какие еще исходы считаются экзистенциальными катастрофами.
Катриона Маккиннон (2017) показывает, как приравнять намеренные или неосторожные действия, вызывающие риск вымирания, к преступлению в соответствии с нормами международного уголовного права.
545
Хотя во многих государствах действуют законы, запрещающие подвергать риску окружающих (например, водить автомобиль в состоянии алкогольного опьянения), в международном уголовном праве нет соответствующего прецедента (McKinnon, 2017, p. 406). Может показаться, что ничто так не подходит под определение “преступления против человечества”, как повышение риска вымирания, но если пользоваться альтернативным понятием – “преступление против человечности”, – то под ударом оказывается “неотъемлемое человеческое достоинство”, а не общность, в которую входят все люди. Например, говоря о преступлениях Холокоста, Altman & Wellman (2004) трактуют это понятие следующим образом: “Вред был причинен человечности еврейских жертв, но нельзя сказать, что вред был причинен и самому человечеству”.
Проблема определения порога того, что считается неоправданным повышением риска (и может преследоваться по закону), весьма серьезна. Так, нам не стоит преследовать людей за незначительное повышение риска (например, за выброс углекислого газа в короткой автомобильной поездке), но в отсутствие данных о точных вероятностях мы не можем установить более высокий порог. Если, услышав соответствующее предложение, главы государств испугаются, что их будничные действия, такие как снижение топливного налога, могут стать основанием для преследования, заручиться их поддержкой для принятия такого закона станет очень сложно.
546
Например, вызывать 1 %-ный экзистенциальный риск. Разумеется, было бы противозаконно действительно убить всех людей или вызвать коллапс цивилизации, однако, поскольку за этим все равно не последует наказания, это не имеет особого значения. Следовательно, закон должен карать действия, вызывающие риск, и разработку систем, которые могут привести к катастрофе.
Ellsberg (2017, p. 347) красноречиво описывает безумие текущего положения дел: “Омницид – если им грозят, если его готовят и если его приводят в исполнение – однозначно противозаконен и неприемлем в качестве инструмента проведения национальной политики; его нельзя не считать преступным, аморальным, порочным. В свете недавних научных открытий, которые по прежнему практически неизвестны общественности и даже лидерам, этот риск скрывается в ядерном планировании, ядерной политике, готовности к боевому применению ядерного оружия и ядерном шантаже двух сверхдержав. Это недопустимо. Ситуацию нужно менять, причем как можно скорее”.
547
UNESCO (1997).
548
В их число входят Финляндия (1993–), Канада (1995–), Израиль (2001–2006), Германия (2004–), Шотландия (2005–), Венгрия (2008–2012), Сингапур (2009–), Швеция (2011 —), Мальта (2012–) и Уэльс (2016–). Часть этих мер была успешной, часть провалилась, а некоторые и вовсе были ограничены или отменены, как правило в связи с политическими изменениями на национальном уровне. Из этого опыта можно извлечь много полезных уроков. См. Nesbit & Illés (2015) и Jones, O’Brien & Ryan (2018).
549
Одним из первых с критикой выступил Ханс Йонас (1984, p. 22): “Стоит упомянуть и еще один аспект искомой новой этики ответственности за далекое будущее: возникают сомнения в способности представительного правительства, работающего по классическим принципам и выполняющего стандартные процедуры, соответствовать новым требованиям… будущее не получает представительства… у тех, кого еще не существует, нет лобби, а те, кто пока не родился, лишены прав”.
550
Хуже того, политика может предопределить, кто появится на свет в будущем и будет ли вообще человечество и дальше существовать на Земле.
551
Такой институт мог бы также представлять детей, поскольку у них тоже есть свои интересы, которые, как и следует ожидать, отличаются от интересов взрослых, но дети при этом лишены права голоса.
552
В Smart (1984), p. 140, и Bostrom (2014) авторы развивают эту мысль и показывают, какие еще плюсы и минусы есть у отсрочки.
553
Медленный прогресс (в отличие от простого сдвига всех дат назад на некоторое количество лет) может также дать нам больше времени, чтобы выявить угрозы, пока они не реализовались, и разобраться с ними. По сути, он уменьшит время нашего реагирования на них.
554
А еще теневые издержки для окружающей среды, о которых говорится чаще. Аргументы в этом случае аналогичны, и я также призываю пускать некоторую часть выгод, приобретаемых при использовании технологий, на снижение этих издержек.
555
Можно также сказать, что технологический прогресс, идущий сегодня, вообще не повышает благосостояние человечества. Даже если оценивать благосостояние лишь по материальным критериям, прогресс, возможно, повышает нашу обеспеченность лишь за счет существенного снижения ожидаемого благосостояния огромного числа будущих поколений.
В узком смысле это верно также в отношении самих технологий. Стремительной разработкой технологий движет алчность. В результате повышается технологический уровень на следующий год, но снижается ожидаемый технологический уровень в долгосрочном будущем.
556
Сложно найти время на это, когда в академической среде людей подталкивают к публикации как можно большего количества статей, а вознаграждение получают те, кто пишет о технической стороне дела, а не рассматривает вопросы этики и регулирования. Но систему мотивации в академической сфере разрабатывают сами ученые, поэтому они и должны изменить систему, если она их подводит (и вместе с ними подводит все человечество).
557
Молодому ученому или инженеру действительно неплохо пойти работать в правительство. На недостаточную научную грамотность и квалифицированность правительства чаще всего сетуют именно те люди, которые обладают соответствующими навыками и могут применить их в соответствующей сфере. Иными словами, неразумно винить людей, работающих в правительстве, в недостатке научных знаний, но вполне разумно винить людей, которые прекрасно разбираются в науке, за нежелание принимать участие в разработке регламентов.
558
UN (n. d.).
559
См. Grace (2015). Существуют разные мнения о том, насколько успешной была Асиломарская конференция. С момента разработки ее принципов прошло несколько десятилетий; некоторые из рисков, обсуждавшихся учеными, оказались не такими страшными, как представлялось ранее, поэтому многие правила были постепенно смягчены. Кроме того, некоторые критики назвали несостоятельной модель саморегулирования, принятую в Асиломаре, и отметили, что необходимо было призвать к решению вопроса гражданское общество (Wright, 2001).