На краю пропасти. Экзистенциальный риск и будущее человечества

Превентивные меры
 Некоторые из крупнейших рисков, которые нам грозят, по-прежнему едва маячат на горизонте. В состоянии ли мы принимать эффективные меры по борьбе с ними, пока угроза так далека? Как нам действовать сейчас, если мы еще не совсем уверены в том, какую форму примут эти риски, какими будут технологии и каким предстанет стратегический ландшафт, когда они наступят?
 Это важные вопросы, которые следует задавать при любой попытке работать с будущими рисками. В вопросах времени мы близоруки, поэтому велик шанс, что наши старания пойдут прахом. Но не стоит отчаиваться. Есть способы существенно повысить пользу заблаговременной работы с риском.
 Превентивные меры лучше всего подходят для смены курса. Когда мы движемся в неверном направлении, лучше скорректировать курс на ранних этапах. А значит, если мы хотим увести технологию (или страну) с опасного пути, сейчас у нас для этого больше сил и возможностей, чем будет потом.
 Превентивные меры лучше всего стимулируют самосовершенствование, поскольку у нас появляется больше времени, чтобы пожинать плоды своих трудов. Если необходимы исследования, образование или влияние, начинать лучше как можно раньше.
 Превентивные меры лучше всего способствуют росту. Если кто-то хочет превратить инвестиции в состояние, статью – в область исследований, а идею – в движение, лучше приступать к делу как можно скорее.
 Превентивные меры лучше всего подходят и для задач, предполагающих множество последовательных этапов. Если ваше решение структурировано именно так, реализовать его, возможно, не получится, если не начать работу необычайно рано.
Иными словами, превентивные меры – более эффективный инструмент, но он с большей вероятностью может оказаться бесполезным. Эти меры более действенны, но менее точны. Если мы приступаем к делу задолго до наступления риска, нам нужно выбирать такие методы, которые используют преимущество описанного рычага, но при этом остаются устойчивыми к нашей близорукости[499]. Часто это предполагает необходимость сосредоточиться на накоплении знаний и расширении компетенций, вместо того чтобы действовать напрямую.
* * *
Философ Ник Бекстед предлагает различать целевое и общее вмешательство[500]. Если мы сосредоточены на защите человечества, это не значит, что внимания заслуживают только узкие целевые меры, например установление контроля над опасной технологией. Экзистенциальный риск можно снижать и путем более общего вмешательства, которое позволяют нам становиться мудрее, учиться принимать взвешенные решения и налаживать международное сотрудничество. Неизвестно, какой из этих подходов эффективнее. Бекстед полагает, что лонгтермистам прошлых веков лучше было бы сосредоточиться на общих мерах, чем на целевом вмешательстве.
Быть может, Бекстед и прав насчет прошлых веков, но главным образом потому, что экзистенциальный риск был крайне низок, пока в XX веке мы не обрели достаточную мощь, чтобы стать угрозой для самих себя. С этой точки зрения первые лонгтермисты, включая Бертрана Рассела и Альберта Эйнштейна, поступали правильно, посвящая столько внимания целевым мерам по снижению угрозы ядерной войны.
На мой взгляд, можно попробовать разрешить проблему выбора между целевыми и общими мерами, приняв во внимание фактор пренебрежения. В настоящий момент триллионы долларов ежегодно расходуются на общие меры, например образование, в то время как на целевые меры по снижению экзистенциального риска идет менее одной десятитысячной от этой суммы[501]. Следовательно, общими мерами пренебрегают в значительно меньшей степени. Это дает нам веское основание полагать, что сегодня активизация целевого вмешательства окажется более эффективной (а из общих мер эффективнее всего будут те, которые получают меньше всего внимания).
Но если бы объем ресурсов, направляемых на целевые меры по снижению экзистенциального риска, радикально увеличился, ситуация начала бы меняться. Сегодня мы тратим на них менее одной тысячной процента валового мирового продукта. Ранее я предложил увеличить это хотя бы в 100 раз, чтобы достичь отметки, в которой мир станет тратить на сохранение своего потенциала больше, чем на мороженое, а хорошей долгосрочной целью, пожалуй, станет доведение этого показателя до целого процента[502]. Но при увеличении вложений в дело вступит закон убывающей отдачи, и вполне возможно, что даже в том случае, если мир будет интересовать только снижение экзистенциального риска, будет лучше, чтобы совокупный бюджет целевых мер не превышал совокупный бюджет общих мер.
 
Теперь у нас есть набросок карты рискового ландшафта и необходимые интеллектуальные инструменты, чтобы найти перспективные пути вперед. Пора применить наши знания и начать разрабатывать план защиты человечества – от общей стратегии до конкретных рекомендаций того, что может сделать каждый из нас.
 Глава 7 
 Защита человечества 
Не существует катастрофы, которой невозможно избежать, не существует ничего такого, что грозило бы нам неминуемым уничтожением до такой степени, чтобы с этим невозможно было ничего сделать. Если действовать рационально и по-человечески, если спокойно подойти к проблемам, стоящим перед лицом всего рода людского, и не вдаваться в эмоции по поводу таких вопросов XIX века, как национальная безопасность и местнический патриотизм, если мы поймем, что нашими врагами являются совсем не соседи, а нищета, невежество и холодное безразличие к законам природы, все стоящие перед нами проблемы можно решить. Можно обдуманно сделать выбор и в итоге избежать катастроф. Айзек Азимов[503] 
Нам решать, каким станет наше будущее. Принимая решения, мы определяем, будем мы жить или умрем, реализуем свой потенциал или упустим свой шанс прийти к величию. Мы не заложники судьбы. Хотя внешние силы – неожиданная болезнь, война – могут перевернуть жизнь каждого из нас, будущее человечества практически всецело пребывает в руках людей. Основная часть экзистенциального риска сопряжена с деятельностью человека – деятельностью, которую мы можем прекратить или начать эффективно регулировать. Даже природные риски дают нам достаточно времени, чтобы защититься задолго до того, как разразится буря.
Нам необходимо взять на себя ответственность за свое будущее. Живущие сегодня люди – единственные, кто может бороться с существующими в настоящее время угрозами, единственные, кто может построить сообщества, разработать нормы и основать институты, которые позволят нам сберечь свое будущее. В зависимости от того, сумеем ли мы ответить на эти вызовы, нас будут вспоминать как поколение, которое совершило поворот к светлому и безопасному будущему, либо не будут вспоминать вообще.
На мой взгляд, при изучении этих вопросов наше положение полезно рассматривать с точки зрения человечества: считать человечество целостным агентом и анализировать стратегические решения, которые оно принимало бы, будь оно достаточно рациональным и мудрым. Или, иными словами, что делали бы все люди, если бы мы были в достаточной мере скоординированы и руководствовались долгосрочными интересами человечества.
Такой расклад сильно идеализирован. Он скрывает проблемы, которые возникают из-за нашей разобщенности, и значимость поступков отдельных личностей, способных наставить все человечество на верный путь. Но при этом он проливает свет на более серьезные вопросы, которые до сих пор почти полностью игнорируются. Это вопросы об общей стратегии человечества и о том, как гарантированно построить прекрасное будущее, даже если мы пока не знаем точно, каким именно оно будет. Отвечая на них, я делюсь своим смелым видением человечества, которое наводит порядок в своем доме, – и это видение, я надеюсь, поможет нам пройти через грядущие десятилетия, даже если реальность станет еще более сумбурной и непростой.