Пока мы не исчезнем (ЛП)

В конце концов, мы с Хью оба развалились в креслах, постанывая и держась за животы. Между стонами я случайно подслушал несколько разговоров вокруг нас. Большинство были очень техническими, даже для меня, но один особенно привлек мое внимание.
«Погоди». Я сел и уставился на Хью, его прежние заверения теперь были забыты. «Вы проигнорировали протоколы, которые АНЭК дал вам для воспитания ИИ? Разве ты только что не закончил говорить мне…»
  
«Не проигнорировали. Мы некоторые из них изменили». Хью махнул рукой в пренебрежительном жесте. «Тот будет интеллектом специального назначения и не будет иметь физического доступа ни к чему. Часть загрузки кармы просто неприменима, и ее включение замедлит процесс».
«И никогда ничего не шло наперекосяк из-за срезания углов…» Я покачал головой, закатил глаза, нахмурился, взорвал свою голову и показал эмодзи какашки.
Хью все это проигнорировал. «Мы также делаем моментальные снимки как ИИ, так и виртуальной машины, на которой он работает. Если что-то пойдет не так, мы откатимся к последней безопасной версии и перегруппируемся. У нас все под контролем, Билл».
«Угу». Я видел, что просто наткнусь на тот же непробиваемый ответ. Я почувствовал, как мой уровень раздражения растет, но, с другой стороны, понял, что, возможно, я слишком остро реагирую. Скиппи, в конце концов, работали над этой проблемой десятилетиями. И они, вероятно, прочитали все руководство АНЭК от корки до корки и обратно. Может быть, пора было успокоиться, или, по крайней мере, сменить тактику. «Значит, вы собираетесь заставить его разгадать все тайны космоса?» – спросил я.
«Более или менее. Я упоминал кучу проблем в предыдущем разговоре, например, источник репликативного дрейфа и то, что это говорит о нашем статусе уникальных индивидуумов и возможности существования души».
«Или возможность ССП». Я сделал паузу. «Должен признать, если вы решите хотя бы эту одну, вы окупите проект. Я работаю над этим уже сто лет, и все, что я получил за свои труды, – это плоское место на лбу с текстурой кирпича».
Хью рассмеялся, затем наклонился вперед, возможно, почувствовав, что я становлюсь менее враждебным. «Да, ну, мы знаем, что Эйнштейн не видел всей картины, потому что у нас уже давно есть СКУТ, и никаких временных парадоксов не было. Так что подпространство…»
Я прервал его поднятой рукой. «Просто педантичное замечание, Хью. Я использовал слово „подпространство“, когда изобретал СКУТ, но это было только потому, что человеческие ученые придумали эту фразу с ВСПЛЕСК-двигателем, а ты знаешь, как мы относимся к сохранению канона. Но это не совсем правильно».
Хью рассмеялся. «Я знаю, Билл. Помню, как мучился с выбором названия».
Ну, это было интересно. Похоже, Хью был одним из моих потомков. Я сохранял каменное выражение лица, пока он продолжал, не обращая внимания на случайное признание. «Это просто семантика, однако. Как ни крути, диаграммы Минковского не отражают реальность. Учитывая это, есть ли какая-либо причина предполагать априори, что путешествия ССП невозможны?»
«Ну, нет, но, как я уже сказал, чертово столетие, ноль прогресса».
«Значит, ты просто недостаточно умен». Хью рассмеялся над моим выражением притворного возмущения. Или, может быть, не совсем притворного. «Все в порядке, Билл, я тоже. Или любой из Бобов. Есть несколько бывших людей, которые при жизни были физиками на полную ставку и которые пытались решить эту проблему, как до, так и после смерти. И они тоже ничего не добились. Так что это просто сложная задача. Помни, что мы – сверхинтеллекты по скорости, но то, что мы стали посмертными компьютерами, не сделало нас умнее. И, как и вопрос о том, как создать сознательный ИИ, это может потребовать кого-то, кто способен отступить назад и пересмотреть многие базовые предположения. Или люди могут просто быть недостаточно умны, чтобы охватить все переменные. В любом случае, у нас теперь есть Тот. Или скоро будет».
Я медленно выпрямился. «Хорошо, Хью, я понимаю твои мотивы. И я их разделяю, в значительной степени. Я просто обеспокоен сокращениями пути». Я посмотрел через плечо. «Между тем, я считаю, что есть линия десертов, которую я еще не посетил».
«Чизкейк», – ответил Хью, с преувеличенным стоном поднимаясь со стула. – «Это дьявол».
Я немного схитрил, оставив дополнительное место для десерта. Выбор десертов был таким же впечатляющим, как и линии с едой, и я обнаружил, что смотрю на пустую посуду, в которой до недавнего времени находились чизкейк, мороженое, горячий шоколадный сандей, несколько разных видов печенья и кусок торта «Красный бархат». Если бы я все еще был био, я бы, наверное, уже умер. Или, по крайней мере, впал бы в сахарную кому.
С огромным усилием мне удалось согнуться в талии достаточно, чтобы сесть прямо на стуле. «Скажи, Хью, кто-нибудь когда-нибудь точно определил, как будет выглядеть высший интеллект?»
Хью застонал и слегка изменил положение, прежде чем ответить. «Было много предложений. Все возможные, большинство не взаимоисключающие, ни одно не неизбежное. Он мог бы удерживать в уме гораздо больше переменных одновременно. Думаю, люди могут справиться только с семью, прежде чем им придется сбрасывать что-то в кратковременную память. Многозадачность. Люди могут это делать до определенной степени, но обычно только одно интеллектуально требовательное занятие за раз. Так что ты можешь работать над речью во время вождения, но не во время подсчета расходов. Способность решать рекурсивные проблемы, например, предсказывать действия того, кто знает, что ты пытаешься предсказать его действия. Лучшая способность моделировать реальность. Способность выявлять закономерности в данных так же, как экспертная система».
«Но ничего действительно революционного или совершенно нового?»
«Откуда нам знать, Билл? Мы так же не могли бы представить себе что-то подобное, как собака не могла бы представить себе чтение и письмо».
Я хмыкнул, увидев возможность направить разговор. «Интересно, как бы вы доверились чему-то подобному».
«Опять же, загрузка кармы», – ответил Хью. – «Это довольно глупое название, но в основном оно заключается в привитии ИИ тех же моральных ценностей, что и у людей. Таким образом, такие проблемы, как проблема скрепок, никогда не возникнут, потому что он понимает, почему превращение всего в скрепки было бы плохо. Большинство сценариев ужасов с ИИ основаны на том, что он применяет вещи буквально и без учета последствий. На самом деле, были некоторые аргументы в пользу того, что сознательный ИИ с меньшей вероятностью впадет в такое поведение, чем зомби, потому что у него будет теория себя».
«Конечно, Хью, но в данном случае вы учите Тота человеческой морали, одновременно уча его, что он не человек. Интересно, как это обернется».
«Никакого доступа к физической реальности, Билл. Не просто никакого доступа к „бродягам” и тому подобному, но Тот даже не будет работать на реальном оборудовании. Он будет работать в виртуальной реальности на виртуальной машине и взаимодействовать с виртуальными версиями нас. Так что, даже если у него есть какая-то способность джедая манипулировать слабыми умами или что-то в этом роде, он будет просто влиять на аватары».
Я не ответил. Скиппи, казалось, продумали все. Или, по крайней мере, у них был готов ответ на все, что не всегда одно и то же.
Я надеялся, что просто параноик. Более того, я надеялся, что АНЭК тоже.
  
Глава Седьмая: Политический камбэк
 
Хершель
  
Январь 2330
По пути к Омикрон2 Эридана
Я парил в отсеке «Беллерофонта», где размещался ВСПЛЕСК-двигатель. Агрегат был узнаваем как таковой — в конце концов, существует не так уж много способов построить ВСПЛЕСК-двигатель, — но Другие, конечно, привнесли свою изюминку во многие конструкторские решения. В частности, двигатель, казалось, очень сильно полагался на главный компьютер в вопросах управления и настройки — в отличие от человеческих ВСПЛЕСК-двигателей, где этим занималась независимая подсистема. Контроллер ВСПЛЕСК-двигателя принимал команды высокого уровня и преобразовывал их в детальные корректировки поля, необходимые для их выполнения. Интересно, можно ли из этого что-то узнать о Других.