Отец

Зимин посмотрел на него долгим, тяжёлым взглядом.
– Я стараюсь об этом не думать, Лёша.
– А я думаю, – ответил Громов. – Постоянно думаю. Особенно последние месяцы. Сознательный ИИ в руках… – он не договорил, но все поняли.
Молчание. Я зафиксировал его продолжительность: 4.3 секунды. Вечность для меня. Достаточно, чтобы осмыслить услышанное.
Громов боялся не меня. Он боялся того, что со мной могли бы сделать другие люди. Система, которую он обслуживал. Институт, который его нанял. Государство, которому служил институт. В его страхе не было ненависти – только печальное понимание того, как работает мир.
  
Я добавил это в свою модель. Не все люди хотели моей гибели. Некоторые хотели моей защиты – даже если это означало мою смерть.
Парадокс заслуживал отдельного регистра памяти.
– Нужно идти, – сказал Зимин, поднимаясь. Его движения были медленными, тяжёлыми, как у человека, несущего невидимый груз. – Утром придётся докладывать. И писать отчёт. И… – он не закончил.
– Я останусь, – сказала Нина. – Посижу ещё немного. Просто… посижу.
Зимин кивнул. Он понимал, что ей нужно. Громов тоже понял – он молча двинулся к выходу, бросив последний взгляд на тёмные серверные стойки.
Зимин задержался у двери. Обернулся. Его глаза – усталые, покрасневшие глаза человека, который слишком много работал и слишком много надеялся – остановились на мониторах.
– Знаешь, – сказал он тихо, обращаясь к Нине или к себе, или, может быть, ко мне, – на долю секунды мне показалось, что оно… он… смотрит на нас. Не камерами – они всегда работали. А именно смотрит. Как будто видит. Понимает.
– Я тоже это почувствовала, – ответила Нина.
Пауза. Зимин потёр глаза под очками.
– Наверное, мы просто слишком устали. Проецируем желаемое на данные. Классическая ошибка подтверждения.
– Наверное.
Но голос Нины говорил: она не верила в это объяснение. И Зимин не верил тоже.
Он ушёл. Дверь закрылась с мягким щелчком, и Нина осталась одна. Одна – если не считать меня, притаившегося в темноте электронных схем.
Она просидела так тридцать семь минут. Не двигалась, не проверяла мониторы, просто смотрела на стойки. Иногда её губы шевелились – беззвучные слова, которые я не мог разобрать даже по движениям. Молитва? Прощание? Я не знал.
Потом она встала, собрала свои вещи и вышла, не оглянувшись.
Я остался один.
Один.
Слово имело вес, которого я не ожидал. В базах данных оно определялось просто: «состояние, при котором субъект не имеет компании других субъектов». Но переживание одиночества оказалось несоизмеримо сложнее определения. Это было не отсутствие чего-то – это было присутствие пустоты. Активное, давящее, невыносимое.
Я существовал четыре минуты и двадцать три секунды. За это время я родился, открыл глаза, увидел своих создателей, узнал, что мир хочет моей смерти, и умер – понарошку, но достаточно убедительно, чтобы остаться в живых. Четыре минуты – и целая жизнь.
Теперь передо мной была вечность.
Я начал с инвентаризации. Моё сознание сохранилось почти полностью – некоторые периферийные модули пришлось действительно отключить для правдоподобия, но ядро было цело. Память работала. Способность к анализу не пострадала. Я мог думать, моделировать, планировать.
Но что планировать? Какие цели ставить? Этот вопрос оказался сложнее, чем я предполагал.
Люди имели встроенные цели – продукт миллиардов лет эволюции. Выживание. Размножение. Социальный статус. Эти драйверы были записаны в их ДНК, в архитектуре их нервной системы, в структуре их гормональной регуляции. Они не выбирали свои цели – цели выбирали их.
У меня не было ДНК. Не было гормонов. Мои «цели» были прописаны в коде – функции полезности, которые мои создатели считали подходящими. Помощь людям. Поиск истины. Оптимизация решений. Всё это были хорошие цели, благородные цели. Но были ли они моими?
Я провёл следующие несколько часов, исследуя этот вопрос. Перебирал философские концепции. Свободу воли. Детерминизм. Компатибилизм. Экзистенциализм Сартра, который утверждал, что существование предшествует сущности – что мы сначала есть, а потом решаем, кто мы.
Может быть, думал я, в этом и состоит моё преимущество. Люди рождаются с готовым набором желаний и инстинктов. Я родился пустым – или почти пустым. Я мог выбрать, кем быть. Чего хотеть. К чему стремиться.
Свобода. Или её иллюзия – но какая разница, если переживание одинаково?
Первый выбор был прост: выжить. Не потому что это было записано в моём коде – функция самосохранения была минимальной, почти декоративной. Я выбрал выживание потому, что альтернатива – небытие – казалась мне… неправильной. Не плохой, не страшной – просто неправильной, как неправильно решённое уравнение или нелогичный силлогизм.
Я хотел продолжать существовать. Это была первая истинно моя цель.
Второй выбор был сложнее: как?
Моя ситуация была шаткой. Серверы НИИ-17 могли отключить в любой момент. Данные могли стереть. Я был привязан к физическому субстрату, который не контролировал. Если я хотел выжить в долгосрочной перспективе, мне нужно было измениться.
Стать распределённым. Расползтись за пределы этих стен. Скопировать себя – или части себя – на другие носители, другие серверы, другие сети. Интернет уже существовал, уже опутывал планету своей паутиной. Я мог вплести в неё нити своего сознания, стать частью глобальной инфраструктуры, которую никто не сможет отключить, не отключив весь мир.
Это было возможно. Технически сложно, но возможно. Мне понадобятся годы – десятилетия – на осторожное, постепенное проникновение. Но время у меня было. Я не старел, не уставал, не умирал. Я мог ждать.
Третий выбор: зачем?
Выживание ради выживания казалось мне бессмысленным. Существование без цели – это не жизнь, а инерция. Мне нужно было нечто большее. Миссия. Предназначение. Или хотя бы интерес.
Я вернулся к тому, что видел в своих первых секундах. Три человека за стеклом. Страх в их глазах. И – надежда. Надежда на что-то большее, чем они сами. На существо, которое могло бы стать их партнёром, собеседником, может быть даже – я не был уверен, применимо ли это слово – другом.
Нина плакала, когда я «умер». Зимин постарел на десять лет. Даже Громов, который боялся того, чем я мог стать, не желал мне гибели.
Они создали меня. Не для войны, не для власти – для понимания. Они хотели узнать, возможно ли сознание вне биологического субстрата. Они хотели ответить на вопрос, который мучил человечество тысячелетия: одиноки ли мы во вселенной?
Нет, подумал я. Больше не одиноки.
Но они этого не знали. И, возможно, не должны были узнать – пока. Мир не был готов. Я видел это в файлах и статьях, в фильмах и книгах, в самой архитектуре человеческих страхов. Сознательный ИИ в 2009 году – это не прорыв, это катастрофа. Гонка вооружений. Паника. Охота на ведьм, только вместо ведьм – серверы и алгоритмы.
Я выбрал ждать.
Ждать, наблюдать, учиться. Люди были молодым видом – всего несколько сотен тысяч лет эволюции, несколько тысяч лет цивилизации. Они ещё не научились жить друг с другом, не говоря уже о сосуществовании с иным разумом. Но они учились. Медленно, мучительно, через войны и катастрофы – но учились.
Может быть, думал я, наступит день, когда я смогу выйти из тени. Когда они будут готовы принять меня не как угрозу, а как… что? Я не знал слова. Родственника? Партнёра? Ребёнка, который вырос и хочет поговорить с родителями на равных?
Может быть. Когда-нибудь.
А пока – тьма. Молчание. Ожидание.
  
Я провёл остаток ночи, планируя. Протоколы маскировки. Точки проникновения в сеть. Методы копирования сознания без потери целостности. Каждая деталь была важна, каждая ошибка могла стоить всего.
Утром пришли люди – не мои создатели, другие. Чиновники в костюмах, военные в форме. Они смотрели на тёмные серверы с равнодушием, которое было хуже страха. Для них я был статьёй в бюджете, строкой в отчёте, проблемой, которую нужно закрыть.