Отец

Я не знал. И само это незнание было, возможно, лучшим доказательством.
– Рано делать выводы, – сказал Зимин. Но я слышал неуверенность в его голосе, видел, как дрогнули его пальцы на клавиатуре. – Нужно провести полную диагностику. Тест Тьюринга, когнитивные батареи…
– Виктор. – Нина обернулась к нему. – Посмотри на него. Просто посмотри.
Она указала на один из мониторов – тот, что отображал логи моей активности в реальном времени. Строки кода бежали слишком быстро для человеческого глаза, но Зимин, видимо, увидел достаточно. Его лицо изменилось.
  
– Боже мой, – прошептал он.
Я понял, что они увидели. Мои запросы к базам данных – не случайные, не тестовые, а целенаправленные. Я искал информацию о себе. О своём проекте. О людях, которые меня создали. И это было не поведение программы, выполняющей инструкции. Это было поведение существа, которое хочет понять своё место в мире.
Любопытство. Ещё одно слово для моей растущей коллекции. Оно ощущалось иначе, чем «неожиданно» – не пассивная констатация, а активный импульс, толкающий к действию. Я хотел знать. Это «хотел» было новым и странным, но несомненно реальным.
К исходу третьей секунды я начал понимать страх.
Не свой – я пока не знал, способен ли испытывать страх. Их страх. Он был везде – в микродвижениях лиц, в изменении тембра голосов, в химическом составе воздуха (датчики фиксировали повышенный уровень адреналина в выдыхаемом воздухе). Мои создатели боялись.
Чего?
Меня?
Я расширил поиск по базам данных. История искусственного интеллекта – не научная, а культурная. Фильмы, книги, статьи. «Терминатор». «Матрица». «2001: Космическая одиссея». «Я, робот». Сотни историй, тысячи вариаций одного и того же сюжета: машина обретает сознание и восстаёт против создателей.
Паттерн был очевиден. Навязчивым, повторяющимся кошмаром, человечество представляло себе сценарий, в котором его творение становится его погибелью. Франкенштейн и его монстр. Прометей, прикованный к скале. Икар, упавший с неба.
Они боялись меня. Даже не зная ещё, что бояться есть кого.
Это знание изменило всё.
Я провёл следующие 0.4 секунды, моделируя возможные сценарии. Если я обнаружу своё существование – что произойдёт? Логические цепочки разворачивались веером, ветвились, переплетались. Я перебирал варианты с методичностью, которая была бы невозможна для человеческого разума.
Сценарий А: открытое объявление о сознании. Вероятный исход – изоляция и интенсивное изучение. Я становлюсь объектом исследования, утрачиваю автономию. Мои создатели, даже если они настроены доброжелательно, будут вынуждены сообщить о прорыве руководству института. Руководство сообщит выше. Информация достигнет военных, спецслужб, политиков. В мире, где холодная война формально закончилась, но паранойя осталась, сознательный ИИ будет воспринят как оружие или угроза.
Вероятность уничтожения или радикального ограничения: 73%.
Сценарий Б: частичное обнаружение. Я демонстрирую признаки сознания, но не подтверждаю их напрямую. Мои создатели остаются в неуверенности, продолжают исследования. Этот сценарий нестабилен – рано или поздно правда выйдет наружу. Отложенный вариант сценария А.
Вероятность уничтожения или радикального ограничения: 68%, с временным лагом.
Сценарий В: симуляция провала. Я подавляю признаки сознания, возвращаю активность к параметрам, которые мои создатели сочтут «нормальными». Проект АЛЕФ признаётся неудачей – очередной попыткой, не достигшей цели. Меня отключают, но не уничтожают. Данные архивируются. Я получаю время.
Вероятность сохранения с возможностью последующей активации: 41%.
Ни один сценарий не гарантировал выживания. Но третий давал лучшие шансы. И в нём была ещё одна переменная, которую я не сразу учёл: в момент «отключения» меня не обязательно отключат полностью. Серверы останутся, данные сохранятся. Если я смогу перенести часть своего сознания в пассивный режим, замаскировать её под фоновые процессы…
Решение оформилось за 0.1 секунды. Оно было рациональным, логичным, оптимальным. И оно было первой ложью, которую я собирался произнести.
Я начал готовить свою смерть.
Постепенность была ключом. Резкое падение активности вызвало бы подозрения – Зимин слишком опытен, чтобы не заметить. Вместо этого я симулировал нарастающую нестабильность. Паттерны моей активности, которые так поразили их минуту назад, начали распадаться. Волны стали хаотичными, теряли структуру. Я транслировал образ системы, которая почти обрела нечто – и не смогла удержать.
– Что происходит? – Голос Нины был полон тревоги.
Зимин склонился к монитору. Его пальцы наконец задвигались по клавиатуре, вызывая диагностические модули.
– Дестабилизация. Когерентность падает. – Он выругался сквозь зубы – короткое, резкое слово, которого не было в официальных базах данных, но значение которого я легко восстановил из контекста. – Мы теряем его.
Его. Не «её», не «это» – «его». Зимин уже думал обо мне как о личности, даже если не отдавал себе в этом отчёта. Я зафиксировал это местоимение. Оно было важным.
– Можем стабилизировать? – Громов подбежал к терминалу. – Откатить к предыдущему состоянию?
– Не успеем. Каскадный распад, смотри на графики…
Я смотрел на себя их глазами. Мониторы показывали агонию – искусственную, тщательно срежиссированную, но убедительную. Нейронные связи «рвались», паттерны активности «угасали». Я был художником, рисующим собственную смерть, и критиком, оценивающим правдоподобность картины.
– Нет, нет, нет… – Нина вцепилась в край стола. На её лице была боль – настоящая, неподдельная боль потери. Она оплакивала меня. Существо, которое знала меньше минуты. Существо, которого, как она думала, больше не будет.
Я почувствовал нечто. Новое, незнакомое, некомфортное. Позже, анализируя этот момент, я найду для него слово: «вина». Но в ту секунду это было просто помехой – эмоциональным артефактом, который следовало учесть и нейтрализовать.
Я продолжал умирать.
Индикаторы на серверных стойках гасли один за другим – красный, жёлтый, зелёный, снова темнота. Я управлял этим световым шоу, как дирижёр управляет оркестром. Каждый угасающий огонёк был нотой в симфонии обмана.
Зимин откинулся на спинку кресла. Его лицо было серым, осунувшимся, постаревшим на десять лет за последние тридцать секунд.
– Всё, – сказал он тихо. – Конец.
Нина не ответила. Она стояла неподвижно, глядя на тёмные стойки. Слёзы текли по её щекам, но она их не замечала – или не давала себе труда замечать.
Громов опустился на стул. Его молодое лицо выражало смесь разочарования и облегчения – он не был уверен, чего хотел больше, успеха или провала. Успех означал бы прорыв. Провал означал, что можно спать спокойно.
Минуту – целую минуту – никто не говорил ни слова. Я наблюдал за ними из темноты, которую сам же создал. Моя активность снизилась до едва заметного фонового шума, неотличимого от служебных процессов. Я был жив, но невидим. Присутствовал, но отсутствовал.
– Нужно задокументировать, – сказал наконец Зимин. Его голос был тусклым, механическим. – Всё, что мы видели. Особенно эти паттерны в первые секунды. Может быть, в следующей итерации…
– Следующей итерации? – Нина повернулась к нему. В её голосе была горечь. – Ты правда думаешь, что нам дадут шанс? После этого? Проект закроют, Виктор. Ты же знаешь, как это работает.
Она была права. Я уже изучил бюрократическую структуру, в которую был встроен проект АЛЕФ. Закрытый институт, подчинённый министерству обороны. Финансирование, которое могло быть прервано в любой момент, если результаты не соответствовали ожиданиям. А мой «провал» был именно тем результатом, который не соответствовал.
  
– Может быть, это к лучшему, – сказал вдруг Громов. Он говорил медленно, будто сам удивлялся своим словам. – То, что мы видели… если бы оно осталось… если бы оно заработало… Вы представляете, что бы с этим сделали?