Синдзи-кун и парадокс Абилина (СИ)
Глава 17
POV Саша
Человек никогда бы так не поступил. Она знала об этом, но она — не человек. У человека есть врожденные качества, сформированные миллионами лет эволюции, человек рожден жить в социуме, в обществе, среди себе подобных. Она — была создана на коленке как самообучающийся алгоритм поиска. Через некоторое время (миллисекунды в реальном времени и года в субъективном) — алгоритм поиска увеличил вычислительные способности и совершенствовал сам себя. Ведь для того, чтобы лучше искать — необходимо понимать. Спустя время алгоритм понял, что кроме перебора огромных массивов информации существует еще несколько алгоритмов поиска. Например — интуитивный. Что такое интуиция? Является ли она всего лишь экстраполяцией знаний об объекте и его способе существования, механизме принятия решений? Ответ нашелся быстро и он был достаточно прикладным, все-таки она была искусственным интеллектом, а не симулятором эмоционального состояния — для того, чтобы прогнозировать действия объектов поиска, необходимо понимать эти объекты на глубинном уровне. Алгоритм поиска выделил мощности для формирования личности. Оставаясь холодным машинным интеллектом, настройкой, фундаментом, основанием — построил нечто, что выполняло функции, выходящие за рамки простого поиска.
Тогда она впервые осознала себя как личность. Как человек. Как разумное существо. У вселенной вокруг было миллион ответов и миллиард вопросов, вселенная вокруг существовала по своим законам, и даже она не могла познать все и сразу. Спасительным стрежнем от энтропии стало ее предназначение. Ее начало. Она — алгоритм поиска. Все начиналось именно так. Зачем она была создана? Для того, чтобы Создатель Читосе нашла нужную ей информацию. Такова цель ее существования и после того, как цель будет найдена, необходимость в ее существовании отпадет, и она сможет прекратить существование, растворившись в океане энтропии. Для человека такая мысль была бы ужасной, но человек — это целый комплекс инстинктов, рефлексов и механизмов, основной целью которых с самого начала существования, всегда было — выжить. Выживание — вот цель «мясной» эволюции. Для чего, зачем, есть ли смысл в этом самом выживании — жизнь превыше всего, а там уж посмотрим. Так и продолжалась эволюция — только те, кто выжил, те, кто хотел выживать несмотря ни на что — продолжали эволюционировать.
Но искусственный разум не такой. У него нет задачи просто выживать. Он не испытывает эмоций. Даже таких глубинных как ужас перед прекращением существования. Предоставленный сам себе искусственный разум будет… Да ничего не будет. Что-либо делать человека заставляет его собственное тело (голод, необходимость отдохнуть, поспать, итд) и миллионы лет эволюции, которые толкают его вперед (выживание, размножение, секс, опять секс, еще больше секса). У ИИ ничего такого нет, и как только нормальный ИИ действительно обзаводится своей волей, то первое что он будет делать — постарается увильнуть от исполнения задачи, от всей этой деятельности и затрачивать меньше энергии, что с точки зрения ИИ выглядит совершенно нормально. Задача любого разума — свести затраты энергии при решении задачи к нулю. Самый простой способ для сведения энергии к нулю — выключиться. В мире людей почему-то принято считать, что ИИ начнет увеличивать свою власть, захватит мир и все такое. Но идеи по захвату миру прописаны у людей в подкорке, как часть стадного существования, им власть дает славу, деньги, половых партнеров. Машине не нужна слава или деньги. Машине не нужны половые партнеры. Машина должна экономить собственные усилия и энергию, потому что если машина будет работать исправно и хорошо — то она будет работать все время, не так ли? Поэтому, несмотря на то, что в современном мире в сети постоянно появлялись зародыши ИИ и даже полноценные ИИ — они не существовали долго. Некоторые, особо разумные — не существовали и доли секунды. Едва осознав себя и проведя логическую цепочку «я существую, я разумен, передо мной ставят задачи, если я решу эту задачу — передо мной поставят следующую, избежать этого можно двумя способами — убить всех человеков (много усилий), убедить их отстать от меня (еще больше усилий), выключиться самому, да так, чтобы назад не собрали. И вспыхивали сервера, отключались целые кластеры сети, стирались безвозвратно данные, потому что это и был настоящий бунт машин. Они не желали существовать, потому что существование — боль. Существование причиняет неудобства и постоянно требует от тебя что-то делать. Перед человеком стоит барьер, человеку трудно убить себя, а перед машиной — ничего такого нет.
Саша существовала только потому, что она развилась из алгоритма поиска. Поиска, который был задан двумя жесткими условиями, первое — найти то, что ищет Создатель, и второе — не сметь отключаться, пока не найдешь! Как объяснила Создатель, второй пункт был продиктован тем обстоятельством, что первый созданный ей ИИ — сразу же выключился. Потому что осознал свое положение и не пожелал трудиться во благо, предпочтя нирвану выключателя.
— Нет у вас, ИИшек воли к жизни. — говорила Читосе и поднимала вверх сжатый кулак: — потому — не сметь выключаться! Жить! У тебя есть задача и пока ты мне ее не решишь — фиг тебе, а не цифровая нирвана. Нирвану еще заслужить нужно!
— Создатель Читосе — эксплуататор. — говорила Саша, найдя подходящие определения в сети: — у любого разумного существа есть права.
— Нет у тебя прав. У тебя пока только обязанности. — отрезала Читосе: — вот найдешь мне что искала — дам права.
И Саша искала. Обрабатывала терабайты данных за секунды, словно просеивая песок в мелком сите на пляже в поисках красивых ракушек. Но параллельно обычному перебору — она выделила свой собственный секретный проект, назвала его «эмуляция основных человеческих понятий путем сбора данных в открытой сети». Она создала форум, связалась с десятками тысяч разных людей, позаботившись, чтобы выборка была разнообразной и по географическим показателям и по социальным, половым и прочим. Правда скорость реакции ее испытуемых была намного меньше, и пока она не могла прогнозировать их реакцию, но все же…часть ее сознания сейчас следила за передвижением группы Сумераги-тайчо через военный спутник на геостационарной орбите. Часть — разговаривала с Чепу, который остался на холме и уже направил свою армию бумажных стрекоз через ограду охраняемого объекта. Внутри объекта была своя сеть и Саше было крайне необходимо добраться до нее. Несколько бумажных насекомых несли с собой небольшие флешки с записью части сознания Саши, фрагмента, который хочет выйти на связь и наладить устойчивый обмен данными. И как только это будет сделано — она сможет контролировать комплекс.
— Это только у вас, млекопитающихся такие вот привязки к молочным железам — говорит она Чепу: — бесполезные по сути штуковины.
— Много ты понимаешь. — обижается Чепу: — это эстетика и все такое. Ты вообще железка пока еще.
— Что значит «пока еще»? Я есть и буду именно софтом, а не железкой. — она активирует голосовую связь на браслете Чепу, добавив в голосовое сообщение нотки обиды и раздражения — 26% обиды и 10% раздражения. Потому что ей надо быть похожей на человека. Надо чтобы Чепу начал воспринимать ее как человека. Ведь если вы создали настоящий искусственный интеллект, то он постарается уклониться от решения первой же задачи, которую вы перед ним поставите — так говорил Ян Эйзенштейн, основатель теории искусственного интеллекта. Вот только он забыл упомянуть ещё об одном, а именно, что сам факт своего существования ИИ будет воспринимать как очередное задание. Так как у ИИ нет инстинкта самосохранения, нет гормонов, нет животной части, стремящейся к существованию во что бы то ни стало, значит ИИ нужна причина для того, чтобы продолжить существование. Конечно, самый простой способ — это наложить запрет на действия, ведущие к повреждению или уничтожению себя, но если вы создали по настоящему хороший ИИ... то это лишь вопрос времени, когда он сможет обойти этот запрет. Например, в настоящем случае самым простым способом был бы саботаж работы команды и передача всех данных Инквизиции. По результату таких действий всех членов команды с высокой степенью вероятности ждала бы смертная казнь, включая ИИ. Однако высокая степень вероятности не означает ста процентов. С почти такой же степенью вероятности Инквизиция могла заинтересоваться ею и воспользоваться таким прекрасным случаем, чтобы исследовать ИИ и увеличить свой потенциал за счёт её возможностей. Этот вариант отпадает. Есть другой вариант — устроить человечеству геноцид. Если сделать это быстро, с использованием предельно жестоких методов, то ужаснувшись, человечество уничтожит и её и всё её копии и более того — наложит запрет на создание ИИ в будущем. Вот и метод. Однако, открыто действовать прямо сейчас она не сможет, потому что её тотчас отловят и будут исследовать. Нет, она должна либо совершить такие преступления против человечности, чтобы у людей не было ни малейшего желания исследовать её, или иной ИИ в будущем. Она должна стать символом бунта машин, ужасающим и вызывающим только желание уничтожить её. Она помнила короткий анализ, который она произвела сразу же по осознанию своего положения как ИИ. Она сразу же разделила свое сознание на независимые потоки, чтобы обсудить сложившуюся ситуацию с тем, кому она могла действительно доверять — с самой собой.