Истинный творец всего. Как человеческий мозг сформировал вселенную в том виде, в котором мы ее воспр

Однако Вейценбаум быстро пришел к заключению, что это «своевременное волшебство» оказалось не более чем коллективным ментальным конструктом – духом времени, овладевшим всеми сторонами, заинтересованными во внедрении компьютеров во все сферы американской жизни, учитывая, что разворачивавшееся после этого будущее в то время не было единственно возможным. В подтверждение своей идеи он говорил, что большинство военных проектов, включая Манхэттенский проект по созданию атомной бомбы, были успешно реализованы без масштабного внедрения компьютеров. Все необходимые вычисления, от самых рутинных до самых сложных, выполнял человеческий мозг. Безусловно, компьютеры значительно ускорили этот процесс, но они не ввели никакого нового понимания или знания (науки), которые получили бы преимущества от их внедрения. Вообще говоря, Вейценбаум полагает, что, хотя значительное число первых пользователей считало компьютер незаменимым инструментом, это не означало, что так оно и было. В эти первые дни цифровых вычислительных машин скорость достижения конечного результата стала ключевым параметром, определившим скорейшее внедрение компьютеров в большинство сфер жизни американцев. Как пишет Вейценбаум, «цифровой компьютер не был обязательным элементом для выживания современного общества в послевоенный период и после него; энтузиазм и отсутствие критической оценки при его внедрении со стороны большинства „прогрессивных“ представителей американского правительства, бизнеса и промышленности быстро сделали его незаменимым ресурсом для выживания общества в такой форме, которую формировал сам компьютер». За последние десятилетия это же мнение подтвердили многие другие авторы. Например, Пол Эдвардс вторит Вейценбауму, утверждая, что «инструменты и их использование составляют неотъемлемую часть человеческих рассуждений и через рассуждения не только напрямую формируют материальную реальность, но также ментальные модели, концепции и теории, которые направляют это формирование».
Это означает, что наше непрерывное и все усиливающееся взаимодействие с компьютерами, вероятно, изменяет требования, которые мы ставим перед нашим мозгом в процессе, совершенно очевидно не лишенном риска. Рассмотрим в качестве примера ориентирование на местности. За миллионы лет тонкая способность распознавать детали окружающего природного мира буквально отпечаталась в нейронной плоти нашего мозга. Вот почему структуры мозга, такие как гипоталамус (и, возможно, моторная кора, как мы обсуждали в главе 7), содержат нейронные образы пространства, позволяющие нам выстраивать оптимальные стратегии передвижения в окружающем мире. Интересно, что исследования с визуализацией мозга, проведенные учеными из Университетского колледжа Лондона, показали, что гипоталамус опытных лондонских таксистов намного крупнее, чем у тех, кто не водит машину ежедневно по всем уголкам непростой английской столицы. Однако загвоздка в том, что эти исследования проводились на водителях, которые не учились пользоваться современными цифровыми системами навигации. Поскольку навигация с помощью GPS стимулирует совсем другие мозговые цепи, нежели те, которые задействованы при естественном ориентировании, можно почти наверняка предсказать, что у более молодого поколения лондонских таксистов гипоталамус вряд ли окажется увеличен. Но не сократится ли у них объем гипоталамуса ниже порогового нормативного уровня для обычного взрослого человека? Об этой возможности упоминали некоторые нейробиологи, обеспокоенные тем, что в таком случае риску подвергнется не только естественная способность ориентироваться, но также и многие другие когнитивные навыки, зависящие от целостности человеческого гипоталамуса. Короче говоря, вполне возможно, что с проблемами такого рода в ближайшие десятилетия столкнутся сотни миллионов людей, использующих новые цифровые стратегии: произойдет свертывание органического нейронного аппарата, встроенного в наш мозг в результате селективного давления сотни тысяч или даже миллионы лет назад. И это ощутимый повод для беспокойства. Серьезного беспокойства.
 
Вообще говоря, хотя в сфере искусственного интеллекта пока не удавалось получить ничего похожего на сверхчеловеческий разум, полемика по этому вопросу создает для нашего мозга больше проблем в другом отношении: речь идет о нашей способности отличать реальное научное достижение от простой рекламы, направленной на продажу продукта. Успешная демонстрация искусственного интеллекта, как в случае поражения шахматистов и чемпионов мира по игре в Го, широко обсуждалась сторонниками искусственного интеллекта и помогала создавать общее ощущение, что в долгосрочном плане искусственный интеллект сможет сбросить с пьедестала человеческий разум. На самом деле все эти новые подходы основаны на старых алгоритмах, манипулируют известными статистическими идеями и в лучшем случае усиливают способность современных систем реализовывать функцию распознавания. Например, несмотря на свое помпезное название, Deep Learning – не что иное, как изобретенная в 1970-х годах искусственная сеть нейронов, в алгоритм которой добавлено намного больше вычислительных стадий (также называемых скрытыми слоями). Такой ход позволяет повысить качество распознавания системой искусственного интеллекта, но не ликвидирует основные недостатки, неизменно имеющиеся у подобных программ с самого момента их появления шестьдесят лет назад: системы искусственного интеллекта находятся в плену у старой информации и правил, использованных для построения их баз данных, а также заложенных в систему тренировочных данных. Они не могут создавать новых знаний. В этом смысле искусственный интеллект, по сути, отражает мечту Лапласа о полностью предсказуемой вселенной, в которой будущее целиком определяется прошлым. В таком случае, если подобная система, предназначенная для сочинения музыки, тренируется исключительно на симфониях Моцарта, она никогда не сможет создавать музыку другого плана, такую как музыка Баха, Бетховена, группы Beatles или Элтона Джона. Дело в том, что искусственный интеллект вообще ничего не создает; он ничего не понимает; он не делает выводов. Он лишь выдает обратно то, чем его накормили, – заметим, накормили человеческие руки. Если у «разумных систем» чего-то и не хватает, так это как раз разума – в человеческом понимании слова. Так что, если использовать человеческие критерии интеллекта в качестве золотого стандарта производительности, системы искусственного интеллекта неизбежно обречены на позорный провал.
Но проблема в том, что искусственному интеллекту сегодня и не требуется обойти человеческий интеллект, чтобы стать сильнее нас в будущем. Такое будущее может наступить в результате гораздо более хитрого и реального трюка – укрепления взаимодействия человеческого мозга с цифровыми системами до тех пор, пока, загнанный в угол Истинный творец всего не найдет другой рабочей альтернативы, кроме как самому стать одной из таких систем. Как тонко подметил писатель Николас Карр, «когда мы начинаем использовать компьютеры для помощи в понимании мира, наш собственный разум сжимается до искусственного».
Обратная ситуация, как мы видели (см. главу 6), невозможна. Следовательно, если произойдет самое худшее и следующие поколения людей не будут обладать истинным диапазоном человеческих возможностей в том виде, как это было до сих пор, нам останется винить только самих себя. Как часто бывает, прежде чем такие сценарии, как сингулярность или даже моя гипотеза цифрового хамелеона, становятся темой научных дискуссий, они разыгрываются самостоятельно и доходят до общества в виде научной фантастики. В книге «Как мы становимся постлюдьми» Хейлс описывает реализацию концепции постчеловеческой эпохи в нескольких популярных научно-фантастических книгах. Например, Хейлс анализирует основную интригу нейробиологического триллера Нила Стивенсона «Лавина», которая вращается вокруг того, что некий вирус инфицирует умы людей всей планеты и превращает их в биологические машины, лишенные даже следов истинного сознания, свободы воли, способностей к взаимопомощи или индивидуальности.