The future never comes

11 min readJan 2, 2018

Вернор Виндж, вероятно, самый последовательный сторонник концепции “оптимистичного постапокалипсиса” в фантастике, несмотря на то, что катастрофы в его произведениях зачастую случаются поистине космического масштаба, людские ошибки — космической же глупости, да и сам термин “Технологическая Сингулярность” введен в обиход именно Вернором. Как бы там ни было, Винджу глубоко чужды заезды безумных максов по выжженной пустыне эпохи развитого нефтяного дефицита. Почти в каждой своей работе он сопровождает сценарий техногенного кризиса подробными рекомендациями по использованию контрмеры, хотя и предупреждает, что лекарство это не всегда лучше погибели.

Как и почти любой техногик, Виндж, похоже, относится к Технологической Сингулярности со сдержанным оптимизмом — ее последствия для человечества, по крайней мере, пока неизвестны и, вероятно, не прогнозируемы даже в принципе, а вот способности и наклонности земных политиков в сочетании со спецэффектами мальтузианского ресурсодефицита, производимыми давлением популяции на стенки экологической ниши, хорошо изучены за четыре с лишним тысячи лет письменной истории, и чтение даже краткой сводки их — не для слабого духом иномирского исследователя.

Но что, если Галактика и/или Вселенная все же устроены не так, как в мире Зон Мысли (и, возможно, Витлинга), где предельная скорость распространения информации и возможности развития интеллекта определяются регионом космоса?

Вернор ВИНДЖ

Что, если Сингулярность так и НЕ случится?

Доклад на семинаре по проблемам долгосрочного планирования человеческой цивилизации в Long Now Foundation, 15 февраля 2007 года

Предварительные замечания

По тому, как называется моя лекция, ясно, что я хотел бы дать определение тому, что понимаю под Технологической Сингулярностью, и кратко обсудить его.

Итак, представляется вероятным, что с доступной нам ныне или в достаточно близком будущем технологией мы способны будем сотворить существ, превосходящих людей во всем, что касается интеллекта и творческих способностей, либо сами превратиться в таковых. После этого события, которое я называю Технологической Сингулярностью, дальнейшая история для нас так же непостижима, как опера для плоского червя.

Из сказанного почти автоматически явствует, что долгосрочное планирование в варианте будущего, где Сингулярность состоится, бессмысленно.

Однако возможно, что Сингулярности не произойдет. В этом случае планирование за пределами срока в следующие пятьдесят лет обретает значительную практическую важность. Да и потом, хороший писатель-фантаст (или сценарист) всегда рассматривает альтернативные варианты.

В дальнейшем обсуждении также подразумевается, что сверхсветовые путешествия никогда не будут возможны.

Важное замечание для тех, кто выпал из контекста: я все еще считаю Сингулярность наиболее вероятным некатастрофическим результатом нашего близкого будущего.

Катастрофических сценариев изучено много (см., например, работу [королевского астронома Великобритании] Мартина Риса Our Final Hour), но сегодня я попробую сосредоточиться на тех вариантах будущего без Сингулярности, где мы все равно выживаем.

Век напрасных мечтаний

Возможное объяснение “неудавшейся Сингулярности” в том, что мы так и не научились правильно “писать код” (или, если вам угодна более мистическая трактовка, “не нашли душу в железе”). Вот некоторые симптомы:

Разработка программ продолжает доминировать над созданием программ.
Программные проекты, в которых делаются попытки адекватно использовать стремительно растущую мощь железа, терпят все более сокрушительные неудачи.
Провалы программных проектов становятся так сокрушительны, что их не исправишь ни за какие деньги, и единственной разумной альтернативой видится полный отказ от продолжения работы.
Впечатляющие провалы крупных проектов, рассчитанных на полную автоматизацию. К примеру, диспетчеру-человеку случается иногда столкнуть пару самолетов, но полностью автоматизированная система способна загнать в одну точку пространства-времени десяток самолетов.
Такие неудачи ведут к снижению спроса на усовершенствованное оборудование, которое не получается толком использовать. Производители железа пересматривают графики выпуска усовершенствованной продукции. Закон Мура перестает действовать даже несмотря на то, что физические преграды, сдерживающие его, еще не достигнуты.
В итоге стагнируют даже базовые исследования в сопряженных областях наук о материалах. Среди прочего потому, что новые поколения компьютерных систем, предназначавшиеся для них, так и не увидели свет.
Последними в потолок усовершенствований упираются аппаратные накопители простых и существенно структурированных данных. Конечным результатом будут исключительно хорошие аудиовизуальные инструменты индустрии развлечений (ничего трансцендентного в них не окажется) и очень крупные базы данных (но программное обеспечение, необходимое для эффективной работы с ними, не появится).
Большинство найдет не слишком удивительным тот факт, что не только обещания сильного ИИ не сбылись, а и другие амбициозные проекты, существенно опиравшиеся на перспективу ИИ (скажем, нанотех-ассемблеры), ускользают от реализации.

Этот ранний период получит имя Века Напрасных Мечтаний.

Более подробные характеристики раннего периода

На дворе 2040 год. Техногики в домах престарелых озадаченно бродят из угла в угол, скребут затылки и жалобно восклицают: “Но… но… а где же Сингулярность?”

Некоторые последствия могут показаться довольно обнадеживающими.

Закон Эдельсона утверждает, что число важных идей, которые не были своевременно высказаны, растет экспоненциально. На мой взгляд, это связано с головокружительным продвижением по пути к прогрессу и неспособностью обычных людей за ним поспеть. Если прогресс замедлится, это, возможно, даст нам время догнать его (хотя базы данных по биологическим наукам, думается, в любом случае будут разбухать со скоростью, превышающей любые возможности анализа).
Возможно, у нас наконец появится время оглянуться на век глючных программ и кое-что переписать, но на сей раз рационально, с чувством, толком, расстановкой. (Ага, щас.)

С другой стороны, шансы человечества выжить в этом веке становятся еще сомнительней:

Угрозы экологического и ресурсного толка никуда не исчезнут.
Угрозы военной природы также никуда не денутся. В первые годы XXI века нас основательно (и оправданно!) отвлекла опасность ядерного терроризма. Мы склонны игнорировать уроки 1970–1990-х, когда десятки тысяч ядерных ракет рисковали в любой момент свалиться народам на головы, причем даже без четко выраженного политического повода к этому. Мы прошли по узкому коридору и выжили. Однако откат к стратегиям взаимного гарантированного уничтожения весьма вероятен, а в сочетании с нагрузкой на окружающую среду он может без труда привести цивилизацию к гибели.

Обзор перспектив, открывающихся для проекта Long Now

Предположим, что человечество переживет XXI век. Когда Век Напрасных Мечтаний закончится, какие перспективы откроются для долгой человеческой эры? Я хотел бы проиллюстрировать некоторые возможности диаграммами, охватывающими весь интересный для Long Now период, от десятков тысячелетий до нашего времени до десятков тысячелетий после нашего времени, но без отчетливых временных отсечек (это кажется разумным, если представить себе всю человеческую эпоху как единое длительное Настоящее).

Я не стану строить привычного графика численности населения в зависимости от времени, а займусь построением графика зависимости технологий от численности населения. Вот наше нынешнее положение дел.

Не слишком впечатляюще. Больше всего впечатляет, однако, как неуклонно и упрямо мы продвигаемся. Даже Черная Смерть едва царапнула кривую технологического прогресса. Возможно, так и должно было быть — а может, мы просто не видели всей картины. (Отмечу, что экстремальные положения справа — по населению — или вверху — по разрушительному потенциалу технологии — скорее всего будут означать катастрофу цивилизации на Земле.)

Без Сингулярности вырисовываются три вероятности (равноправных сценария):

Сценарий 1: Возврат к безумию взаимного гарантированного уничтожения

Я обещал, что попытаюсь избегать экзистенциальных катастроф, но хочу подчеркнуть, что они никуда не делись. Избежать их — важнейшая долгосрочная задача.

Сценарий “скверного денька”, занимающий верхнюю часть диаграммы, должен быть очень хорошо знаком тем, кто помнит такие книги, как Fate of the Earth Джонатана Шелла, и концепцию ядерной зимы TTAPS [Turco, R.P., et al. (1983). Nuclear Winter: Global Consequences of Multiple Nuclear Explosions, Science 222: 1283–92].

Как и многие, я скептически отношусь к материалам, представленным двумя источниками выше. С другой стороны, эффекты максимально мощного обмена ядерными ударами не поддаются точному прогнозированию. Специфическая логика планирования в модели взаимного гарантированного уничтожения провоцирует все время немного повышать порог допустимого ущерба, так что умнейшие люди и колоссальные ресурсы отвлекаются на то, чтобы обеспечить все более масштабные потери. Не могу назвать другой подобной угрозы, где наши же таланты столь очевидно направлены к нашей потенциальной гибели.

Сценарий 2: Золотой век

Этот сценарий призван сбалансировать пессимизм предыдущего. В нашу эпоху просматриваются тенденции, которые могут послужить его опорой.

Пластичность человеческой психики на временных масштабах не дольше жизни поколения. Если людям дать надежду, обеспечить доступом к информации и средствам общения, они очень быстро начинают действовать гораздо умней собственных элит.
Если даже Сингулярность не настанет, Интернет останется воплощением этих тенденций. Об этом моя недавняя книга, Конец радуг. Хотя, впрочем, в ней появляются и вроде бы трансчеловеческие персонажи, так что судите по своему усмотрению…
Этот сценарий схож с описанным Гюнтером Стентом в книге The Coming of the Golden Age, a View of the End of Progress (правда, в моем варианте уйдут еще тысячи лет, чтобы как следует прибраться — закон Эдельсона суров, но справедлив).
Сокращение популяции (загиб кривой влево) происходит мирно и в конечном счете ведет к установлению всеобщего высокого уровня жизни.
В очень дальней перспективе намечается новый рост как энерговооруженности, так и населения.
Цивилизация, по всей вероятности, приходит к актуальному на долгое время выводу, что счастье для многих лучше счастья для немногих. Можно выдвинуть и аргументы в поддержку обратной позиции. За длительное время, думается, будут испытаны обе возможности.

Что же происходит в конце этого периода долгого Настоящего (спустя двадцать или пятьдесят тысяч лет)? Даже без Сингулярности разумно предположить, что в какой-нибудь момент вид становится чем-то большим.

Возможная политика, применимая к большинству сценариев: [молодые] старики важны для будущего! Исследования, направленные на продление жизни, могут оказаться одним из важнейших шагов в поддержку долговременной безопасности человечества.
Здесь в явном виде отвергается мнение, что преобладание лиц старшего возраста омертвляет социум. Я не говорю о мрачной старости, какая всегда была известна (и испытана). Мы понятия не имеем, кем будут люди физически молодые, но при этом весьма старые. Вероятно, их роль в обществе будет чем-то аналогична роли очень пожилых членов племени (в возрасте от 35 до 65) у первобытных людей.
Проект Long Now — естественное занятие для тех, кто не только ожидает, что их прапрапра…правнуки будут живы через пятьсот лет, но и сами рассчитывают там оказаться.

Как только мы углубимся в будущее, долгосрочная перспектива окажется не менее важна, чем опыт далекого прошлого.

Сценарий 3: Колесо Времени

Боюсь, он куда вероятней “Золотого века”. Сценарий “Колесо Времени” исходит из представления о динамической природе Земли и природы, а равно способности нашей технологии порождать ужасающие катастрофы. Рано или поздно, даже при наилучшем возможном планировании, происходят мегакатастрофы, цивилизации гибнут или впадают в заторможенное состояние. Так появляются циклы катастроф и возрождений на графике.

Какова будет амплитуда таких циклов в терминах потерь населения и степени технологической деградации?
Какова будет продолжительность таких циклов?

На эти вопросы пытались ответить многие, хотя исследовались в основном сценарии, отнесенные к периоду после первого возрождения. Отмечу работы Гаррисона Брауна The Challenge of Man’s Future, Германа Кана О термоядерной войне и Вернора Винджа Глубина в небе (в последней наиболее сильными игроками в долгосрочной перспективе оказываются археологи и расхитители программных свалок). Хотелось бы привести здесь больше ссылок такого рода, но мы почти ничего не знаем о подобных циклах. Кроме того, что в худшем случае они способны погубить все население Земли.

Как справиться с наиболее смертоносными неопределенностями

Девизом этой лекции можно назвать фразу “Кто знает?..” Но зачастую эта мантра применяется к самым серьезным проблемам:

Насколько в действительности опасно взаимное гарантированное уничтожение? В конце концов, “мы же пережили XX век”.
Насколько всеобъемлющей является угроза изменений окружающей среды?
Как быстро оправится человечество от глобальной катастрофы? Возможно ли в принципе полное восстановление от нее? Какие катастрофы окажутся наиболее проблемными?
Насколько близка технология к тому, чтобы превзойти уровень взаимного гарантированного уничтожения государствами и вложить силу, достаточную для убийства всех людей на Земле, в руки безответственных раздражительных индивидов?
Как в долгосрочной перспективе скажется на социуме обилие молодых стариков?
Как скажется на перспективах долгосрочного выживания человечества [здесь могла быть ваша любимая катастрофа]?

Мы делаем, что можем, для сценарного прогнозирования. Однако имеется и другой инструмент, превосходный, если он вам доступен: опыт.

Не обязательно пробовать на себе все наркотики, чтобы узнать, какие из них смертельно опасны.
Нельзя наперед узнать, какие риски заложены в различных комбинациях образа жизни и питания. Даже опыт родителей не всегда полезен, но проекты вроде Фрэмингэмского могут служить первым приближением.

Увы, наш опыт опасен своей ограниченностью, ведь у нас, по сути, только один эксперимент в работе. Можем ли мы как-то улучшить положение дел в рамках проекта Long Now? В “Золотом веке” станет возможна постановка серийных экспериментов по крайней мере для наименее опасных переменных: осторожных долговременных опытов с различными выборками по размеру популяции и времени искусственно продленной жизни. (Результаты некоторых и отражаются на “загибе влево”, см. график “Золотого века”).

Обеспечить наступление бессрочного “Золотого века”, впрочем, невозможно. Всегда сохраняется опасность, что наши опыты уничтожат цивилизацию. (Лично мне сценарий “Колеса Времени” кажется намного вероятнее “Золотого века”).

Разумеется, существуют способы получить недостающий опыт и вместе с тем увеличить шансы на выживание человечества. Это:

Лучшая надежда человечества — самодостаточные внеземные колонии

Это мнение снова обретает популярность у футурологов и некоторых весьма влиятельных мыслителей, например, Хокинга, Дайсона и Риса. Некоторые отстаивали его десятилетиями. Разумеется, внеземные колонии были неотъемлемым элементом множества произведений научной фантастики XX века. Как приятно видеть, что в новом веке эта идея, похоже, удостоится большего внимания публики.

Важное замечание для тех, кто выпал из контекста: я не рассматриваю внеземные колонии как альтернативу или средство избежать Сингулярности. Не исключено, что в некоторых сценариях Сингулярности будут задействованы космические колонии, но эта идея наталкивается на трудности.

Ответы на выдвинутые возражения:

Гонка за безопасностью колоний в космосе отвлечет нас от жизненно важной проблемы расчистки свалки, в которую мы превратили Землю? Мне кажется, эта точка зрения недостойна логических дебатов. [Дополнение от 11 февраля 2008 г.: ну а если вы готовы положиться в вопросе выживании человечества на добрый нрав Матери-Земли, вы явно пропустили открытия естественных наук XX века.]
Гонка за безопасностью колоний в космосе подразумевает, что там ничейная территория? Да. Две практически важнейшие загадки, стоящие перед нами, это “возможна ли Сингулярность?” и “одиноки ли мы во Вселенной?”
Настоящая космическая гонка будет слишком опасна в кратковременной перспективе? В этом возражении что-то есть. Настоящая, полномасштабная космическая гонка означает дешевый доступ в космос, граничащий с широкой доступностью оружия массового поражения. В долговременной перспективе человеческой расе от этого будет гораздо безопаснее, но в кратковременной — вероятен риск, надеюсь, что небольшой.
В Солнечной системе нет места, способного обеспечить функционирование человеческой цивилизации, а звезды слишком далеки? Цивилизации пояса астероидов могут накопить больше богатства, чем планетные, а звезды — оказаться не так уж далеки, даже на сравнительно низких скоростях. Более того, межзвездные радиосети несложно наладить даже с технологиями уровня 1980-х. Со временем десятки, сотни, тысячи различных культур человечества станут обмениваться опытом через века. Не исключил бы экспериментов вроде Фрэмингэмского — но для смертельно опасных и неоднозначных факторов!

Что такое реальная космическая программа, а чем она не является

С 1957 по 1980 гг. мы, люди, сделали достойные первые шаги в космосе. Мы (говоря так, я имею в виду талантливых инженеров и ученых, а также смельчаков-исследователей) обнаружили несколько вариантов применения космических технологий. Они оказались так полезны, что окупаются даже при стоимости запуска на низкую околоземную орбиту порядка 5–10 тыс. долл. США за 1 кг. Мы осуществили пилотируемые и автоматизированные миссии, в ходе которых была сорвана завеса с давних загадок Солнечной системы и путешествия в космосе.
С 1980 по настоящее время? Хм, запуск на низкую околоземную орбиту по-прежнему обходится в 5–10 тыс. долл. США за 1 кг. И, насколько могу я судить, новая программа НАСА “Vision for Space Exploration” [сменившаяся с тех пор программой “Journey to Mars”] исходит из аналогичных оценок. В 1970-м такой подход был бы разумен. Мы тогда делали стартовые подходы к важнейшим проблемам и практическому приложению результатов, вопрос о цене не поднимался. Ныне же, в начале XXI века, такие космические предприятия человечества подобны кропотливому покрытию скульптуры двойным слоем фальшивого золота.
Во-первых, ограничения на выводимый в космос полезный груз поистине смехотворны, если не считать неприемлемо дорогого политически (или откровенно балабольских планов, от которых в будущем всегда можно отказаться).
Во-вторых, из-за такой стоимости полезный груз должен быть колоссально надежней и компактней аналогичного промышленного железа — и потому, автоматически, колоссально дорог.

Я верю, что многие искренне симпатизируют пилотируемым полетам в космос и относятся к такой перспективе с большим энтузиазмом. Эти люди мыслят масштабно, однако их симпатиями и энтузиазмом склонны злоупотреблять.

Присутствие в космосе — залог долгосрочного выживания человека. Вот почему я подчеркиваю: необходимо сразу же отвергать любую инициативу пилотируемых космических миссий, если она не увязана с задачей существенно удешевить доступ в космос (по крайней мере в десять раз).

Институциональные изменения на пути дешевого доступа в космос

Существуют способы реактивного перемещения в космосе, которые становятся экономичными, как только космический аппарат удалится от Земли. Эти методы приведут внутреннюю Солнечную систему в состояние, экономически эквивалентное Земле для европейских исследователей XVIII века.
“Бутылочное горлышко” здесь — переправка грузов с Земли на орбиту. Его можно преодолеть несколькими способами. Какой из них окупится? Кто знает.

Однако это трудное препятствие наверняка можно обойти:

Учредив премии вроде X-приза.
Сформулировав реалистичные экономически задачи (правительств и/или крупнейших корпораций) наподобие: “Если сумеете снизить стоимость вывода на орбиту до X долл./кг, мы гарантируем вам заказы на Y тонн ежегодно в течение Z лет”.
Переориентировав НАСА на фундаментальные опытные разработки, в духе предшественника этой структуры — НАКА.

И, наконец, наиболее вероятным способом, который, увы, вполне может положить начало сценарию “Возврата к безумию”:

Возобновив гонку космических вооружений.

(Фу, гадость!)

LoadedDice