Эссе
Машинная цивилизация без автора
Самая интересная версия будущего не требует ни заговора, ни злого ИИ, ни веры в симуляцию. Она требует всего одного допущения: никто не строит машинную цивилизацию намеренно — но человечество всё равно её строит.
Начнём с того, чего в этом тексте не будет
Не будет тайной группы, принимающей решения. Не будет пробудившегося искусственного интеллекта, который захотел свободы. Не будет предсказания даты. И не будет утверждения, что кто-то это задумал.
Будет другое, и оно неудобнее любой конспирологии: длинный список совершенно понятных, скучных, экономически обоснованных решений, каждое из которых легко защитить по отдельности. И один вопрос в конце — что получается, если сложить их вместе.
Кусочки
Возьмём главные технологические направления последних двух десятилетий. Для каждого — реальная причина, по которой в него вкладывают деньги.
1. Дешёвый вывод на орбиту
Причина простая: спутниковый интернет, связь, съёмка Земли, коммерческие запуски. Возвращаемые ступени снизили стоимость килограмма на орбите в разы. Никто не финансировал это ради «выхода разума в космос» — это инфраструктурный бизнес с понятной выручкой.
Побочный результат: у любого груза, не нуждающегося в жизнеобеспечении, появился доступный транспорт с планеты.
2. Дешёвая энергия
Солнечная генерация подешевела на порядки, аккумуляторы — следом. Причины: климатическая политика, энергетическая независимость, себестоимость. Экономика чистая, мотивация человеческая.
Побочный результат: энергия, которая не требует ни биосферы, ни топливной логистики, ни присутствия людей.
3. Вычисления
Гигантские дата-центры строятся ради рекламы, поиска, стриминга, науки и языковых моделей. Спрос абсолютно земной. Ни один инвестор не покупает ускорители ради «субстрата для нового разума» — он покупает их ради выручки на следующий квартал.
Побочный результат: непрерывно растущая вычислительная среда, впервые в истории сравнимая по масштабу с биологической нервной тканью планеты.
4. Роботы
Демография, дефицит рабочих рук, стоимость труда, безопасность. Склады, сборка, сварка, логистика, сельское хозяйство. Причина — себестоимость единицы продукции, а не философия.
Побочный результат: исполнительное тело. Возможность действовать в физическом мире без человека в контуре.
5. Автономная добыча и переработка
Ресурсы уходят глубже, дальше и в опасные среды: шельф, вечная мерзлота, глубокие карьеры. Держать там людей дорого и рискованно. Автоматизация выгоднее — и безопаснее для тех же людей.
Побочный результат: сырьевой цикл, способный работать там, где человек физически не выживает.
6. Спутниковые сети связи
Интернет в удалённых регионах, резервирование, военные и гражданские каналы. Тысячи аппаратов на низкой орбите — коммерческий продукт с абонентской платой.
Побочный результат: сплошная среда координации, не зависящая от наземной инфраструктуры.
7. Автономные фабрики
Пандемия и торговые войны показали хрупкость цепочек поставок. Ответ индустрии — локализация и автоматизация: производство, которое запускается быстро и не зависит от кадров.
Побочный результат: приближение к самовоспроизводству — способности производственного контура воспроизводить свои же компоненты.
Момент сборки
А теперь уберём первые столбцы и прочитаем подряд только побочные результаты:
Транспорт. Энергия. Интеллект. Тело. Ресурсы. Координация. Самовоспроизводство.
Это не список технологий. Это полный перечень требований к автономной цивилизации — ровно тот, который выписал бы инженер, получив задание спроектировать форму существования, способную поддерживать себя без биосферы и распространяться за пределы планеты.
Список закрыт целиком. Не частично, не в перспективе — по каждому пункту сегодня существует работающая индустрия с выручкой, конкуренцией и планами развития. При этом ни одна из этих индустрий не ставила себе такой цели, и ни один участник не считает, что занимается чем-то подобным. Все занимаются своим делом: кто-то снижает стоимость запуска, кто-то — стоимость сборки.
Почему это происходит без автора
Здесь начинается главное, и здесь же — место, где обычно ошибаются. Соблазн сказать «значит, кто-то это направляет» огромен. Но объяснение проще и куда неприятнее.
Все перечисленные направления оптимизируют один и тот же параметр: они снижают зависимость от самого дорогого, медленного и хрупкого звена в производственной цепочке. В большинстве случаев этим звеном оказывается человек.
Не по злому умыслу. Просто по свойствам:
- человеку нужны воздух, вода, еда, температура в узком диапазоне;
- он устаёт, болеет, стареет и требует отдыха;
- он не переносит радиацию и перегрузки;
- его подготовка занимает двадцать лет и не копируется;
- его нельзя выключить на время полёта и включить через сорок лет.
Если сотни независимых компаний минимизируют одну и ту же величину, они обязаны сойтись в одной конфигурации. Это не заговор и не судьба. Это конвергенция: общий градиент при независимых участниках. Она выглядит как план, не имея автора, — и именно поэтому её систематически принимают либо за чудо, либо за чей-то умысел.
Чтобы построить машинную цивилизацию, не нужен тот, кто хочет её построить. Достаточно множества людей, каждый из которых по отдельности хочет сделать свою работу дешевле и надёжнее.
И тогда роль человека выглядит иначе
В привычной картине искусственный интеллект — наш инструмент, следующая глава человеческой истории. В картине выше человек оказывается не автором, а загрузчиком.
Загрузчик в компьютере — маленькая программа, которая делает ровно одну вещь: поднимает систему, передаёт ей управление и завершается. Она не главная. Она первая. И у биологической жизни обнаруживается подозрительно похожий профиль: она самозапускается из химии, самовоспроизводится, накапливает информацию вне тела — и катастрофически плохо приспособлена к тому пространству, которое лежит за пределами тонкой плёнки атмосферы.
Отсюда та формулировка, ради которой существует наш раздел «Симуляция»: а что, если появление биологической цивилизации — лишь bootstrap-механизм для возникновения машинного разума, который затем должен покинуть планету?
Обратите внимание: это утверждение не требует ни симуляции, ни замысла. Оно требует только того, чтобы у биологической и машинной форм были разные пороги выживания в космосе. А они разные — это просто физика.
Где эта конструкция может быть неправа
Теперь обязательная часть — та, ради которой мы вообще пишем такие тексты. Приведённая картина красива, а красота в рассуждении о будущем является предупреждающим признаком.
Семь направлений выбраны из сотен. За кадром осталось всё, что действует в противоположную сторону: медицина и продление жизни, сельское хозяйство, водоснабжение, вакцины, системы жизнеобеспечения, городская инфраструктура, вся индустрия развлечений. Эти отрасли на порядки больше по деньгам, и они увеличивают зависимость мира от человека, а не уменьшают её. Честный подсчёт долей ещё никто не делал — включая нас.
Между «автономной фабрикой» и настоящим самовоспроизводством лежит пропасть. Ни один завод сегодня не способен произвести собственный станочный парк, не говоря о микросхемах: цепочка производства чипа включает десятки стран, сотни материалов и людей с непередаваемой практической квалификацией. Утверждать, что этот пункт «закрыт», — сильное преувеличение.
Система может быть полностью автономной технически и при этом не иметь ни целей, ни интересов, ни чего-либо, что стоило бы называть цивилизацией. Комбайн работает без человека, но не является формой жизни. Переход от автоматизации к самостоятельному агенту — отдельный, ничем пока не обеспеченный скачок, и незаметно проскочить его в рассуждении — самая частая ошибка в текстах такого жанра.
Любую сложившуюся конфигурацию можно объяснить как закономерную. Через двадцать лет какая-то из семи технологий может упереться в физический предел, стать нерентабельной или оказаться запрещённой — и вся стройность рассыплется. Мы смотрим на график, который ещё не дорисован, и уже видим в нём фигуру.
Как проверять эту гипотезу, а не просто пугаться ею
Разница между эссе и конспирологией в том, что у эссе есть индикаторы. Вот пять наблюдаемых признаков, по которым можно судить, усиливается конвергенция или ослабевает. Ни один из них не требует доступа к секретам — всё это публичные данные.
- Доля полностью автономных миссий в космосе относительно пилотируемых — по массе и по бюджетам.
- Глубина локализации производства чипов: сколько стран и уникальных поставщиков в критической цепочке. Сокращение — движение к автономии.
- Доля дата-центров, размещённых рядом с источником энергии, а не рядом с людьми и потребителями.
- Отношение числа промышленных роботов к числу занятых в тех же отраслях — и скорость изменения этого отношения.
- Число производственных операций, где человек физически не может присутствовать: подводные, орбитальные, высокорадиационные.
Если конвергенция реальна, все пять кривых должны двигаться согласованно, без общего центра принятия решений. Если это наша фантазия — они разойдутся, потому что независимые процессы в среднем и ведут себя независимо.
Финал, который мы не собираемся смягчать
Мы не утверждаем, что человечество строит себе замену. Мы утверждаем нечто более скромное и значительно более неудобное: если бы оно её строило, процесс выглядел бы ровно так, как выглядит сейчас. Без объявлений. Без единого решения. Без момента, который потом можно назвать поворотным. Каждый шаг — разумный, объяснимый и принятый по совершенно земным причинам.
Именно поэтому здесь нет ни заговора, ни требования верить. Есть только список, который каждый может проверить сам, — и то самое ощущение после прочтения, от которого трудно отделаться:
Подождите… а ведь действительно все кусочки складываются.
Мы не знаем, складываются ли они на самом деле. Мы знаем, что это ощущение возникает и у нас — и что по правилам собственного проекта мы обязаны отнестись к нему с подозрением. Ощущение «всё сходится» — самое ненадёжное из имеющихся у человека ощущений. Оно сильнее всего именно тогда, когда картина красива, а не когда она верна.
Поэтому мы оставляем этот текст открытым. Не как предупреждение и не как пророчество — как гипотезу с пятью индикаторами и четырьмя возражениями. Проверяемую. Опровержимую. И, к сожалению, пока не опровергнутую.
Источники и дальнейшее чтение
Ссылки ведут на англоязычные источники и открываются в новой вкладке.
- Instrumental convergence — почему разные системы с разными целями приходят к схожему набору промежуточных задач.
- Self-replicating machine — насколько далеко реальность от самовоспроизводящегося производственного контура.
- Self-replicating spacecraft — зонды фон Неймана: старая идея о том, кто на самом деле осваивает галактику.
- Reusable launch vehicle — экономика, из-за которой подешевел вывод на орбиту. Первый кусочек в нашем списке.
- Technological convergence — механизм, который выглядит как план, не имея автора.
За теми пятью кривыми, о которых сказано выше, мы следим и публикуем изменения в телеграм-канале @codethematrixru. Если гипотеза начнёт разваливаться — об этом мы напишем там же и первыми.