Каждая великая цивилизация умирала не потому, что была слабой. Она умирала потому, что достигла своего потолка — и не смогла его пробить. Сегодня мы строим нечто, у чего, кажется, потолка нет вовсе. Но что если он всё же существует — просто спрятан глубже, чем мы привыкли смотреть?
Искусственный интеллект стремительно становится несущей конструкцией цивилизации. Он управляет энергосетями, проектирует лекарства, пишет законы, ведёт войны. К 2126 году его роль будет ещё более фундаментальной. Но именно поэтому вопрос о его пределах — не философская забава. Это вопрос выживания.
Технологические цивилизации не рушатся от внешних ударов — они упираются в физические, энергетические и когнитивные пределы, встроенные в саму логику роста.
ИИ не исключение: чем мощнее системы, тем выше энергопотребление, сложность и уязвимость — и тем вероятнее нелинейный сбой, а не плавный закат.
У цивилизации есть выбор: признать пределы и адаптироваться — или игнорировать их до момента, когда адаптация станет невозможной.
Всё, что растёт, однажды упирается в стену
Историк Джозеф Тэйнтер в 1988 году сформулировал идею, которую экономисты до сих пор не любят вспоминать: сложные общества разрушаются не от нашествий и катастроф, а от убывающей отдачи на сложность. Чем больше ресурсов требует система для поддержания себя — тем меньше остаётся на развитие. В какой-то момент поддержание становится дороже роста. Система начинает есть саму себя.
Рим не «упал». Он просто перестал окупаться. Его провинции, легионы, бюрократия и инфраструктура стоили больше, чем приносили. Когда это стало очевидным, распад пошёл быстро.
Теперь приложите эту логику к ИИ-цивилизации 2126 года. Не как метафору — как буквальный расчёт.
Первый предел: физика
Закон Мура умер. Точнее, он умирает — медленно, с достоинством, оставив после себя огромную индустрию, которая не вполне понимает, что делать дальше. Транзисторы приближаются к размерам отдельных атомов. Квантовые эффекты начинают мешать работе схем раньше, чем те успевают стать меньше.
Квантовые вычисления обещают выход, но пока остаются в состоянии дорогостоящего эксперимента. По оценкам IEEE, к 2030 году квантовые машины возьмут на себя около половины высокоприоритетных научных задач — но это не значит, что они заменят классические системы повсеместно. Гибридная архитектура потребует новых инженерных решений, новых материалов, новой физики.
Современные модели-флагманы потребляют энергии столько же, сколько небольшой город. Каждое новое поколение моделей требует на порядок больше вычислительной мощности. Если этот тренд не сломается — к 2050 году один обучающий прогон крупной модели будет стоить как годовое производство энергии среднего государства.
Физика не переговаривается. Можно придумать новые архитектуры, новые материалы, новые подходы к обучению. Но нельзя вычислять без энергии, а энергию нельзя создать из ничего.
Второй предел: энергия
Дата-центры уже сегодня потребляют около 2% мировой электроэнергии. По прогнозам МЭА, к 2030 году эта доля вырастет втрое. Крупнейшие технологические компании подписывают соглашения о покупке ядерной энергии, строят геотермальные станции, инвестируют в термоядерный синтез — не из альтруизма, а потому что альтернативы нет.
Но вот парадокс: ИИ, который должен помочь нам решить энергетический кризис, сам является одним из главных его двигателей. Исследование MIT 2026 года показало, что энергозатраты на обучение одной крупной языковой модели сопоставимы с годовым углеродным следом нескольких сотен домохозяйств.
Мы строим машины, чтобы думать за нас. Но чем лучше они думают — тем больше им нужно есть. В какой-то момент мы начнём кормить их за счёт себя.— Кейт Кроуфорд, исследователь ИИ, Институт ИИ Now
К 2126 году человечество либо решит проблему энергии (термоядерный синтез, орбитальные электростанции, принципиально новые накопители), либо будет вынуждено радикально ограничить масштаб вычислений. Третьего варианта физика не предусматривает.
Третий предел: сложность
Самолёт Boeing 737 Max разбился дважды. Не потому что инженеры были некомпетентны. А потому что система стала настолько сложной, что ни один человек не мог удерживать её полную картину в голове. Алгоритм управления полётом MCAS взаимодействовал с сотнями других подсистем. Когда что-то пошло не так, никто не успел понять что именно — до катастрофы.
Теперь умножьте эту сложность на цивилизационный масштаб.
ИИ-системы 2026 года уже непрозрачны для своих создателей. Никто точно не знает, почему крупная языковая модель даёт тот или иной ответ. Это называется «проблема интерпретируемости» — и она не решена. Чем мощнее система, тем глубже пропасть между её возможностями и нашим пониманием её работы.
Большинство коммерческих моделей закрыты. Даже разработчики конкурентов не знают точной внутренней структуры чужих систем.
Даже при открытых весах исследователи не могут уверенно объяснить, почему модель принимает конкретное решение в конкретной ситуации.
Когда сотни ИИ-агентов взаимодействуют между собой в реальном времени, возникают эмерджентные эффекты, которые не предсказал никто — и которые порой не понимает никто.
Четвёртый предел: управление
Технологии обгоняют институты. Всегда. Паровая машина появилась за десятилетия до законов о труде на заводах. Автомобиль ездил по улицам без светофоров и правил дорожного движения. Интернет вырос до глобальной инфраструктуры прежде, чем кто-либо всерьёз задумался о конфиденциальности данных.
С ИИ разрыв шире, чем когда-либо. Скорость изменений такова, что юридические системы физически не успевают реагировать. Евросоюзу потребовалось четыре года, чтобы принять Акт об ИИ — за это время технология успела смениться дважды.
К 2126 году мы столкнёмся с фундаментальным вопросом: кто принимает решения, когда ИИ управляет критической инфраструктурой? Если алгоритм управляет энергосетью, здравоохранением, транспортом и финансовой системой одновременно — какой человеческий институт обладает достаточной скоростью и компетенцией, чтобы его контролировать?
Проблема не в том, что ИИ захочет нами управлять. Проблема в том, что мы сами захотим, чтобы он управлял — потому что это удобнее. И к тому моменту, когда мы захотим вернуть контроль, нам может не хватить компетенции это сделать.— Юваль Ной Харари, историк, автор книги «Homo Deus»
Пятый предел: смысл
Это самый неудобный предел — и именно поэтому о нём говорят реже всего.
Человеческая цивилизация строится на труде, творчестве и смысле. Труд даёт структуру. Творчество даёт идентичность. Смысл даёт направление. Если ИИ способен делать всё это лучше человека — что остаётся человеку?
Это не абстрактный вопрос. Психологические исследования устойчиво показывают: люди, лишённые значимой деятельности, деградируют. Это происходит с заключёнными, с долгосрочными безработными, с людьми, вышедшими на раннюю пенсию без плана. Масштабируйте это на цивилизацию.
Технологический оптимизм отвечает: появятся новые виды деятельности, как всегда появлялись. После промышленной революции исчезли одни профессии — возникли другие. Верно. Но скорость изменений сегодня на порядки выше. И впервые в истории машины претендуют не только на физический, но и на когнитивный труд.
Цивилизация с неограниченными вычислительными ресурсами и нулевой потребностью в человеческом труде столкнётся с кризисом смысла прежде, чем с кризисом ресурсов. История не знает примеров обществ, которые успешно прошли через подобный переход — потому что таких обществ ещё не было.
Как умирают технологические цивилизации
Тэйнтер описывал три пути коллапса: завоевание, трансформация, распад. Завоевание — внешний актор разрушает систему быстрее, чем та успевает адаптироваться. Трансформация — система меняется настолько, что перестаёт быть собой, превращаясь во что-то другое. Распад — система теряет сложность, упрощаясь до уровня, на котором издержки снова становятся приемлемыми.
Ни один из этих путей не является концом в абсолютном смысле. Это скорее переход — болезненный, часто насильственный, но не всегда необратимый. Европа после распада Западного Рима не исчезла. Она стала другой — и в итоге построила нечто более устойчивое.
Вопрос для ИИ-цивилизации 2126 года: какой из этих путей она выберет — или какой ей будет навязан?
Сценарии развития
🟢 Оптимистичный сценарий (25%)
Термоядерная энергетика становится коммерчески доступной к 2060–2070 годам. Квантовые вычисления снимают ограничения классической архитектуры. Проблема интерпретируемости ИИ решена — системы становятся прозрачными и управляемыми. Новые виды деятельности, недоступные ранее, дают людям смысл и занятость. Глобальные институты успевают адаптироваться к скорости технологических изменений. Последствия: Цивилизация 2126 года принципиально иная, но устойчивая. Люди живут дольше, работают меньше, имеют доступ к ресурсам, немыслимым сегодня. ИИ — инструмент, а не замена человека.
🟡 Базовый сценарий (50%)
Технологический прогресс продолжается неравномерно. Одни пределы преодолеваются, другие — нет. Энергетическая проблема решена частично: дорого, нестабильно, с региональными диспропорциями. ИИ остаётся непрозрачным, но управляемым через внешние ограничения. Возникает глубокое неравенство между теми, кто контролирует ИИ-инфраструктуру, и всеми остальными. Последствия: Цивилизация 2126 года нестабильна, но функционирует. Периодические кризисы управления, региональные коллапсы, постоянная адаптация. Не конец — но и не расцвет.
🔴 Пессимистичный сценарий (25%)
Ни один из ключевых пределов не преодолён. Энергопотребление ИИ провоцирует хронический дефицит. Сложность систем выходит за пределы управляемости. Один или несколько системных сбоев запускают каскадный эффект. Институциональный ответ запаздывает критически. Последствия: Не апокалипсис — но принудительное упрощение. Цивилизация откатывается к меньшей зависимости от сложных систем. Потери — значительные. Восстановление — десятилетия.
Что это значит сейчас
2126 год кажется далёким. Но решения, которые определят, каким он будет, принимаются сегодня. Инвестиции в интерпретируемость ИИ, в энергетическую независимость вычислений, в институциональную адаптацию к скорости изменений — всё это закладывается прямо сейчас.
История не знает цивилизаций, которые сознательно управляли своим переходом через технологический предел. Все предыдущие переходы были реакцией на кризис. У нас впервые есть инструменты, чтобы действовать до кризиса — если мы захотим ими воспользоваться.
Организации, которые сегодня инвестируют в понимание ограничений своих ИИ-систем — а не только в их возможности — будут лучше подготовлены к нелинейным сбоям завтра. Управление рисками сложности — это не паранойя. Это инженерная необходимость.
Прогноз Eclibra
Вероятность: 70% — история сложных систем устойчиво показывает: чем быстрее растёт сложность и чем меньше она понята, тем неизбежнее нелинейный сбой. Разрыв между возможностями ИИ и нашим пониманием его работы не сокращается — он растёт.
✅ Аргументы за
+ Проблема интерпретируемости ИИ не решена и не близка к решению даже в академическом смысле + Каскадные сбои в сложных системах — исторически не исключение, а закономерность (финансовый кризис 2008 года, авария Boeing MCAS, блэкауты энергосетей) + Темп внедрения ИИ в критическую инфраструктуру опережает темп создания стандартов безопасности Критерии подтверждения: задокументированный каскадный сбой в критической инфраструктуре с официально признанной ИИ-причиной и материальными последствиями для более чем 10 млн человек
❌ Аргументы против
− Регуляторное давление (EU AI Act и аналоги) может существенно замедлить внедрение непрозрачных систем в критические отрасли − Прогресс в области интерпретируемости нелинеен — прорыв может произойти быстрее, чем ожидается − Операторы критической инфраструктуры традиционно консервативны и медленнее внедряют новые технологии, чем потребительский сектор Критерии опровержения: к 2075 году принят и работает международный стандарт аудита ИИ-систем в критической инфраструктуре, инцидентов с системными последствиями не зафиксировано
Прогресс в области интерпретируемости нейросетей (публикации ведущих лабораторий: Anthropic, DeepMind, OpenAI)
Темп принятия и исполнения международных стандартов аудита ИИ в критической инфраструктуре
Энергоёмкость обучения флагманских моделей (рост / стагнация / снижение)
Количество и масштаб задокументированных инцидентов с ИИ-участием в финансовых и энергетических системах
Узнать больше
The Collapse of Complex Societies — Джозеф Тэйнтер
Классический труд об убывающей отдаче на сложность. Фундаментальная рамка для понимания пределов любой цивилизации — включая технологическую.
IEEE 2026 Technology Predictions Report
Официальный прогноз IEEE на 2026 год: агентный ИИ, энергосети, биоинтерфейсы. Базовый документ для понимания текущего горизонта технологических ожиданий.
Atlas of AI — Кейт Кроуфорд
Исследование реальных издержек ИИ-цивилизации: энергия, труд, данные, власть. Противовес технологическому оптимизму без скатывания в алармизм.
Источники
Первичный источник технологических прогнозов. Используется как точка отсчёта для оценки разрыва между ожиданиями индустрии и системными рисками.
Ключевой концептуальный источник статьи. Тэйнтер разработал универсальную модель коллапса, применимую к любой сложной системе — включая технологическую цивилизацию.
Один из немногих академических источников, системно документирующих материальные издержки ИИ. Критически важен для раздела об энергетическом и физическом пределе.
Индустриальный взгляд на ближайшее будущее ИИ от одного из архитекторов современной облачной инфраструктуры. Контраст с академическим анализом пределов.
