Ключевые выводы
ИИ движется к тому, чтобы стать не инструментом, а средой — как язык. Выйти из языка невозможно, можно только учить другой.
Среда без механизма выхода — это не просто среда. Это условие существования. Это меняет сам вопрос о свободе.
Есть дети, которым сейчас три года. Они никогда не узнают, каково это — не знать ответа и просто не знать.
Мы привыкли думать об ИИ как об инструменте. Инструмент можно отложить, заменить, выбросить. Но есть технологии, которые сначала становятся инфраструктурой, потом — средой, а потом — условием мышления. Язык прошёл этот путь тысячи лет назад. Письменность — несколько позже. Электричество — за столетие. ИИ, судя по траектории, пройдёт его за несколько десятилетий.
Вопрос не в том, станет ли это реальностью. Вопрос в том, что именно мы теряем и что приобретаем, когда инструмент перестаёт быть инструментом.
Прецедент, который нас успокаивает — и который нас обманывает
Электричество — любимый аргумент оптимистов. Когда-то его обсуждали, боялись, регулировали. Сегодня никто не «использует электричество» — оно просто есть. Оно стало физикой мира. И ничего страшного не произошло.
Мы с этим согласны. И всё же здесь есть ловушка.
Электрическая сеть не думает за нас. Она переносит энергию, не формируя суждения. ИИ-среда устроена иначе: она оптимизирует, рекомендует, расставляет приоритеты. Она не нейтральна по определению — у любой оптимизации есть целевая функция, а у целевой функции есть автор.
Климат формируется промышленностью и геополитикой, но не оптимизирует под чьи-то цели. ИИ-среда будет делать именно это. Когда инфраструктура с намерениями становится невидимой — это не освобождение. Это другой разговор.
Когда технология растворяется в среде, её перестают замечать. А то, чего не замечают — не оспаривают. Власть, встроенная в невидимую инфраструктуру, — самая устойчивая форма власти. Мы знаем это по рыночной экономике, по правовым системам, по алгоритмам социальных сетей. ИИ-среда будет следующим примером.
Среда как язык: аналогия, которая меняет вопрос
Точнее всего ИИ-будущее описывает не климат и не электричество — а язык.
Язык — это среда без выхода. Нельзя думать вне языка. Можно выучить другой язык, но нельзя мыслить в вакууме. Язык формирует не только то, что мы говорим, — он формирует то, что мы вообще способны помыслить. Носители разных языков буквально воспринимают цвета, время и пространство по-разному — это не метафора, это нейробиология.
Если ИИ станет языком — в том смысле, что через него будет проходить большинство когнитивных операций, — то дети, рождённые после 2020 года, будут думать в этой среде так же, как мы думаем на родном языке: не замечая её, не имея альтернативы, не представляя, что бывает иначе.
Мы не замечаем воду, в которой плывём. Через сто лет ИИ-среда и будет той водой — и вопрос о том, кто её наполняет, станет самым важным вопросом эпохи.
Но здесь мы упираемся в разрыв с языковой аналогией. У языка нет владельца. Языки возникали стихийно, эволюционировали без центра управления. ИИ-среда создаётся конкретными корпорациями с конкретными интересами, регулируется государствами с конкретными целями. Это скорее не язык вообще — это государственный язык. Язык, у которого есть академия, есть министерство, есть стандарт.
Что происходит, когда уходит последнее поколение, помнящее до
Есть момент в истории любой трансформации, когда исчезает живая память о «до». Последний человек, помнящий мир без телевидения, умер. Скоро умрёт последний человек, помнящий мир без интернета. А потом — последний, помнящий мир, в котором ИИ был инструментом, а не средой.
Что теряется вместе с этой памятью — не ностальгия. Теряется точка отсчёта для критики. Невозможно оспорить воздух, которым дышишь, если никогда не знал другого воздуха.
Это не катастрофа по умолчанию. Каждое поколение живёт в среде, которую не выбирало. Мы не выбирали язык, в котором думаем, — и тем не менее способны рефлексировать над ним, изучать другие, критиковать собственные категории мышления. Вопрос в том, будут ли у людей 2126 года инструменты для такой рефлексии — или ИИ-среда станет настолько тотальной, что рефлексия о ней будет происходить только с её помощью.
Технические возможности ИИ перестанут быть предметом споров раньше, чем мы думаем. Споры о том, кто задаёт параметры ИИ-среды — корпорации, государства, международные институты, или никто, — только начинаются.
Позиция, которая усложнилась
Мы начали с тезиса: через сто лет ИИ станет средой — как климат. Это верно. Но аналогия с климатом оказалась неточной. Климат — среда без намерений. ИИ-среда будет средой с намерениями, встроенными в архитектуру, в алгоритмы, в то, что называется «выравниванием ценностей».
Чьи ценности? Это и есть настоящий вопрос.
История человечества — это история борьбы за то, кто контролирует среду: землю, воду, энергию, информацию. ИИ-среда будет следующим полем этой борьбы. И как всегда — исход будет определяться не технологией, а тем, кто успеет установить правила до того, как среда стала невидимой.
Когда среда исчезает из видимости
Через столетие внуки наших внуков будут изучать историю того, как человечество решало, кто управляет ИИ-средой, — примерно так же, как мы сейчас изучаем историю разделения церкви и государства, или историю свободы слова. Они будут удивляться, что мы вообще обсуждали эти вопросы в момент, когда ещё могли принять другое решение. Или они не будут удивляться ничему — потому что среда, в которой они живут, сформировала и само их удивление.
Вопрос о том, кто контролирует параметры ИИ-среды, — политический, правовой и культурный — важнее вопроса о технических возможностях. Те институты и сообщества, которые начнут формировать ответ сейчас, будут иметь непропорциональное влияние на то, какой окажется эта среда через сто лет.
