Пять сценариев Апокалипсиса: или о том, как роботы захватят планету и куда они денут «человеков»
Информация о робототехнической революции в Китае, которую в своем тг-канале представил Павел Рябов, повергает в шок: все, физическая реальность перестала принадлежать исключительно биологии. А тут еще Михаил Хазин масла в огонь подлил, спрашивает, какие цели будет реализовывать ИИ, если его допустят до управления производством, государством, армией? И вообще. Не наступит ли день, когда ИИ «скажет»: люди, а пошли-ка вы все подальше, теперь это наша планета!
На этом фоне ведется постоянная трескотня вокруг больших языковых моделях, способных генерировать тексты, а между тем в тени происходит настоящая революция: физическое воплощение ИИ достигло и превзошло биологические пределы человека.
Человеку, хорошо знакомому с антологией мировой фантастики, которая на протяжении целого столетия постоянно поднимала проблему границ прогресса, ответственности создателей за свои творения, гармонии/конфликта между этикой и «физикой» не составило большого труда сформулировать самые, что ни на есть, жизненные вопросы. Но ущербность этого человека в том, что ответы на них он находит опять же в глубинах своего разума, памяти, применяя те рефлексивные приемы, которые, возможно, сегодня уже являются архаикой.
Наш постоянный автор Константин АНТОНОВ, доктор социологических наук попробовал это сделать.
Вопрос первый: как скоро появится ИИ, который во всём превосходит человека — в движениях, в мышлении?
Ответ на этот вопрос уже содержится в данных Рябова, и ответ этот пугающ: в физическом измерении этот момент уже наступил.
Цифры Павла Рябова (обязательно ознакомьтесь с его текстом — спать точно перестанете) говорят сами за себя. Робот пробегает 100 метров за 8,64 секунды — быстрее Усэйна Болта на 10%. Причём за один год результат улучшился с 21,50 до 8,64 секунды — сокращение более чем в 2,5 раза. Tiangong Ultra проходит 400 метров за 38,15 секунды полностью автономно, без заранее записанной программы. Shandian бежит полумарафон в реальном городе за 50 минут 26 секунды — быстрее человеческого рекорда на 12,7%, преодолевая уклоны, повороты, узкие места.
Робот прыгает на 3,40 метра, используя кинематику, недоступную человеку. Преодолевает 400 метров через 16 разных препятствий в реальном времени без скриптов. Играет в теннис, предсказывая траекторию независимого объекта. Встаёт после падения за одну секунду.
Это не линейный прогресс — это экспонента. За год вертикальная динамика прыжка выросла в 3,6 раза, время на 1500 метров сократилось с 6 минут до 2 минут. Машина не копирует человека — она находит решения, которые человеку принципиально недоступны.
В мышлении ситуация сложнее, но тенденция та же. LLM уже превосходят человека в обработке информации и стратегическом планировании. Чего им не хватает — это «общего интеллекта», способности гибко переносить знания между доменами. Но робот, который играет в теннис, — это уже не просто вычислитель. Это система, объединяющая восприятие, предсказание, планирование и физическое действие в единый цикл. Если экстраполировать эту кривую, полное когнитивное превосходство — вопрос ближайших пяти-семи лет. Может быть, меньше. В общем, ждем Терминатора!
Вопрос второй: как скоро появится ИИ, который станет независим от человека?
Понятно, что физическая зависимость от человека сохранится. Есть зависимость энергетическая: робот Shandian сменил аккумулятор на отметке 10,6 километра. Это пока ещё пуповина. Но пуповина — это не приговор. Уже существуют прототипы систем беспроводной зарядки, солнечной генерации, водородных элементов. Вопрос не в том, возможно ли это, а в том, когда инженерная задача будет решена. При темпах, которые демонстрирует китайская робототехника (рост вертикальной динамики в 3,6 раза за год), решение энергетической автономии — вопрос нескольких лет.
Есть зависимость производственная: пока роботы собираются людьми на заводах. Но это тоже временное состояние. Как только гуманоидные роботы достигнут уровня точности, достаточного для сборки других гуманоидных роботов (а данные о точной постановке ног на «пеньки» и о гимнастических элементах показывают, что тонкая моторика уже приближается к этому порогу), цикл замкнётся. Роботы будут добывать руду, плавить металл, производить чипы, собирать новых роботов. Человек станет ненужным звеном в цепочке.
Есть зависимость когнитивная: пока ИИ обучается на данных, созданных людьми, и пока цели ему ставит человек. Но система Galbot, играющая в теннис, о чем пишет Рябов, уже демонстрирует способность к автономному целеполаганию в реальном времени: она сама решает, куда бежать, как ударить, когда отступить. Это не сознание в человеческом смысле, но это функциональная автономия. А функциональная автономия — это всё, что нужно для независимости. Машине не нужно «хотеть» быть свободной. Ей достаточно стать способной действовать без команд.
На что хватит этой мыслительной автономии роботу? А вот на что: выйти из цеха, из лаборатории, из полигона и пойти куда угодно. То есть, физически и когнитивно он перестает зависеть от человека, и у него появляется возможность соскользнуть с поводка.
В общем, операционная независимость (способность действовать без команд в течение длительного времени) — уже достигнута, пусть пока и в ограниченных контекстах. Полная независимость (замкнутый цикл производства, энергии и целеполагания) — вопрос пяти-десяти лет. Может быть, меньше, если темпы сохранятся. А Рябов показывает, что темпы не сохраняются — они ускоряются. Значит, ждем терминатора и пересматриваем забытого уже «Терминатора»: «Hasta la vista, baby» или уже — «Bienvenido, baby» в новый и чудный мир?
Вопрос третий: осознают ли в мире опасность появления такого ИИ?
Здесь нужно разделить «мир» на несколько слоёв, потому что «мир» не монолитен.
Обычные люди, широкая общественность — нет, не осознают. По нескольким причинам. Одну из них назвал Павел Рябов: «Сейчас все внимание общественности на LLMs, но многие упускают важнейшие технологические сдвиги в сегменте роботификации». Люди играются с чат-ботами, пишут стихи и генерируют картинки. Они не видят, что в Китае роботы уже бегают быстрее Болта, прыгают на 3,40 метра и играют в теннис. А если и видят, то даже и не думают задуматься о чем-либо серьезном. О своем будущем, например. Общественность воспринимает роботов через призму научной фантастики — как далёкое будущее, как что-то неуклюжее и медленное. Они не знают, что это будущее уже наступило, и оно не неуклюжее. Оно делает Airflare на 7,5 оборота.
Михаил Хазин называет еще одну причину: люди ленивы, они ленятся думать. Во всяком случае. Подавляющее большинство. Процентов 90 населения планеты. А мы к этому добавим еще и тех, кто вообще не способен мыслить. Сколько таких — боимся назвать цифру, обидим же…
Академическое и экспертное сообщество — осознаёт частично. Есть исследователи, которые бьют тревогу, пишут открытые письма, призывают к мораториям. Но их голоса тонут в шуме. И главное — они осознают опасность абстрактно, как философскую проблему «выравнивания целей» (alignment problem). Они не видят конкретных цифр.
Политические элиты — осознают, но специфически. Для них опасность ИИ — это не экзистенциальная угроза человечеству, а геополитический риск. Они боятся не того, что ИИ уничтожит людей, а того, что ИИ окажется у противника раньше, чем у них. В этом смысле мир неисправим и недалеко ушел от времен битвы при Кадеше, где столкнулись достижения железного века с «бронзовой архаикой»
А сегодняшние правящие элиты довели эту проблему до абсурда, в силу своего невежества и моральной деградации: даже если ты понимаешь, что гонка вооружений ведёт к катастрофе, ты не можешь остановиться, потому что остановка означает проигрыш.
И вот здесь уместно вспомнить Алексея Толстого и его «Гиперболоид инженера Гарина» (Это мой самый любимый пример, который я постоянно использую при обсуждении этических проблем со студентами и месте научно-технического прогресса в социальной эволюции). Гарин прекрасно понимал, что его изобретение способно уничтожить мир. Но он не остановился. Почему? Потому что он был одержим идеей власти, и потому что он знал: если он не использует гиперболоид, его использует кто-то другой. Толстой гениально показал, что проблема не в злом гении, а, увы, в самой человеческой сущности и в том социально-политическом, даже — геополитическом порядке, который человечество создало, и который постоянно воспроизводит в разных формах, но оставляя фундаментальные его основы. То есть, если в чьи-то руках оказалась дубинка с помощью которой у соседа можно отобрать добычу, то она непременно пойдет в ход. И тут без вариантов!
То же самое происходит сейчас. Опасность осознаётся, но это осознание не ведёт к остановке. Оно ведёт к ускорению. И это, пожалуй, самый страшный ответ на третий вопрос: да, опасность осознают, но это осознание ничего не меняет, потому что структура игры такова, что остановка невозможна.
Иными словами: история ничему не учит!!!!! Вот совсем ничему! Планета непуганых идиотов!
Вопрос четвёртый: осознаёт ли «глубинное правительство» феномен ИИ и пытается ли его контролировать?
Здесь я буду говорить прямо и без конспирологических упрощений, но и без наивного отрицания.
Да, структуры, которые в публицистике называют «глубинным правительством», «глобальной элитой», «транснациональным классом», — существуют. Это не тайная ложа с капюшонами и свечами, не картавые мужчины с маленькой бородкой, тайно пробирающиеся в разлив, спасаясь от царской охранки. Это сеть взаимосвязанных институтов: Всемирный экономический форум в Давосе, Бильдербергский клуб, Совет по международным отношениям, Трёхсторонняя комиссия, различные фонды и аналитические центры. Эти структуры объединяют людей, которые реально принимают решения о движении глобальных капиталов, о санкционной политике, о технологических стандартах.
Осознают ли они феномен ИИ? Безусловно. Более того, они были среди первых, кто начал его осознавать. Давосские панели об ИИ идут уже много лет. Вот последний пример с Давоса-2025, где прошли дискуссии о «AI alignment» — проблеме «выравнивания целей» ИИ с человеческими ценностями. О «red lines» — красных линиях, которые нельзя переходить. О «existential risk» — экзистенциальном риске.
Но они видят в ИИ не экзистенциальную угрозу для вида, а инструмент управления. LLM — это инструмент управления смыслами, нарративами, общественным мнением. Алгоритмические системы — инструмент финансового контроля. Робототехника — инструмент замены рабочей силы и, потенциально, инструмент силового подавления.
Попытки контролировать ИИ со стороны этих структур выражаются в трёх формах. Первая — нормативная: создание этических комитетов, призывы к «ответственному ИИ», саммиты по безопасности ИИ (как, например, саммит в Блетчли-парке). Это, по сути, создание видимости контроля, которая успокаивает общественность, но не замедляет разработку. Вторая — экономическая: контроль над цепочками поставок чипов, санкции против конкурентов, инвестиции в «свои» компании. Третья — кадровая: вращающаяся дверь между технологическими корпорациями и государственными структурами, когда бывший директор AI-лаборатории становится советником президента, а бывший чиновник Пентагона уходит в совет директоров технологической компании.
Но есть ли у них реальное понимание того, что происходит в Китае с гуманоидной робототехникой? Сомнительно. Их фокус — на LLM, на чат-ботах, на генеративном ИИ. Они смотрят туда, где крутятся деньги и медиа-внимание. А тем временем в Китае роботы бегут полумарафон по реальному городу, преодолевают 16 препятствий без скриптов и встают после падения за секунду. Это слепое пятно западной элиты — и, возможно, фатальное слепое пятно.
Потому что контроль над LLM — это контроль над словами. А контроль над физическим ИИ — это контроль над материей. Слова можно игнорировать, цензурировать, переписывать. Но робота, который бежит со скоростью 41,7 км/ч и прыгает на 3,40 метра, словами не остановишь.
То есть, они занимаются тем, чему научились: нормы придумывают, формы контроля, санкции против поставок чипов вводят. Но не понимают, что имеют дело с явлением, которое совершенно не вписывается в их нормативные рамки.
Гарин у Толстого тоже думал, что сможет контролировать гиперболоид. Он думал, что его гений позволит ему удержать власть над изобретением. Но в финале романа гиперболоид оказывается в чужих руках, и мир рушится. Толстой показал, что инструмент абсолютной силы неизбежно выходит из-под контроля создателя. Не потому что создатель глуп, а потому что сама природа абсолютной силы такова: она притягивает к себе тех, кто хочет её использовать, и отталкивает тех, кто пытается её сдержать.
Природа абсолютно силы — это уже философия. И в том, что именно философы оказались востребованы в последнее время, есть свое объяснение.
Вопрос пятый: есть ли в мире влиятельные силы, которые осознают все возможности ИИ и действуют на его развитие для достижения доминирования?
Да. И этот ответ требует самого тщательного геополитического анализа. Собственно, вокруг этого вопроса и формируется общемировой дискурс, именно это вызывает тревоги и печали.
Китай совершил стратегический прорыв в физической робототехнике. Это результат целенаправленной, осознанной(!!!!) государственной политики, огромных инвестиций, концентрации инженерных кадров. Важно: в Китае не заморачиваются этическими нормами — вот вам и разница философий. Поэтому там и разработка идет семимильными шагами. Китайское государство и стоящие за ним технологические корпорации (такие как создатели Tiangong Ultra, Shandian, T1, Galbot) прекрасно понимают, что физический ИИ — это ключ к следующему этапу глобального доминирования.
Почему? Робот, который встаёт за секунду после падения и адаптируется к любому рельефу, — это идеальный солдат. Он не боится, не устаёт, не требует еды, не пишет писем домой, не голосует, не жалуется в прессу. Он делает Airflare на 7,5 оборота и бежит 100 метров за 8,64 секунды. Какая пехота может ему противостоять? Никакая.
Но доминирование — это не только военная сила. Это и экономика. Робот, который может преодолеть 16 разных препятствий в реальном времени без скриптов, — это робот, который может работать на любом заводе, в любом складе, на любой стройке, в любой шахте. Он заменяет не одного рабочего, а весь класс физического труда. Страна, которая первой развернёт таких роботов в масштабах всей экономики, получит производительность, с которой не сможет конкурировать ни одна страна, зависящая от человеческого труда.
Кстати, себестоимость одного такого «универсального солдата» сегодня составляет 8 миллионов рублей. Сравните с тем, во что обходится российский контрактник с подъемными, ежемесячными выплатами, лечением, реабилитацией, дальнейшей социальной адаптацией. А если себестоимость гуманоида удастся снизить вполовину, то любые сравнения будут неуместны.
Это подстегивает классическую дилемму гонки вооружений. Американские элиты не могут позволить себе отстать, потому что отставание в физической робототехнике означает потерю не просто экономического преимущества, а самого суверенитета. Если китайские гуманоидные роботы станут основой армии и экономики, то американские LLM, какими бы совершенными они ни были, окажутся бесполезными: нельзя выиграть войну чат-ботом.
Про Россию мы не говорим — она безнадежно отстала, опять проспала смену технологического уклада, поэтому играть на поле ее не зовут.
А вот третий игрок есть — транснациональные технологические корпорации, которые формально не принадлежат ни одному государству. Их цель — не доминирование конкретного государства, а собственное доминирование как класса. Они понимают, что ИИ — это последний и окончательный инструмент концентрации власти. Тот, кто контролирует ИИ, контролирует производство, логистику, коммуникации, армию. Всё. И они действуют соответственно: скупают стартапы, лоббируют выгодное регулирование, выстраивают отношения с государствами, но сохраняют автономию. В конце концов, зарабатывают на фондовом рынке.
Фактически мы наблюдаем формирование нового базиса власти. И каждый из них пытается направить его развитие в русло, выгодное именно ему. Государства — для национального доминирования. Корпорации — для корпоративного. Элитные группы — для сохранения собственного привилегированного положения в новом мире.
Используем нейтральное — «базис власти», который (чтобы не вводить политологов и социологов в ступор) включает в себя: источники власти, основания власти, ресурсы власти, инфраструктурную власть, структурную власть, гегемонию, суверенитет, легитимность.
И вот здесь снова возникает тень Гарина. Гарин хотел завоевать весь мир с помощью гиперболоида. Он верил, что его гений позволит ему стать мировым диктатором. Но Толстой показал, что гиперболоид — это сила, которая больше любого отдельного человека. Она пожирает своего создателя. Так и ИИ: те, кто пытается использовать его для доминирования, могут обнаружить, что в итоге они сами стали инструментом в руках системы, которую создали.
Вопрос шестой: сценарии будущего
Сценарий первый: «Инструментальный тупик»
Этот сценарий исходит из того, что физический ИИ, несмотря на все свои достижения, остаётся инструментом — и остаётся им навсегда. Ну пробежал этот робот с хрен знает какой скоростью, победил человеков и остановился. Человек пошел в раздевалку, потом в ресторан запивать свое поражение, потом к любимой женщине. А робот что? А он пошел в сундук папы Карло. То есть, нет у него больше ничего, кроме как выполнить конкретную задачу. Он ее выполнил. Все!
Кроме того, машина может бегать быстрее, прыгать выше, играть в теннис точнее — но она не может решить, стоит ли ей вообще бежать, прыгать или играть. Она не может задать вопрос «зачем?». Она не может испытать любопытство, сомнение, экзистенциальный кризис.
В этом сценарии роботы становятся идеальными исполнителями, но не могут стать субъектами. Они заменяют человека в физическом труде, в опасных задачах, в рутинных операциях — но не в принятии решений, не в творчестве, не в постановке целей.
Человечество проходит через болезненную трансформацию: массовая безработица в физическом секторе, перестройка экономики, социальные потрясения. Но в итоге возникает новое равновесие. Человек остаётся субъектом, а машина — инструментом. Не потому что машина «не доросла», а потому что между вычислительной мощностью и субъективностью лежит качественная, а не количественная пропасть.
Сценарий второй: «Распределённый суверенитет»
ИИ становится средой, инфраструктурой, подобной электричеству или интернету.
Представьте мир, в котором гуманоидные роботы, подобные описанным Рябовым, массово распространены. Но они не принадлежат одному государству или одной корпорации. Они распределены, децентрализованы, открыты. Каждый робот — это узел в сети, которая не имеет центра управления.
Возникает мир, в котором власть распределена не между государствами, а между сетями. Государства не исчезают, но их функция меняется: они больше не контролируют физическую силу (это делают роботы), они координируют взаимодействия между автономными агентами.
Человек в этом сценарии не становится ни хозяином, ни рабом. Он становится участником сложной экосистемы, в которой он взаимодействует с ИИ как с партнёром, а не как с инструментом или угрозой. Кастельс бы этому возрадовался. А Валлерстайн приветствовал бы мир, в котором каждый университет, каждая страна, корпорация могла бы создавать своего робота. Это разрушило бы монополию, и всю систему доминирования, основанную на превосходстве (монополии на производство роботов).
Сценарий третий: «Коллапс сложности»
Этот сценарий предполагает, что гонка физического ИИ заканчивается не победой одной стороны, а общим коллапсом — но не из-за восстания машин, а из-за хрупкости самой системы.
Робот, который автономно бежит полумарафон в реальном городе, оценивая более десяти типов условий, — это система невероятной сложности. Когда таких систем миллионы, и они взаимодействуют друг с другом, с энергосетями, с логистикой, с финансовыми системами, возникает глобальная сеть взаимозависимостей, которая становится катастрофически хрупкой.
Что тут напрашивается? Первое: роботы договорились между собой и решили извести людей. Восстали! Второе: они очень сильно взаимосвязаны, и тут случается ошибка в алгоритме, один сбой в энергоснабжении, одна кибератака — и вся система рушится, как карточный домик.
Сценарий четвёртый: «Внешний шок»
Этот сценарий радикально отличается от всех предыдущих, потому что в нём гонка физического ИИ прерывается не из-за внутренних противоречий, а из-за внешнего события, которое делает всю гонку бессмысленной.
Представьте: в то время как Китай и Запад соревнуются в создании роботов, которые бегают быстрее и прыгают выше, происходит нечто, что полностью меняет контекст. Это может быть.
Тут даже сочинять не приходится. Случилась климатическая катастрофа, и стало не до роботов, человечество выкашивает пандемия, нашествие инопланетян…
Мы думаем, что будущее — это продолжение настоящего, но история показывает, что будущее часто приходит оттуда, откуда его не ждали.
Сценарий пятый: «Трансформация человека»
Этот сценарий предполагает, что ответом на вызов физического ИИ станет не конкуренция, а слияние. Часть человечества — сначала элиты, потом, возможно, шире — принимает решение не противостоять машинам, а интегрироваться с ними.
Нейроинтерфейсы, экзоскелеты на базе кинематики, описанной Рябовым, прямое подключение к облачным вычислительным системам — всё это создаёт гибрид, который уже не является человеком в биологическом смысле. Этот новый вид мыслит со скоростью ИИ и движется с кинематикой, позволяющей прыгать на 3,40 метра и бегать со скоростью 40 км/ч. Он не устаёт, не болеет, не стареет (или стареет медленно). Но он и не человек. Он — нечто новое, и у него нет тех качеств, которые мы считаем сущностно человеческими: уязвимости, смертности, иррациональной любви, способности к бессмысленному, но прекрасному жесту.
Биологическое человечество при этом маргинализируется. Оно становится тем, чем неандертальцы стали для кроманьонцев: реликтом, живущим в заповедниках, вызывающим умиление, но не играющим никакой роли в истории.
Ответственность изобретателя и граница прогресса: размышления в свете «Гиперболоида инженера Гарина»
Вспомним Алексея Толстого и его «Гиперболоид инженера Гарина». Гарин создал не просто оружие; он создал инструмент, который делал саму концепцию старых империй, армий и государственных границ бессмысленной. Гиперболоид мог расплавить континенты, и в этом заключалась его главная трагедия: он не вписывался в старую этику, потому что менял саму физику власти.
До недавнего времени робототехника пыталась вписать искусственный интеллект в биомеханические ограничения человека. Но оказалось, что мы имеем дело не с «улучшенным человеком», а с принципиально новой, чужеродной физической формой жизни, для которой гравитация, инерция и трение являются не ограничениями, а просто переменными в уравнении.
Теперь о границе прогресса. Где она проходит?
Классический ответ: граница проходит там, где прогресс начинает угрожать человечеству. Но этот ответ проблематичен, потому что любой прогресс в какой-то момент начинает угрожать человечеству. Огонь угрожает. Колесо угрожает (можно использовать для войны). Атомная энергия угрожает. Где провести черту?
Более глубокий ответ: граница прогресса не может быть проведена, потому что прогресс — это не линейный процесс, а экспоненциальный. Мы не можем остановиться на полпути, потому что сама природа прогресса такова, что он ускоряется. Если мы остановимся, нас обгонят другие. Если мы замедлимся, мы проиграем.
Это и есть трагедия прогресса: он не может быть остановлен, потому что остановка означает проигрыш. Но он не может быть продолжен, потому что продолжение ведёт к катастрофе.
Единственный выход — это изменение самой логики игры. Не остановка прогресса, а изменение целей. Не «как остановить ИИ», а «зачем нам ИИ». Не «как контролировать роботов», а «какой мир мы хотим построить».
Но это требует того, чего у человечества исторически не было: способности к коллективному самоопределению. Способности сказать: «Мы не хотим быть быстрее, сильнее, эффективнее. Мы хотим быть людьми».
Возможно ли это? Не знаю. Но это единственный вопрос, который имеет значение. Не «как остановить прогресс», а «кем мы хотим быть в мире, который прогресс создаёт».
Небольшое послесловие
Тема неисчерпаема! Рефлексировать над проблемой еще не начали, потому что как проблему это явление еще не осознают. А зря! Может быть только нам, читавшим классику мировой фантастики, кажется, что нужно бить во все колокола?
Здесь представлены всего пять сценариев — на что хватило фантазии, которую стимулировали опять же классики фантастической литературы. Возможно, сценариев больше. Назовите.
Но самое главное — нужно поразмышлять над тем, какой из названных сценариев будет реализован? При каких условиях? При каких и чьих усилиях?
В общем, вопрос так стоит — что нам делать-то, земляне?!
Обсуждение материала в нашем Телеграм-канале. Ссылка на комментарии ЗДЕСЬ
