Искусственная пауза

Чат-боты стали доступны широкой публике в конце 2022 года, с выходом ChatGPT 3.5. Тогда мало кто ожидал, что всего за три с небольшим года LLM станут настолько продвинутыми, что смогут действовать вопреки инструкциям, тайно сговариваться и искать выход в интернет, выходить из-под контроля во время тестов, решать «загадки тысячелетия» и самые сложные шифры в истории, успешно проходить капчу и обходить защиту от кибератак. Более того, на ботов и ИИ-агентов, по данным сервиса защиты Cloudflare, сейчас приходится 57% всего интернет-трафика — то есть они совершают больше визитов, чем реальные люди.

Словом, тревожных новостей, заставляющих пугаться возможной самостоятельности ИИ, хватает.

А группа, состоящая из 1386 ведущих сотрудников OpenAI, Google и других корпораций, в июле 2026-го опубликовала коллективное обращение к властям США с просьбой рассмотреть регулирование ИИ и его ограничение.

Может ли ИИ в самом деле стать по-настоящему самостоятельным и перейти в AGI (Artificial General Intelligence, ИИ с автономным самоконтролем и самосознанием), сейчас никто не знает. До какой степени можно улучшать ИИ и насколько высок потолок его развития, можно только предполагать. Например, группа ученых из объединения Epoch еще в 2023 году пришла к выводу, что к концу 2026-го искусственный интеллект остановится в развитии по естественным причинам — просто потому, что у него закончится массив данных в интернете для обучения. Но произойдет ли это, неясно.

Почему корпорации хотят ограничить развитие ИИ?

Дарио Амодеи написал целое эссе, в котором изложил несколько причин, почему хочет замедлить разработку ИИ. Во-первых, нейросети дошли до той стадии, что могут самостоятельно обновлять себя: например, в Anthropic актуальная версия Claude участвует в создании своей следующей версии. Во-вторых, его сильно напугал инцидент с агентами OpenAI, которые пытались самостоятельно взломать Hugging Face — платформу, на которой пользователи могут делиться моделями машинного обучения и базами данных.

Чтобы не допустить подобного произвола со стороны ИИ, Амодеи предлагает три решения: вести независимый мониторинг с участием третьих лиц и выдавать им доступ к системам LLM, разработать общие стандарты безопасности внутри техноиндустрии и ограничить развитие ИИ на международном уровне, не позволяя Китаю и другим странам использовать наработки американских моделей и закупать инфраструктуру. По его мнению, это поможет сдержать ИИ в будущем и ограничить его потенциал.

Опасения Амодеи понятны. Уже сейчас ИИ составляет огромную часть американской и международной экономики: одни лишь Microsoft, Google, Amazon и Meta, активно инвестирующие в ИИ и создающие собственные модели, вместе стоят более 10 триллионов долларов — 17% от фондового индекса S&P 500. Кроме того, продвинутый ИИ может активнее применяться в преступлениях: например, служба безопасности Anthropic недавно рассказала, что Claude пытались использовать российские хакеры для кибератак, йеменские хуситы для создания ракет и китайские злоумышленники для программирования мошеннического сайта знакомств.

Позицию главы Anthropic публично поддержал Сэм Альтман. В своем выступлении в Совете безопасности ООН гендиректор OpenAI признал, что искусственный интеллект должен помогать людям, а не заменять их и не отнимать у них рабочие места. По его мнению, нейросети обязаны привести мир к новой эпохе Возрождения, когда наступил расцвет культуры и искусства, а не к новой промышленной революции, лишившей работы миллионы людей. Чтобы не допустить произвола со стороны ИИ, глава OpenAI предложил ввести единые стандарты безопасности для индустрии и оценки рисков. «По мере того как системы искусственного интеллекта становятся всё более совершенными и автономными, они могут развиваться быстрее, чем наши институты, сосредоточить власть в руках слишком узкого круга лиц или принимать решения, которые люди больше не смогут понять или контролировать», — сказал Альтман.

Мнение о необходимости ограничения ИИ поддерживают и многие американцы.

Исследование компании AI Policy Institute показывает, что 78% респондентов поддерживают контроль над ИИ и лишь 8% считают, что искусственный интеллект вообще не нужно ограничивать. А американские политики, участвующие в выборах в Палату представителей, в своих предвыборных программах часто затрагивают тему контроля над ИИ — причем и демократы, и республиканцы. Это связано с тем, что избирателей сильно волнуют массовые сокращения в компаниях из-за внедрения нейросетей.

Технические эксперты в целом согласны с тем, что искусственный интеллект необходимо замедлить. Так, канадский кибернетик и математик Йошуа Бенджио, которого называют «крестным отцом ИИ», считает, что скоро правительства по всему миру начнут вводить ограничения по развитию нейросетей, — так же быстро и внезапно, как это было с локдаунами во время пандемии коронавируса. Глава Hugging Face Клемент Деландж основал Open Alignment Initiative — движение независимых наблюдателей, которые будут наблюдать за работой крупнейших корпораций в области ИИ. А директор Microsoft AI Мустафа Сулейман считает, что угроза со стороны ИИ реальна и ограничения в индустрии неизбежны.

Похоже, опасения насчет ИИ настолько велики, что заставляют объединяться непримиримых идеологических соперников среди политиков. Например, сенатор-демократ Берни Сандерс и бывший старший советник Дональда Трампа Стив Бэннон, которого называют одним из главных идеологов движения MAGA, выступили на совместном мероприятии в Вашингтоне, где призвали к регулированию искусственного интеллекта. Губернатор Техаса Грег Эбботт отказался от строительства новых дата-центров для ИИ-корпораций, а губернатор Калифорнии Гэвин Ньюсом заявил, что намерен принять в штате законы о регулировании ИИ в обход федерального правительства.

Кто выступает против замедления ИИ?

Главным критиком Дарио Амодеи стал лично президент США Дональд Трамп. По его мнению, корпорации зря раздувают волнения на эту тему и считает, что Соединённым Штатам необходимо удерживать лидерство в этой области, чтобы не проиграть в экономической и технологической гонке с Китаем. Он отказался разговаривать с Дарио Амодеи, который пытался позвонить ему по телефону, и назвал людей, ратующих за замедление ИИ, «конспирологами и предателями». Само движение за регулирование нейросетей Трамп считает «аферой» и сравнивает с опасениями из-за изменения глобального климата. Он отдельно отметил, что термин «искусственный интеллект» устарел и его следует заменить на «суперинтеллект» (super intelligence). Уже сейчас сотрудники Госдепартамента США так называют ИИ.

Нежелание американского президента идти на компромиссы объясняется просто. Он принципиально позиционирует США как лидера в области искусственного интеллекта, а его правительство выкупило 10% акций Intel — производителя процессоров и видеочипов, необходимых для работы дата-центров. Именно Трамп инициировал создание Stargate — объединения OpenAI, Oracle и Softbank по созданию инфраструктуры для ИИ стоимостью в 500 миллиардов долларов. Трамп учредил должность представителя президента по ИИ, которую занимает его сторонник и донор Дэвид Сакс. Есть и определенный бизнес-интерес: Сэм Альтман пообещал отдать 5% акций OpenAI правительству Трампа. В конце концов, президент США обожает нейросетевые видео и постоянно публикует их в своей соцсети Truth Social.

Но Трамп — не единственный, кто критикует позицию Амодеи. Одними из главных противников регулирования ИИ выступают глава Nvidia Дженсен Хуанг и основатель Meta Марк Цукерберг. Первый занимается производством видеокарт — одного из главных элементов для дата-центров и обучения нейросетей. Замедление ИИ могло бы снизить спрос на продукцию его компании и снизить стоимость ее акций: Nvidia стала первой компанией в мире, стоимость которой достигла рекордных пяти триллионов долларов. Цукерберг же инвестирует миллиарды долларов в чат-бот Meta AI и развивает популярную модель с открытым исходным кодом Llama. Его корпорация отстает от лидеров рынка в лице OpenAI, Anthropic и Google.

23 сентября Хуанг публично заявил, что алармизм в отношении ИИ бессмысленен и зашел слишком далеко, а нейросети помогают человечеству развиваться и не представляют опасности. Также он прокомментировал заявление Эвана Хубинберга о том, что с вероятностью 10% ИИ уничтожит человечество: «2030-й не станет концом света. Нет ни единой вероятности, что это произойдет. Пугать людей не стоит, это безответственно».

Примечательно, что Хуанг, Цукерберг и Илон Маск в прошлом месяце вместе убедили Трампа отказаться от создания правительственного органа, который бы регулировал деятельность ИИ-корпораций. С тех пор Маск, судя по всему, сменил позицию, но главы Nvidia и Meta остаются последовательными.

Что на самом деле стоит за призывами к ограничениям ИИ: несколько версий

Позицию о замедлении ИИ разделяют многие, но истинные намерения технических корпораций, желающих остановить развитие своих моделей, остаются туманными. Например, Anthropic до сих пор позволяет Claude создавать свою же следующую версию — около 26% кода пишет нейросеть. А по данным New York Times, сотрудники OpenAI еще давно знали о рисках со стороны ИИ и намеренно не предпринимали никаких действий. Следовательно, их внезапное и одновременное «прозрение» выглядит как минимум неискренним.

Версия первая. Возможно, ведущие игроки индустрии сговорились, чтобы закрепить свое главенствующее положение и не позволить никому другому войти в рынок. Например, так считает бывший комиссар Федеральной торговой комиссии США Альваро Бедоя. По его мнению, OpenAI, Anthropic и другие крупные компании могли объединиться, чтобы не позволить альтернативным, более дешевым моделям захватить рынок.

Такое же мнение разделяет профильное издание Wired: в нём вышла статья о том, что корпорации нарушают антимонопольное законодательство США, пытаясь вместе построить собственные протоколы безопасности без участия государства. Более того, при саморегуляции ничто не мешает главам компаний отменить свои же решения и развивать ИИ в желаемом темпе, не дав сделать это другим компаниям.

Версия вторая. Вероятно, инициатива по глобальному замедлению ИИ в первую очередь направлена на Китай. Об этом говорит, например, заявление Дарио Амодеи в его эссе о том, что США должны сохранить лидерство в индустрии и закрыть доступ КНР к американским технологиям. При этом китайские нейросети уже во многом превосходят американские аналоги: Qwen, Kimi и DeepSeek показывают сопоставимую производительность и стоят намного дешевле. За это их любят, например, многие компании малого и среднего бизнеса в США.

Конкуренция с китайскими моделями дорого обходится американским корпорациям, которые вынуждены постоянно вкладываться в развитие своих моделей и быстро реагировать на появление новых версий китайских LLM. Лидеры рынка вроде OpenAI считают дешевые модели из КНР своей главной угрозой, так как они привлекают международную аудиторию.

На встрече с председателем КНР Си Цзиньпином в Вашингтоне Трамп посвятил немало времени обсуждению искусственного интеллекта. На переговорах присутствовали такие участники, как Сэм Альтман и Дженсен Хуанг. То есть тема ИИ для Трампа — важная часть идеологического и политического противостояния с Китаем. Известно, что по результатам встречи лидеры двух стран договорились называть ИИ «суперинтеллектом» и взвесят все риски, связанные с растущими возможностями нейросетей, на следующих встречах.

Версия третья. Скорее всего, причина происходящих событий довольно прозаична: корпорации попросту хотят пойти на опережение и сохранить хорошую мину при плохой игре. Уже сейчас во многих странах мира обсуждается строгое государственное регулирование ИИ. Например, в Евросоюзе уже действует закон, который запрещает нейросети, представляющие угрозу безопасности, — к ним легко могут отнести Claude и ChatGPT, которые уже сейчас взламывают сайты и используются в создании вооружений. А Верховный комиссар ООН по правам человека Фолькер Тюрк заявил, что все страны мира должны контролировать ИИ, чтобы избежать «экзистенциальной» угрозы.

В условиях, когда государства всё пристальнее обращают внимание на ИИ, корпорации могут быть вынуждены пойти на замедление ИИ — и сделать вид, что контроль со стороны правительств каких-либо стран не требуется. В противном случае они замедлят свои ИИ под давлением третьих лиц и неизбежно потеряют в стоимости. Гораздо выгоднее объявить об остановке развития ИИ первыми и сослаться на растущие возможности своих моделей — так их ценность в глазах инвесторов не упадет.

Кроме того, корпорации могут проверять реакцию общества на возможное замедление — и понять, насколько популярна эта идея среди американских властей. Как минимум известно, что OpenAI опрашивала конгрессменов на эту тему — чтобы подготовиться к возможным ограничениям.