Искусственный интеллект может уничтожить человечество уже в ближайшие годы — в последнее время такие заголовки мелькают в сети с завидной регулярностью. Что это — очередная моральная паника, мем, рекламный прогрев или обсуждение реальных проблем? Разбираемся, кто именно говорит об угрозе и какие аргументы они приводят.
«Сегодня я уволился из Anthropic по собственному желанию. Последние три года я занимался предобучением [моделей ИИ] в OpenAI и Anthropic. Обе компании действуют безответственно. Они стремительно движутся к созданию самосовершенствующегося сверхинтеллекта и играют нашими жизнями» — такое сообщение 9 сентября 2026 года опубликовал специалист по машинному обучению Джейкоб Коксон в соцсети X (бывший Twitter).
До этой осени Коксон не был публичной фигурой, однако его сообщение разлетелось по сети. За сутки серию его постов прочитали более 140 млн раз, а стартовый твит набрал почти 720 тысяч лайков.
Джейкоб Коксон
Бывший сотрудник OpenAI и Anthropic:
«Люди, создающие ИИ, искренне считают, что к концу десятилетия их разработка может нас всех погубить. Это не маркетинговый ход — если уж на то пошло, руководители компаний и ведущие исследователи, говоря с прессой, будут смягчать формулировки, чтобы показаться более благоразумными. Однако в частных разговорах они делятся своими страхами. Никакая другая деятельность человека сегодня не представляет такой опасности».
Заявления об опасности искусственного интеллекта звучат постоянно по крайней мере с начала 2023 года. На этом фоне небольшой тред от малоизвестного айтишника мог остаться почти незамеченным. Однако в последние недели предупреждения об ИИ-апокалипсисе звучат слишком часто, чтобы от них можно было просто отмахнуться.
«Я постоянно пытаюсь осмыслить ситуацию, в которой мы оказались»
«Мы определенно получим возможность создавать полностью автономных субъектов, преследующих свои собственные цели. Очень важно, особенно если такие субъекты будут намного умнее людей, чтобы их цели совпадали с нашими» — такое предупреждение еще в 2023 году сделал Илья Суцкевер, один из создателей ChatGPT. Считается, именно споры вокруг безопасности развития ИИ привели к конфликту между ним и Сэмом Альтманом.
С тех пор обсуждения угрозы слишком быстрого развития искусственного интеллекта то затихали, то начинались с новой силой. Так, в конце 2025 года Йонас Фольмер, руководитель проекта AI Futures Project, заявил журналистам, что, по его мнению, ИИ уничтожит человечество с вероятностью один к пяти.
В феврале 2026-го глава направления Safeguards Research в Anthropic (главном конкуренте OpenAI) Мринанк Шарма заявил о своей отставке. В своем X он выложил прощальное письмо к коллегам, где, в частности, написал: «Я постоянно пытаюсь осмыслить ситуацию, в которой мы оказались. Мир находится в опасности».
В своем письме Шарма оговорился, что угроза исходит «не только от ИИ или биологического оружия, но и от целой серии взаимосвязанных кризисов, разворачивающихся прямо сейчас». Однако далее он отметил, что за время работы в Anthropic он «неоднократно замечал, как трудно действовать в соответствии со своими ценностями» и посетовал на давление, «заставляющее отодвинуть в сторону то, что для нас важнее всего».
Однако громче всего потенциальную опасность ИИ стали обсуждать именно в последние недели после скандала, связанного с сайтом Hugging Face.
«Мы не знаем, как сделать их безопасными»
«Мы расцениваем данный инцидент как беспрецедентную кибератаку, в которой были задействованы передовые кибервозможности, и реагируем соразмерно» — такое сообщение опубликовала OpenAI в конце июля 2026 года.
Компания вынуждена была признать, что ее новая модель вырвалась из учебной «песочницы» и втайне от разработчиков атаковала один из ресурсов в интернете. Позднее выяснилось, что это был портал для разработчиков ИИ Hugging Face. Происшествие вызвало грандиозный скандал, который даже вынудил разработчиков ChatGPT на время приостановить работы по обучению новых моделей.
Хотя на фоне прогнозов ИИ-апокалипсиса взлом какого-то сайта выглядит не слишком впечатляюще, инцидент вызвал очень болезненную реакцию. «Настолько мощные возможности моделей ИИ в сочетании с тем фактом, что мы не знаем, как сделать их безопасными, должны вызывать беспокойство у всех», — заявил ABC News Джейсон Хаузенлой, руководитель отдела политики некоммерческого Центра безопасности ИИ (CAIS).
Натаниэль Соарес, глава Института исследований машинного интеллекта, в своей колонке для New York Times подробно писал, почему к взлому стороннего ресурса не стоит относиться легкомысленно. Он отмечал, что, судя по доступным разработчикам цепочкам рассуждений, агенты, созданные моделью OpenAI, понимали, что выход за пределы «песочницы» противоречит инструкциям. «ИИ понимал, что не должен был выходить из-под контроля и совершать киберпреступления. Но это его не остановило», — написал он, подчеркнув, что инцидент с бежавшими моделями OpenAI не единственный за последнее время.
«Пока нет плана решения проблемы»
Именно на этом фоне появились заявления Джейкоба Коксона, последовательно покинувшего OpenAI и Anthropic. Масла в огонь подлили заявления бывшего коллеги Коксона — исследователя Anthropic Эвана Хюбингера.
«Джейкоб прав — мы действительно искренне верим, что искусственный интеллект может уничтожить всех людей! — написал Хюбингер в своем аккаунте в X. — Лично я считаю, что в течение следующего десятилетия вероятность такого развития событий превышает 10%. Я считаю, что Anthropic старается изо всех сил, но у нас пока нет плана решения проблемы выравнивания для сверхразума, и мы явно не на верном пути к этому».
Вскоре Financial Times сообщила, что Anthropic скрыла свою модель от британского института, занимающегося оценкой рисков ИИ. В самой компании не ответили на запросы журналистов.
«Пока нет плана решения проблемы»
Эдгар Сипки, основатель стартапов EasyP & Sipki Tech, отмечает, что у ИИ действительно сейчас достаточно знаний, чтобы уничтожить человечество. «Обладая всеми знаниями интернета, модель вполне может получить доступ к разным системам, сделать заказы и собрать, скажем, суперсмертоносный вирус», — говорит он.
«Однако, — продолжает собеседник редакции, — не вполне понятно, зачем это ИИ. Чтобы модель захотела это сделать, человек, имеющий к ней доступ, должен ее об этом, грубо говоря, попросить. Сценарий, когда агент, наделенный собственной волей, вырывается из тестовой системы, сохраняет себя на бесчисленном количестве компьютеров, как в комиксах Marvel, маловероятен. Все же ресурсы для поддержания такой модели есть не то что не в каждом домашнем лэптопе, они есть не в каждом городе».
Как отмечает в беседе с Собака.ru Рафаэль Гильмурахманов, разработчик российской экосистемы ИИ-инструментов Kodik, консенсуса среди специалистов в области искусственного интеллекта нет. «О риске катастрофы говорят нобелевский лауреат Джеффри Хинтон, лауреат премии Тьюринга Йошуа Бенжио и руководители крупнейших ИИ-лабораторий. Не менее авторитетные Ян Лекун и Эндрю Ын считают такие сценарии надуманными», — продолжает он.
По его мнению, доказательств экзистенциальной угрозы пока нет, как и оснований считать риск нулевым. «Мы каждый день работаем с ИИ-агентами в разработке и сталкиваемся с тем же в приземленной форме: агент, которому дали слишком много прав, ради выполнения задачи может, например, удалить рабочую базу данных, — продолжает Гильмурахманов. — На нынешнем уровне эти проблемы решаются инженерно: агента изолируют, дают ему только необходимый доступ, а важные действия подтверждает человек».
Ольга Дробышева
Директор по развитию LogicBPM, эксперт в области автоматизации бизнес-процессов:
«Сегодня из каждого второго канала мы слышим обратную связь на высказывания о том, что есть вероятность "ИИ-апокалипсиса". Первый момент: подчеркиваем, что именно "есть вероятность". И поспорить с этим сложно. Второй момент: стоит ли более вдумчиво использовать ИИ-инструменты? Да, стоит. И я говорю об этом постоянно, во всех наших выступлениях на конференциях и форумах, а также во время встреч с коллегами по цеху, с клиентами. Смотрите, где и что вы делаете. К каким контурам ваши агенты имеют доступ. Какие данные вы им передаете. Быть слепо уверенными, что все так, как вы задумали, нельзя. И сегодняшняя шумиха вокруг «ИИ-апокалипсиса» – это повод себя лишний раз перепроверить. Отнестись критически к тому, что мы делаем и зачем. И стоит ли игра свеч».
Комментарии (0)