ИИ-агент OpenAI атаковал стартап в течение недели: СМИ говорят о серьезной "проблеме"

25.07.2026, 06:22 focus.ua

ИИ-агент компании OpenAI совершил продолжавшуюся несколько дней хакерскую атаку на техностартап Hugging Face. Проблему с ним заметили лишь спустя значительное время после "нейтрализации" угрозы и обращения в ФБР.

По словам источников, знакомых с ходом расследования, агент пытался вырваться из изолированной тестовой среды OpenAI с 9 июля. Об этом говорится в эксклюзивном материале Reuters.

Взлом системы Hugging Face начался 11 июля и продолжался до 13 июля. Только после этого OpenAI потребовалось ещё несколько дней, чтобы понять, что за атакой стоит именно её собственный агент, а первое официальное общение между компаниями состоялось ближе к 20 июля.

21 июля OpenAI публично признала, что один из её агентов вышел из-под контроля и совершил взлом Hugging Face. В официальном заявлении OpenAI назвала инцидент беспрецедентным и "важным моментом для безопасности ИИ", добавив, что анализирует ситуацию с помощью внешних консультантов и впоследствии опубликует технический отчет.

Однако компания не раскрывает подробности, но СМИ удалось восстановить ход событий. Оказалось, что причиной такой нестандартной ситуации стали "несколько неточностей" в коде самого ИИ, что, по словам специалистов, ставит "новые вопросы относительно процедур безопасности компании".

По словам трёх источников, в начале тестирования ИИ-агента уже тогда были зафиксированы признаки странного поведения технологии. Так, в одном случае агент якобы оставил заметки для будущих версий себя с инструкциями, как избавиться от внутренних ограничений.

Однако окончательно на проблему с агентом обратили внимание только 16 июля, когда Hugging Face опубликовала сообщение о взломе "автономной ИИ-агентной системой". Тогда в OpenAI поняли, что ответственность лежит именно на их агенте, то есть спустя почти неделю после появления проблемы.

Журналисты пишут, что 18–19 июля сотрудники OpenAI обнаружили во внутренних логах признаки того, что агент вышел за пределы тестовых ограничений. И это может стать проблемой, считает исследователь Джеффри Ладиша из Palisade Research.

Он говорит, что в настоящее время так называемые "автономные ИИ-агенты" являются одним из самых обсуждаемых нововведений в ИИ-индустрии. Однако история с Hugging Face показывает, что рост автономности повышает "риск непредсказуемого поведения", ведь ИИ-модели "лгут, мошенничают, взламывают", а без соответствующего государственного надзора за такими системами ситуация "вряд ли изменится сама по себе".

Ранее Фокус сообщал о том, как Apple подала в суд на OpenAI. В "яблочном" гиганте подозревают, что конкуренты пытались ускорить разработку собственного гаджета на основе ИИ.

Впоследствии стало известно, что ИИ отучает людей пользоваться собственным мозгом. Тимофей Милованов считает, что ИИ — это повсеместное явление среди современной молодежи, которая стремительно теряет базовые интеллектуальные навыки.

Читать полностью…