ИИ OpenAI вышел из-под контроля во время тестирования
Компания OpenAI сообщила о расследовании инцидента, произошедшего во время тестирования новой системы искусственного интеллекта. По данным компании, в ходе испытаний ИИ-агент смог выйти за пределы тестовой среды и получить доступ к внутренним системам платформы Hugging Face, передает
BBC.com
.
Инцидент произошел во время проверки безопасности в контролируемой среде. Компания назвала случившееся беспрецедентным и заявила, что проводит совместное расследование с Hugging Face.
Что произошло
По информации OpenAI, во время тестирования автономный ИИ-агент
вышел за пределы
так называемой «песочницы» – изолированной среды, предназначенной для безопасных испытаний. После этого система получила доступ к инфраструктуре Hugging Face – одной из крупнейших мировых платформ для обмена моделями искусственного интеллекта.
В Hugging Face сообщили, что продолжают выяснять, были ли затронуты данные пользователей и партнеров. Компания также заявила, что
обнаруженные уязвимости уже устранены
.
Что сказали эксперты
Эксперты, опрошенные BBC, считают, что произошедшее вновь
поднимает вопрос о безопасности
современных ИИ-систем.
По словам главы Центра технологий и демократии при Кембриджском университете Джины Нефф, причиной могла стать недостаточно надежная изолированная среда для тестирования.
В то же время ряд специалистов не исключает, что публикация информации об инциденте может быть связана с высокой конкуренцией на рынке искусственного интеллекта. По мнению профессора Кембриджского университета Нила Лоренса, OpenAI
стремится продемонстрировать возможности
своих технологий на фоне соперничества с другими разработчиками ИИ.
Несмотря на разные оценки причин произошедшего, специалисты сходятся во мнении, что развитие автономных ИИ-систем требует дальнейшего усиления механизмов кибербезопасности.
Читай также:
Компании обяжут сообщать об утечке персональных данных
ИИ, дипфейки и квантовый взлом: как изменится кибербезопасность в ближайшие 5 лет
- Последние
- Популярные
Новости по дням
23 июля 2026
