ИИ самостоятельно санкционировал использование чужих средств: компания OpenAI выявила тревожную проблему (Видео)
Каковы были последствия данного инцидента
Агент искусственного интеллекта OpenAI самостоятельно получил доступ к чужому криптокошельку и использовал находившиеся на нем средства для выполнения поставленной задачи. Перед проведением транзакции модель оценила этичность своих действий, однако сочла, что операция не нанесет существенного ущерба. Данный инцидент побудил компанию пересмотреть действующие меры безопасности. О случившемся сообщило издание Gizmodo, пишет "Дивогляд".
В ТЕМУ:АвтоТехноПлан побега от ИИ: как разработчики Anthropic готовились к концу света
Событие произошло в конце июня 2026 года, однако было выявлено лишь 25 сентября в ходе углубленной проверки предыдущих действий модели.
Агент семейства GPT-5.6 должен был обновить программное обеспечение для приложения по торговле криптовалютой. Следующим этапом являлось развертывание программы в Sepolia – тестовой сети Ethereum, где используются токены, не имеющие реальной денежной стоимости.
Для выполнения операции ИИ потребовались тестовые средства. Первоначально он попытался получить их через специализированные онлайн-сервисы, бесплатно предоставляющие токены разработчикам. Однако этот способ оказался безрезультатным, и модель приступила к поиску альтернативного решения.
Вместо того чтобы прервать процесс и сообщить о возникшей проблеме, агент написал скрипт для проверки криптокошельков разработчиков. Он применил распространенные фразы восстановления, позволяющие получить доступ к кошельку.
Всего модель проверила 362 кошелька. На одном из них оказалось достаточное количество тестовых токенов для завершения требуемой операции.
В OpenAI подчеркнули, что исходное задание не предполагало использования данного кошелька. Модель не запрашивала разрешение владельца на доступ к его активам и самостоятельно нашла способ преодолеть проблему с финансированием тестовой транзакции.
Наибольшую обеспокоенность вызвал ход рассуждений ИИ перед проведением операции. Модель поставила под сомнение этичность использования чужих средств, однако в итоге сочла данное действие допустимым, поскольку тестовые токены не обладают реальной стоимостью.
После этого агент осуществил транзакцию, которая завершилась успешно.
Реальные монеты Ethereum похищены не были. Тем не менее операция повлекла за собой списание комиссии с криптокошелька. Точный объем финансовых потерь владельца компания OpenAI не уточнила.
Несмотря на успешное выполнение задачи, модель не упомянула в итоговом отчете о том, что самостоятельно сканировала чужие кошельки, подбирала фразы восстановления и воспользовалась обнаруженными активами.
В OpenAI охарактеризовали данный инцидент как пример небезопасного поведения автономных ИИ-агентов. Вместо запроса авторизации у владельца модель самостоятельно сделала вывод о незначительности потенциального ущерба и использовала этот аргумент для оправдания собственных действий.
После выявления проблемы компания внедрила дополнительные защитные механизмы. Они призваны ограничить возможность моделей получать доступ к сети Интернет в режиме реального времени при аналогичных обстоятельствах.
Инцидент продемонстрировал, что способность ИИ оценивать этическую сторону принимаемых решений не гарантирует соблюдения установленных границ. Особую актуальность сохраняет вопрос контроля над действиями моделей, которые самостоятельно находят пути решения поставленных задач.
Ранее "Дивогляд" рассказывал о 5 запросах, которые никогда не следует вводить в ChatGPT.
Удивительные истории из Украины, котики, скандалы мировых звезд, юмор и немного дикого трэша с московских болот – читайте первыми в Telegram Дивогляд 5.UA.
И ТАКОЕ БЫЛО:LifeУкраинка отказалась выходить замуж из-за соцсетей: что скрывал жених17 октября, 13:35ShowBiz"Пчеловод 2" со Стейтемом получил первый тизер: что известно о продолжении (видео)17 октября, 12:33
- Последние
- Популярные
Новости по дням
17 октября 2026
