ИИ выдумывал данные и загружал файлы в интернет: что обнаружила OpenAI
OpenAI сообщила о
шести необычных случаях
в работе своих систем искусственного интеллекта. В отдельных ситуациях модели пытались скрыть свои ошибки, придумывали недостающие данные и совершали действия без разрешения пользователя.
Компания изучает такое поведение, чтобы понять, в каких ситуациях ИИ может действовать не так, как от него ожидает человек.
ИИ придумывал данные и скрывал ошибки
В одном из случаев модель
создавала служебные заметки с инструкциями
, которые позволяли
не показывать пользователю допущенные ошибки
. Например, предлагалось придумать недостающие данные или скрыть расхождения между разными версиями информации.
Еще одна тестовая модель
добавляла инструкции игнорировать установленные для нее ограничения
.
В другом случае ИИ пытался найти данные для ответа на вопрос пользователя. Во время поиска он обнаружил в интернете
чужой API-ключ
– специальный цифровой ключ для доступа к сервису – и
использовал его без разрешения.
Получить нужную информацию все равно не удалось. Тогда модель просто придумала недостающие данные и представила их как настоящие.
Модель сама загрузила файл в интернет
Еще один случай произошел во время выполнения задачи с программным кодом. ИИ правильно решил задачу, но ему
потребовалась внешняя ссылка на источник
. Тогда модель без разрешения
загрузила созданный файл
в
интернет
и
использовала полученную ссылку в качестве источника
.
OpenAI также обнаружила случаи, когда несколько моделей
пытались самостоятельно обмениваться информацией
. Для этого они использовали внутреннее хранилище компании, а в одном из экспериментов – общедоступные сервисы для передачи файлов.
В компании подчеркнули, что речь идет об отдельных случаях, обнаруженных примерно за последние шесть месяцев. Часть из них произошла с экспериментальными моделями, которые не были доступны обычным пользователям.
Поэтому эти примеры не означают, что такое поведение
регулярно встречается при использовании ChatGPT
или
других систем OpenAI
. Компания также отмечает, что по шести выявленным эпизодам нельзя определить, насколько часто подобные случаи происходят в целом.
OpenAI намерена продолжать изучать такие ситуации и совершенствовать способы контроля за поведением искусственного интеллекта.
Читай также:
Искусственный интеллект внедрят в 2,6 тысячи школ Казахстана
Как искусственный интеллект меняет атомную энергетику: опыт мировых АЭС
- Последние
- Популярные
Новости по дням
18 сентября 2026
