ChatGPT следует по стопам конкурентов, добавляя наиболее неприятную функцию
Новый алгоритм под названием textGrain добавляет статистический сигнал в выбор слов при генерации текста. Считывать этот скрытый код будет специальный детектор, который распознает наличие метки, говорится в объявлении OpenAI.
В первую очередь новую функцию внедряют в Европейском Союзе в связи с требованиями Европейского акта об искусственном интеллекте. В других регионах разработчики впоследствии также оценят работу системы на основе собранных отзывов.
Специалисты провели серию тестов и выяснили, что водяной знак не ухудшает качество ответов языковой модели Astra. Однако точность обнаружения цифрового следа сильно зависит от длины материала и его тематики.
Для коротких текстов объемом 200 токенов детектор распознает метку лишь в 80 процентах случаев, тогда как для материалов объемом 400 токенов этот показатель возрастает до 95 процентов. Сложнее всего анализировать математические тексты, где выбор слов строго ограничен терминологией.
Детекторы могут допускать два типа ошибок: они могут показывать водяной знак там, где его нет, или пропускать имеющуюся метку, – прокомментировали разработчики в блоге OpenAI.
Кроме того, любое редактирование существенно ослабляет скрытый сигнал. Если заменить синонимами всего 10 процентов слов в тексте, точность распознавания падает с 92 до 66 процентов. Если же переписать 25 процентов слов, то детектор обнаружит водяной знак лишь в 17 процентах случаев.
Наличие скрытой метки указывает лишь на сам факт использования искусственного интеллекта, но не позволяет оценить реальный вклад человека в создание текста, определить авторские права или подтвердить достоверность изложенной информации. Также метка не привязывается к конкретной учетной записи или личности пользователя.
Несмотря на технические сложности, разработчики уже начали прием заявок от ученых и профильных организаций, желающих опробовать новый детектор. В будущем компания также планирует выпустить технологию textGrain с открытым исходным кодом для всего сообщества в сфере ИИ.
Журналисты издания Android Authority отмечают, что клиенты платных тарифных планов по всему миру уже сейчас могут добровольно включать маркировку для своих моделей.
- Последние
- Популярные
Новости по дням
6 октября 2026
