OpenAI выпускает детектор дипфейков
Поскольку эксперты предупреждают, что изображения, аудио и видео, созданные искусственным интеллектом, могут повлиять на осенние выборы президента США, OpenAI выпускает инструмент, предназначенный для обнаружения контента, созданного его собственным популярным генератором изображений DALL-E. Об этом сообщает The New York Times.
По словам OpenAI, этот инструмент является лишь небольшой частью того, что потребуется для борьбы с дипфейками в ближайшие месяцы и годы.
Компания поделится своим новым детектором дипфейков с небольшой группой исследователей дезинформации, чтобы они могли протестировать инструмент в реальных ситуациях и помочь определить пути его усовершенствования.
«Это толчок к новым исследованиям», — сказала Сандхини Агарвал, исследовательница OpenAI, которая занимается безопасностью и политикой.
OpenAI заявили, что детектор может правильно идентифицировать 98,8% изображений, созданных DALL-E 3, последней версией генератора изображений.
Но компания отметила, что ее инструмент не предназначен для обнаружения изображений, созданных другими популярными генераторами, такими как Midjourney и Stability.
OpenAI также сообщила, что разрабатывает водяные знаки для создаваемых искусственным интеллектом звуков, чтобы их можно было мгновенно идентифицировать. Компания надеется, что эти водяные знаки будут трудно удалить.
- Последние
- Популярные
Новости по дням
19 мая 2024
