OpenAI выпускает детектор дипфейков

OpenAI выпускает детектор дипфейков

Поскольку эксперты предупреждают, что изображения, аудио и видео, созданные искусственным интеллектом, могут повлиять на осенние выборы президента США, OpenAI выпускает инструмент, предназначенный для обнаружения контента, созданного его собственным популярным генератором изображений DALL-E. Об этом сообщает The New York Times.

Читайте «Минфин» в Instagram: главные новости об инвестициях и финансах

По словам OpenAI, этот инструмент является лишь небольшой частью того, что потребуется для борьбы с дипфейками в ближайшие месяцы и годы.

Компания поделится своим новым детектором дипфейков с небольшой группой исследователей дезинформации, чтобы они могли протестировать инструмент в реальных ситуациях и помочь определить пути его усовершенствования.

«Это толчок к новым исследованиям», — сказала Сандхини Агарвал, исследовательница OpenAI, которая занимается безопасностью и политикой.

OpenAI заявили, что детектор может правильно идентифицировать 98,8% изображений, созданных DALL-E 3, последней версией генератора изображений.

Но компания отметила, что ее инструмент не предназначен для обнаружения изображений, созданных другими популярными генераторами, такими как Midjourney и Stability.

OpenAI также сообщила, что разрабатывает водяные знаки для создаваемых искусственным интеллектом звуков, чтобы их можно было мгновенно идентифицировать. Компания надеется, что эти водяные знаки будут трудно удалить.

minfin.com.ua

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *