OpenAI запустила технологию точного клонирования голоса с мерами защиты от подделок

Компания OpenAI представила новую разработку — инструмент для клонирования голоса, способный имитировать речь конкретного человека, используя всего 15 секунд аудиоматериала. По данным TechXplore, технология будет находиться под строгим контролем, пока не будут разработаны и внедрены эффективные меры безопасности для предотвращения подделки голосов.

Модель Voice Engine демонстрирует впечатляющую точность, но в OpenAI прекрасно осознают риски, связанные с возможным злоупотреблением такими инструментами. В компании отметили: «Создание голоса, который звучит как у реального человека, несёт серьезные опасения, особенно в контексте предстоящих выборов».

Опасения экспертов и примеры злоупотреблений

Исследователи, занимающиеся проблемами дезинформации, предупреждают, что голосовые клоны могут стать инструментом для распространения фейков. Они доступны по цене, просты в использовании и крайне трудны для идентификации. Недавно в США разгорелся скандал: политический консультант, работавший в кампании соперника Джо Байдена, признался в организации звонков с использованием искусственно сгенерированного голоса президента. Сообщения призывали избирателей не участвовать в предварительных выборах в Нью-Гэмпшире, что вызвало широкий резонанс и опасения по поводу массового распространения поддельной информации с помощью ИИ.

OpenAI усиливает меры безопасности

В ответ на угрозы OpenAI пообещала соблюдать строгие правила при использовании Voice Engine. В частности, компания настаивает на обязательном явном согласии человека, чей голос планируется клонировать. Кроме того, слушателям будет регулярно напоминаться, что голос, который они слышат, сгенерирован искусственным интеллектом.

В OpenAI также рассказали о внедрении технологических решений для защиты технологии. Среди них — цифровые водяные знаки, позволяющие отследить источник любого аудиоконтента, созданного Voice Engine, и регулярный мониторинг применения инструмента на предмет злоупотреблений.

Что читать дальше

Подборка материалов по этой теме.

Сейчас читают

Материалы, которые чаще открывают сегодня.

Загрузка…

Ещё по теме

Продолжить чтение

Материалы, которые помогут не выпадать из темы.