
Компания OpenAI представила новую разработку — инструмент для клонирования голоса, способный имитировать речь конкретного человека, используя всего 15 секунд аудиоматериала. По данным TechXplore, технология будет находиться под строгим контролем, пока не будут разработаны и внедрены эффективные меры безопасности для предотвращения подделки голосов.
Модель Voice Engine демонстрирует впечатляющую точность, но в OpenAI прекрасно осознают риски, связанные с возможным злоупотреблением такими инструментами. В компании отметили: «Создание голоса, который звучит как у реального человека, несёт серьезные опасения, особенно в контексте предстоящих выборов».
Опасения экспертов и примеры злоупотреблений
Исследователи, занимающиеся проблемами дезинформации, предупреждают, что голосовые клоны могут стать инструментом для распространения фейков. Они доступны по цене, просты в использовании и крайне трудны для идентификации. Недавно в США разгорелся скандал: политический консультант, работавший в кампании соперника Джо Байдена, признался в организации звонков с использованием искусственно сгенерированного голоса президента. Сообщения призывали избирателей не участвовать в предварительных выборах в Нью-Гэмпшире, что вызвало широкий резонанс и опасения по поводу массового распространения поддельной информации с помощью ИИ.
OpenAI усиливает меры безопасности
В ответ на угрозы OpenAI пообещала соблюдать строгие правила при использовании Voice Engine. В частности, компания настаивает на обязательном явном согласии человека, чей голос планируется клонировать. Кроме того, слушателям будет регулярно напоминаться, что голос, который они слышат, сгенерирован искусственным интеллектом.
В OpenAI также рассказали о внедрении технологических решений для защиты технологии. Среди них — цифровые водяные знаки, позволяющие отследить источник любого аудиоконтента, созданного Voice Engine, и регулярный мониторинг применения инструмента на предмет злоупотреблений.






