Люди использовали онлайн-генератор голоса для создания поддельных клипов, на которых Эмма Уотсон читает запрещенные книги, а актеры «Звездных войн» произносят глубоко оскорбительные, женоненавистнические и расистские сообщения.
Компания, занимающаяся голосовыми технологиями, которая использует искусственный интеллект для создания реалистичной речи, заявляет, что введет дополнительные меры безопасности после того, как ее бесплатный инструмент был использован для создания голосов знаменитостей, читающих крайне неприемлемые высказывания.
Ранее в этом месяце ElevenLabs выпустила так называемый набор для клонирования голоса.
Это позволяет пользователям загружать клипы с кем-то говорящим, которые используются для создания искусственного голоса.
