AI-startupen Elevenlabs skriver att beta-versionen av deras plattform missbrukats genom att skapa ljudklipp med kända personers röster utan deras tillåtelse, rapporterar Engadget.
Elevenlabs verkyg är tänkt för att antingen skapa en konstgjord röst eller klona någons röst så att den kan användas exempelvis för text-till-tal.
Användare ska bland annat skapat ljudklipp där det låter som skådespelerskan Emma Watson läser ett utdrag ur Mein Kampf.
Startupen säger nu att de arbetar på att ta fram lösningar för att förhindra att AI-verktyget missbrukas i framtiden. Detta skulle bland annat kunna vara röstverifieringar som görs genom att en specifik text läses upp, eller att Elevenlabs manuellt verifierar alla förfrågningar.
Läs också: Kinesiska sötmotorn Baidu ska släppa Chat GPT-konkurrent i mars
