OpenAI, het bedrijf achter de AI-tool ChatGPT, heeft een tool voorgesteld die moet toelaten dat stemmen worden gekloond. Het bedrijf laat wel weten dat de tool met een rits beperkingen komt die moeten vermijden dat er misbruik van wordt gemaakt.
OpenAI lanceert tool waarmee stemmen kunnen worden gekloond
De tool, die de naam 'Voice Engine' kreeg, kan op basis van een opname van 15 seconden een stem nabootsen.
"We erkennen dat de mogelijkheid om stemmen te genereren die lijken op die van personen, serieuze risico's met zich meebrengt, zeker in een verkiezingsjaar", stelt het bedrijf.
Expliciete toestemming
OpenAI zegt voor een "voorzichtige en geïnformeerde aanpak" te zijn gegaan. Zo is er een expliciete toezegging nodig van de persoon wiens stem wordt gekloond en moet er duidelijk vermeld worden dat de stem door AI werd gegenereerd. Daarnaast krijgt elk product ook een watermerk mee.
Tijdens de Democratische voorverkiezingen in New Hampshire was er nog ophef ontstaan nadat een AI-versie van Joe Biden had opgeroepen om niet naar de stembus te trekken. In de nasleep daarvan nam de Amerikaanse overheid regelgeving aan die door AI-gegenereerde telefoongesprekken verbiedt.
