OpenAI, ondersteund door Microsoft, heeft onlangs een nieuwe tool voor het klonen van stemmen geïntroduceerd, genaamd Voice Engine. Deze tool heeft de mogelijkheid om de stem van een persoon te repliceren met behulp van slechts 15 seconden opgenomen spraak. Ondanks deze vooruitgang heeft OpenAI echter besloten de technologie nog niet vrij te geven. De reden voor dit besluit is de mogelijkheid van misbruik, vooral tijdens de komende verkiezingen in meer dan twintig landen over de hele wereld.

In een persbericht heeft OpenAI uitdrukking gegeven aan het bewustzijn van de risico's die aan deze technologie zijn verbonden, vooral tijdens verkiezingsperioden. Recente incidenten, zoals door AI gegenereerde robocalls waarin president Biden wordt nagebootst tijdens de voorverkiezingen in New Hampshire, hebben tot bezorgdheid geleid. Het bedrijf werkt samen met verschillende Amerikaanse en internationale partners, waaronder overheidsinstanties, mediakanalen en maatschappelijke organisaties, om feedback te verzamelen en een verantwoorde inzet van de technologie te garanderen.

OpenAI onderscheidt zich van anderen op het gebied van stemklonen door prioriteit te geven aan ethische overwegingen. Testers van Voice Engine moeten strikte richtlijnen volgen, zoals het verkrijgen van toestemming voordat ze zich voordoen als iemand en het onthullen dat de stemmen kunstmatig zijn gegenereerd. Dit komt overeen met OpenAI's benadering van andere tools, zoals de nog niet uitgebrachte tool voor het genereren van video's, Sora.

Hoewel Voice Engine nog niet beschikbaar is voor het publiek, suggereert de handelsmerkaanvraag van OpenAI toekomstige plannen om uit te breiden naar spraakherkenning en mogelijk een digitale stemassistent te ontwikkelen. Deze stap zou OpenAI kunnen positioneren als concurrent op een markt die momenteel wordt gedomineerd door producten als Alexa van Amazon.