OpenAI heeft geen nieuwe Voice Deepfake-technologie uitgebracht om risico's te vermijden: de verschijning van nieuwe technologie onthuld

OpenAI, een toonaangevend technologiebedrijf gevestigd in San Francisco, heeft een geavanceerde software voor het klonen van stemmen ontwikkeld, genaamd Voice Engine. Deze technologie kan ieders stem in slechts 15 seconden repliceren op basis van een opname van het gesprek. Ondanks de indrukwekkende mogelijkheden heeft OpenAI ervoor gekozen het niet aan het publiek vrij te geven vanwege het hoge potentiële risico dat gepaard gaat met misbruik, vooral tijdens verkiezingsjaren in verschillende landen.

Het bedrijf erkent de ernstige risico's die gepaard gaan met het produceren van een stem die lijkt op die van een specifiek individu, vooral in de context van verkiezingen. Hoewel ze van plan zijn gebruikers een vroege preview te bieden, zal de technologie op dit moment niet op grote schaal worden vrijgegeven vanwege zorgen over mogelijk misbruik. De autoriteiten in New Hampshire onderzoeken momenteel duizenden geautomatiseerde oproepen die voorafgaand aan de presidentsverkiezingen naar kiezers zijn gestuurd en waarbij gebruik werd gemaakt van door kunstmatige intelligentie gegenereerde stemmen om president Joe Biden te imiteren.

Hoewel sommige startende bedrijven technologie voor het klonen van stemmen hebben verkocht, zorgt OpenAI ervoor dat vroege gebruikers van Voice Engine ermee hebben ingestemd iemand niet te imiteren zonder hun toestemming en te onthullen dat het resulterende geluid kunstmatige intelligentie is. OpenAI, bekend om zijn chatbots en DALL-E-beeldgeneratoren, heeft vergelijkbare plannen voor Voice Engine als bij eerdere aankondigingen, maar heeft deze niet breed uitgebracht.

Niettemin suggereert een merkapp die op 19 maart werd ingediend dat OpenAI waarschijnlijk de markt voor spraakherkenning en digitale stemassistenten wil betreden. Deze technologische vooruitgang zou OpenAI kunnen positioneren als concurrent van andere spraakproducten zoals Alexa van Amazon.