Congres staat onder toenemende druk om de kwestie van deepfake-porno aan te pakken

Laurie Segall, CEO van Mostly Human Media, uit zijn bezorgdheid over de toenemende prevalentie van door AI gegenereerde pornografie en de moeilijkheid om daders te identificeren en ter verantwoording te roepen. Ze maakt zich zorgen dat de democratisering van deze apps een compleet nieuwe arena voor misbruik creëert, omdat het nu gemakkelijker dan ooit is om dit soort schadelijke inhoud te creëren en te verspreiden. Segall maakt zich vooral zorgen over de impact op potentiële slachtoffers en het voortbestaan ​​van een nieuwe generatie misbruikers.

Segall gelooft dat het voor slachtoffers als Taylor Swift een uitdaging zal zijn om de daders achter de distributie van door AI gegenereerde pornografische inhoud op te sporen. Ze wijst erop dat gebruikers met deze apps deze afbeeldingen met slechts een paar klikken kunnen maken, waardoor het nog moeilijker wordt om deze op te sporen en te voorkomen. Deze toegankelijkheid is een reden tot zorg, omdat het niet alleen een nieuwe groep slachtoffers creëert, maar ook een nieuwe generatie misbruikers en jonge mannen in stand houdt, die misschien niet begrijpen wat de werkelijke schade is die hun daden veroorzaken.

Over het geheel genomen is de grootste zorg van Segall dat het wijdverbreide gebruik van deze apps zal resulteren in een nieuwe golf van slachtoffers en daders, die zal bijdragen aan de normalisering van schadelijk gedrag en het voortduren van misbruik. Ze benadrukt de urgentie om dit probleem aan te pakken en stappen te ondernemen om verdere schade te voorkomen.