Desde la llegada de la generación de imágenes con IA, ya hemos visto como la pornografía se ha disparado online, sobretodo en torno a mujeres famosas. En este caso, la famosa cantante norteamericana Taylor Swift ha sufrido un deepfake mediante la IA que se ha compartido en redes sociales como X. Pero ha sido tal la repercusión que hasta la plataforma de Elon Musk o Microsoft han tomado acciones drásticas. Te contamos todo sobre este sorprendente caso.
Las fotos deepfake porno de Taylor Swift
Prácticamente todo el planeta conoce a Taylor Swift. Es por esto que los creadores de las imágenes pornograficas con IA han decidido aprovecharse de su imagen. La cantante estadounidense se ha visto envuelta en una polémica en las redes sociales tras la difusión de imágenes sexualmente explícitas generadas por inteligencia artificial, conocidas como deepfakes porno. A pesar de la rápida acción de la plataforma X (anteriormente Twitter) para eliminar la cuenta que compartió estas imágenes, el contenido circuló durante casi un día, desatando preocupaciones sobre la propagación de contenido falso y dañino. La situación ha llevado a Swift a considerar acciones legales contra la web que publicó inicialmente las imágenes. Este incidente no es aislado y se suma a otros casos donde tanto celebridades como personas anónimas han sido víctimas de manipulaciones digitales. En España, menores en Almendralejo y la cantante Rosalía han enfrentado situaciones similares, mientras que en México, la difusión de imágenes falsas generó protestas en el Instituto Politécnico Nacional.
Las imágenes de Swift podrían haberse originado en un grupo de Telegram que comparte contenido explícito generado por IA. El usuario señalado como el primero en difundir los deepfakes en X, ha tenido que privatizar su cuenta tras la reacción de las seguidoras de Swift. La legión de fans autodenominadas “Swifties” ha contraatacado usando el hashtag “Taylor Swift IA” para promover contenido real de la cantante y combatir las falsificaciones. El problema de los deepfakes porno resalta una preocupante normalización de este tipo de contenido entre algunos hombres, según un estudio en EE. UU. que muestra que el 48% de los hombres encuestados ha visto este tipo de pornografía, y el 74% no se siente culpable por ello. Además, el 20% ha considerado aprender a crear su propia pornografía IA. Este fenómeno plantea serios desafíos éticos y legales en la lucha contra la difusión de contenido falso y perjudicial en línea. Ya hemos visto herramientas como Clothoff que están proliferando.
Las acciones de Twitter (X) y Microsoft
Ante lo sucedido, muchos han cargado contra X, la plataforma X de Elon Musk que desde hace unos meses ha relajado considerablemente la moderación de su contenido. No solo se comparten todo tipo de contenidos pornograficos en esta red, sino que también videos con violencia explicita y proclamas racistas o sexistas. Con el objetivo de solventar la situación en torno a Taylor Swift, X optó por detener las búsquedas de «Taylor Swift» tras la viralización de imágenes pornográficas generadas por IA. Este acto de moderación marca uno de los esfuerzos más notables de X por controlar el contenido desde la adquisición de Musk, quien ha defendido la «libertad de expresión» en la plataforma. La situación escaló cuando una publicación alcanzó más de 45 millones de visualizaciones, provocando una reacción adversa de los seguidores de Swift y llevando a X a bloquear cuentas y eliminar las publicaciones más difundidas. Pero lo cierto es que pese a las acciones de X, el daño ya estaba hecho ya que las imágenes circularon libremente durante más de 24 horas.
La Casa Blanca, a través de Karine Jean-Pierre, expresó su preocupación por el incidente, calificándolo de «alarmante». Microsoft, cuya herramienta Designer fue identificada como la fuente de las imágenes, ha implementado nuevas protecciones para prevenir el mal uso. Mientras tanto, la asistencia de Swift a un juego de la NFL, acompañando a Travis Kelce, desvió la atención hacia su presencia en eventos deportivos, aumentando las audiencias de la NFL. En respuesta al escándalo, X anunció la contratación de 100 moderadores de contenido adicionales y la mejora de sus sistemas de moderación. El sindicato SAG-AFTRA y la propia Swift han condenado la creación y difusión de contenido pornográfico sin consentimiento, destacando la creciente preocupación sobre el abuso de la tecnología de IA para generar pornografía de venganza. El incidente ha demostrado la incapacidad de las grandes plataformas para ponerle freno a este tipo de contenido, que por desgracia cada vez es más frecuente.
You can't search for "Taylor Swift" on X! pic.twitter.com/yAR0YZAsdX
— Nima Owji (@nima_owji) January 27, 2024
