La pornografía deepfake no consensuada de Taylor Swift se volvió viral en X esta semana, con una publicación que obtuvo más de 45 millones de visitas, 24,000 reposts y cientos de miles de likes antes de ser eliminada.
La estrella del pop tiene una de las bases de fans más dedicadas, extremadamente activas e incomparablemente masivas del mundo. Ahora, los Swifties buscan venganza.
Cuando los mega-fandoms se organizan, son capaces de cosas inmensas, como cuando los fans de K-pop reservaron cientos de boletos para un mitin de Donald Trump en un intento de reducir el número de asistentes. A medida que se acerca la elección presidencial de 2024 en EE. UU., algunos expertos incluso han teorizado sobre el poder de los Swifties como un bloque de votantes.
Pero hoy no es el día de las elecciones, y los Swifties se centran en algo más inmediato: hacer que los deepfakes no consensuados de la músico sean lo más difíciles de encontrar posible. Ahora, al buscar términos como «taylor swift ai» o «taylor swift deepfake» en X, encontrarás miles de publicaciones de fans tratando de sepultar el contenido generado por IA. En X, la frase «PROTEGER A TAYLOR SWIFT» ha estado en tendencia con más de 36,000 publicaciones.
A veces, estas campañas impulsadas por los fans pueden cruzar una línea. Mientras algunos fans se animan mutuamente a doxear a los usuarios de X que circularon los deepfakes, otros se preocupan por combatir el acoso con más acoso, especialmente cuando el presunto perpetrador tiene un nombre relativamente común, y en algunos casos, los Swifties podrían estar yendo tras la persona equivocada. Con tantos miles de fans participando en la causa, es inevitable que no todos los Swifties formen parte del mismo frente unificado, y algunos están más en sintonía con la era «Reputation» que otros.
Con el aumento de las herramientas de IA generativa accesible, esta táctica de acoso se ha vuelto tan generalizada que el año pasado, el FBI y los cuerpos de seguridad internacionales emitieron un comunicado conjunto sobre la amenaza de la sextorsion. Según una investigación de la empresa de ciberseguridad Deeptrace, alrededor del 96% de los deepfakes son pornográficos, y casi siempre presentan a mujeres.
«La pornografía deepfake es un fenómeno que exclusivamente ataca y perjudica a las mujeres», dice el informe. Este abuso incluso se ha filtrado en las escuelas, donde las niñas menores de edad han sido objeto de deepfakes no consensuados y explícitos por parte de sus compañeros de clase. Entonces, para algunos fans de Taylor Swift, no se trata solo de proteger a la estrella. Se dan cuenta de que estos ataques pueden sucederles a cualquiera de ellos, no solo a las celebridades, y que tienen que luchar para establecer el precedente de que este comportamiento es intolerable.
«Ahora ella está recibiendo el golpe por todos nosotros», dijo un usuario de TikTok llamado LeAnn en un video instando a los usuarios a defender a Swift. «Al protegerla, te estarás protegiendo a ti mismo y a tus hijas».
Según 404 Media, las imágenes se originaron en un chat de Telegram dedicado a crear imágenes explícitas y no consensuadas de mujeres utilizando IA generativa. El grupo dirige a sus usuarios a generar deepfakes de IA en Designer de Microsoft; aunque este tipo de contenido viola la política de Microsoft, su IA sigue siendo capaz de crearlo, y los usuarios han creado soluciones simples para evadir las herramientas de seguridad básicas.
Microsoft y X no respondieron a la solicitud de comentarios antes de la publicación.
El Congreso está logrando avances legislativos para criminalizar los deepfakes no consensuados. Virginia ha prohibido la pornografía de venganza deepfake, y la representante Yvette Clarke (D-NY) reintrodujo recientemente el DEEPFAKES Accountability Act, que propuso por primera vez en 2019. Aunque los críticos se preocupan por la dificultad de legislar en los rincones oscuros de la web, algunos dicen que el proyecto de ley al menos podría instituir algún precedente legal de protección contra este abuso.
Los fans de Swift también llamaron la atención sobre los fracasos de Ticketmaster, la megaempresa de entretenimiento que también es propietaria de Live Nation. En una declaración particularmente memorable, la presidenta de la FTC, Lina Khan, dijo el año pasado que la experiencia desastrosa de comprar boletos para el tour Eras de Swift «terminó convirtiendo a más personas de la generación Z en antimonopolistas de la noche a la mañana que cualquier cosa que yo pudiera haber hecho».
Esta campaña de abuso es emblemática de los problemas con el rápido ascenso de la IA: las empresas están construyendo demasiado rápido para evaluar adecuadamente los riesgos de los productos que están enviando. Entonces, tal vez los fans de Taylor Swift asumirán la lucha por una regulación reflexiva de los productos de IA de rápido desarrollo, pero si se necesita una campaña de acoso masivo contra una celebridad para que los modelos de IA no probados enfrenten algún tipo de escrutinio, entonces eso es un problema completamente diferente.
