Estados Unidos.- Imágenes manipuladas y sexualmente explícitas de Taylor Swift, generadas por inteligencia artificial, circularon en diversas plataformas de redes sociales esta semana, generando malestar entre sus seguidores y reactivando las demandas de legisladores para proteger a las mujeres y tomar medidas contra las plataformas y tecnologías que diseminan este tipo de contenido.
A pesar de los esfuerzos de la plataforma X para eliminar las imágenes, los fanáticos de la cantante inundaron la plataforma en protesta. Utilizando palabras clave relacionadas y la frase Protect Taylor Swift, intentaron dificultar la búsqueda de las imágenes explícitas.
Reality Defender, una empresa de ciberseguridad especializada en la detección de inteligencia artificial, indicó con un 90 por ciento de confianza que las imágenes fueron generadas mediante un modelo de difusión, una tecnología impulsada por inteligencia artificial accesible a través de más de 100,000 aplicaciones y modelos de libre acceso, según Ben Colman, cofundador y director ejecutivo de la empresa.
Se informa que Taylor Swift está considerando emprender acciones legales contra el sitio Celeb Jihad, conocido por alojar pornografía deepfake. La cantante se convierte así en el último objetivo del sitio, que viola leyes estatales sobre pornografía y desafía los esfuerzos de los escuadrones de delitos cibernéticos.
Una fuente cercana a Swift comentó: “Se está evaluando la posibilidad de emprender acciones legales, pero una cosa está clara: estas imágenes falsas generadas por inteligencia artificial son abusivas, ofensivas y explotadoras, realizadas sin el consentimiento ni la autorización de Taylor”.
Un análisis realizado por la investigadora independiente Genevieve Oh en diciembre de 2023 reveló que se publicaron en línea más de 143,000 nuevos videos deepfake, una cifra que supera la suma de todos los años anteriores.
El problema se agrava por la difusión de estas imágenes por parte de trolls en redes sociales. Un portavoz de Meta declaró que este contenido viola sus políticas y será eliminado, y que tomarán medidas contra las cuentas que lo publiquen.
A la par, el congresista demócrata Joe Morelle recientemente presentó un proyecto de ley para prohibir sitios web de este tipo, expresando la necesidad de establecer salvaguardias ante la rápida evolución de la tecnología de inteligencia artificial.
Con el auge del sector de la inteligencia artificial, las empresas se han apresurado a lanzar herramientas que permiten a los usuarios crear imágenes, videos, textos y grabaciones de audio con instrucciones simples. Las herramientas de IA son muy populares, pero han hecho que sea más fácil y barato que nunca crear estas imágenes, que representan a personas haciendo o diciendo cosas que nunca han hecho.
Los investigadores ahora temen que los deepfake se estén convirtiendo en una poderosa fuerza de desinformación en X, mismo que al eliminar la reglamentación que existía en la red social con la compra de Musk, ha experimentado un aumento en el contenido de acoso, desinformación y discurso de odio.
