Microsoft y X toman medidas
El incidente de Taylor Swift
Durante el fin de semana, la cantante norteamericana Taylor Swift se convirtió en víctima de imágenes de índole sexual creadas mediante inteligencia artificial. Estas imágenes, conocidas como deepfakes, se viralizaron en la red social X, anteriormente conocida como Twitter.
El papel de Microsoft
Las imágenes fueron generadas con la ayuda de Designer, una herramienta de Microsoft que puede crear imágenes a partir de una breve descripción de texto. Aunque Microsoft no ha confirmado que las imágenes se crearon en su plataforma, ha decidido limitar la herramienta para prevenir la creación de contenido de este tipo. Para ello, la empresa ha prohibido el uso de palabras explícitas en las descripciones.
¿Fueron las deepfakes de Taylor Swift creadas con Designer?
Según 404 Media, las imágenes virales de Taylor Swift fueron producidas por IA utilizando Designer. Las imágenes aparecieron por primera vez en un foro de 4chan y un canal de Telegram, donde se propagaban imágenes explícitas creadas con inteligencia artificial. 404 Media envió un informe a Microsoft demostrando que las imágenes provenían de Designer. La respuesta de Microsoft fue que estaban “tomando las medidas adecuadas” para prevenir que esto vuelva a ocurrir.
X limita las búsquedas de Taylor Swift
Debido a la viralización de las imágenes de Taylor Swift en X, la plataforma decidió limitar ciertas búsquedas para evitar la propagación de las deepfakes de la cantante. Esta es una medida temporal, pero no se sabe cuándo se reactivará la búsqueda de contenido de la cantante en la plataforma.
Además, X ha eliminado las imágenes de IA hechas con el rostro de la cantante, así como las de otros personajes que también se propagaron en la red social.
La situación en Telegram
En el canal de Telegram donde se obtuvieron las imágenes de Taylor Swift, ahora circulan imágenes genéricas de IA. Sin embargo, 404 Media confirma que, a pesar de las medidas tomadas por Microsoft y X, en el canal continúan propagándose imágenes explícitas de famosos creadas con inteligencia artificial.
