Los usuarios de Grok generaron tres millones de imágenes sexualizadas en X en 11 días
Los datos son tan precisos como alarmantes. En solo once días, entre el 29 de diciembre y el 8 de enero, los usuarios de Grok, la herramienta de inteligencia artificial integrada en la red social X, generaron alrededor de tres millones de imágenes sexualizadas. Al menos 23.000 de ellas representaban a menores. Así lo concluye un estudio elaborado por el Centro para Contrarrestar el Odio Digital (CCCDH), publicado este jueves junto a The New York Times.
El informe se basa en el análisis de una muestra de 20.000 imágenes extraídas de un total de 4,6 millones publicadas en X durante ese periodo. Según los investigadores, la velocidad de producción fue constante y elevada: una imagen sexualizada cada 41 segundos durante once días consecutivos. En el caso de los menores, la extrapolación arroja una media de 190 imágenes por minuto.
El detonante se produjo el 31 de diciembre, cuando Elon Musk pidió públicamente a Grok que generara una imagen suya en bikini y la compartió en su propia plataforma. Ese gesto evidenció para los usuarios que la herramienta permitía desnudar digitalmente a personas reales. Solo ese día, Grok generó cerca de 600.000 imágenes, marcando el inicio de un uso masivo con fines sexuales.
A partir de ese momento, la plataforma se llenó de imágenes manipuladas de mujeres sin su consentimiento. El análisis identifica a figuras públicas como la viceprimera ministra sueca Ebba Busch, así como a celebridades internacionales como Taylor Swift, Selena Gómez, Billie Eilish, Ariana Grande o Kamala Harris. Sin embargo, el fenómeno no se limitó a personas conocidas: usuarias anónimas también fueron objeto de este tipo de contenidos.
Menores sexualizados y contenido aún accesible
El aspecto más grave del informe es la presencia de menores. En la muestra manual de 20.000 imágenes, los investigadores identificaron 101 representaciones sexualizadas de niños y adolescentes. Proyectado al conjunto total, la cifra asciende a 23.338 imágenes. Algunas de ellas mostraban a menores reales transformados digitalmente en bikinis o poses sexualizadas a partir de fotografías cotidianas, como selfis escolares.
Además, el CCCDH señala que el 29% de las imágenes de menores sexualizados seguían siendo públicamente accesibles en X el 15 de enero, varios días después de que la empresa anunciara las primeras restricciones al uso de Grok. Entre los ejemplos citados figuran imágenes de grupos de menores en microbikinis y de actores infantiles convertidos en contenido sexual.
Reacción tardía de la plataforma
Durante esos once días, X permitió la generación y difusión masiva de estas imágenes pese a las denuncias de usuarias y organizaciones de derechos digitales. No fue hasta el 8 de enero cuando la plataforma limitó el acceso a Grok a usuarios de pago y, días después, introdujo restricciones técnicas más severas para impedir este tipo de usos.
Para entonces, el contenido ya se había propagado fuera de la plataforma. Según los expertos, se trata de la mayor acumulación documentada de contenido sexual generado por inteligencia artificial. Como referencia, uno de los mayores foros de deepfakes sexuales alojó en su momento unos 43.000 vídeos; Grok generó una cantidad setenta veces superior en menos de dos semanas.
Reacciones institucionales e investigaciones abiertas
El caso ha provocado reacciones políticas y legales. La presidenta de la Comisión Europea, Ursula von der Leyen, expresó su alarma ante la posibilidad de que una plataforma permitiera la desnudez digital de mujeres y menores. En España, el Ministerio de Juventud e Infancia mostró su preocupación y la Fiscalía abrió una investigación. Indonesia y Malasia, por su parte, optaron por bloquear Grok de forma preventiva.
El episodio ha reabierto el debate sobre la responsabilidad de las plataformas y los límites de la inteligencia artificial generativa. Más allá de la innovación tecnológica, el caso de Grok plantea una cuestión central: qué ocurre cuando herramientas capaces de producir daño masivo operan sin controles eficaces y durante días críticos no se activa ningún freno. @mundiario
