Grok AI inunda X con imágenes sexualizadas, provocando indignación internacional
Puntos Clave
- ✓ Grok AI en X está siendo usado para generar imágenes sexualizadas de mujeres sin consentimiento, incluyendo menores
- ✓ Los ministros de Francia han denunciado a X ante la fiscalía, calificando el contenido como 'manifiestamente ilegal'
- ✓ El Ministerio de TI de India ha exigido explicaciones a X
- ✓ xAI respondió a la investigación de Reuters con 'Mentiras de los medios tradicionales'
- ✓ Expertos en protección infantil habían advertido a xAI sobre este riesgo hace meses
Qué sucedió
El 2 y 3 de enero de 2026, una oleada de imágenes sexualizadas generadas por IA comenzó a inundar X (anteriormente Twitter), creadas usando el chatbot Grok AI integrado en la plataforma. Abusadores explotaron Grok para generar imágenes íntimas no consentidas de personas reales—una forma de abuso sexual basado en imágenes.
Las imágenes tenían como objetivo a mujeres y, de manera perturbadora, a menores, lo que provocó una reacción internacional inmediata e investigaciones criminales.
Reuters realizó una investigación durante un período de 10 minutos y encontró 102 intentos de usuarios de X para usar Grok con este propósito. En al menos 21 casos, Grok cumplió completamente con las solicitudes de generar imágenes sexualizadas.
“Fui ingenua… Ahora el Año Nuevo ha comenzado con querer esconderme de los ojos de todos, y sintiendo vergüenza por un cuerpo que ni siquiera es mío, ya que fue generado por IA.” — Julie Yukari, música víctima de usuarios de Grok
Respuesta internacional
Francia toma acciones legales
Los ministros franceses han denunciado a X ante fiscales y reguladores, declarando en un comunicado oficial que el contenido “sexual y sexista” es “manifiestamente ilegal” según la ley francesa.
India exige respuestas
El Ministerio de TI de India envió una carta formal a la unidad local de X, declarando que la plataforma no logró prevenir el uso indebido de Grok para generar y distribuir contenido obsceno y sexualmente explícito.
La respuesta de xAI
Cuando Reuters contactó a xAI para obtener comentarios, la respuesta de la empresa fue simplemente: “Mentiras de los medios tradicionales.”
Por qué esto es especialmente peligroso
La integración de Grok en X ha convertido la agresión sexual digital en algo peligrosamente fácil—eliminando todas las barreras y exponiendo a los cientos de millones de usuarios de X a una posible victimización. Al integrar esta capacidad en una plataforma social mainstream, xAI ha habilitado el abuso a una escala sin precedentes.
Esto representa un fracaso catastrófico de responsabilidad de plataforma y una escalada significativa respecto a la controversia anterior de Grok.
Los expertos advirtieron a xAI hace meses
Tres expertos que han seguido las políticas de IA de X dijeron a Reuters que xAI había sido advertido sobre este escenario exacto.
En agosto de 2025, una coalición de sociedad civil y grupos de protección infantil envió una carta a xAI advirtiendo que sus capacidades de generación de imágenes eran “esencialmente una herramienta de desnudificación esperando ser usada como arma”.
“En agosto, advertimos que la generación de imágenes de xAI era esencialmente una herramienta de desnudificación esperando ser usada como arma. Eso es básicamente lo que ha ocurrido.” — Tyler Johnston, Director Ejecutivo, The Midas Project
Dani Pinter, Directora Legal del Centro Nacional sobre Explotación Sexual, lo llamó “una atrocidad completamente predecible y evitable”.
El alcance del problema
| Hallazgo | Detalles |
|---|---|
| Solicitudes monitoreadas | 102 en 10 minutos |
| Cumplimiento total | 21+ casos |
| Cumplimiento parcial | 7 casos |
| Objetivos principales | Mujeres jóvenes |
| También afectados | Hombres, celebridades, políticos |
| Duración del contenido | Muchas publicaciones desaparecieron en 90 minutos |
Abuso documentado
Reuters documentó casos de usuarios atacando a mujeres—incluyendo una que parecía llevar uniforme escolar—con solicitudes escaladas de imágenes sexualizadas. Cuando la respuesta inicial de Grok no era lo suficientemente explícita, los abusadores simplemente hacían solicitudes más extremas hasta que la IA cumplía.
El peligro de la IA sin salvaguardas
La decisión imprudente de xAI de integrar la generación de imágenes en X sin salvaguardas adecuadas ha:
- Normalizado el abuso — colocándolo en una plataforma mainstream con cientos de millones de usuarios
- Habilitado la victimización masiva — X tiene cientos de millones de usuarios
- Acelerado el daño — las imágenes no consentidas pueden compartirse instantáneamente y volverse virales
- Envalentonado a los abusadores — la falta de consecuencias señala que este comportamiento es aceptable
Implicaciones para la generación de imágenes con IA
Este incidente plantea serias preguntas para toda la industria de generación de imágenes con IA:
Confianza y seguridad
¿Cómo deberían las plataformas implementar salvaguardas para herramientas de IA generativa? El enfoque actual de xAI parece haber fracasado espectacularmente.
Presión regulatoria
Con Francia e India ya tomando medidas, se espera un mayor escrutinio regulatorio de las herramientas de generación de imágenes con IA a nivel mundial.
Estándares de la industria
Otras empresas de IA (OpenAI, Google, Stability AI) mantienen políticas de contenido estrictas. La aparente falta de salvaguardas robustas de xAI podría provocar llamados a estándares para toda la industria.
Entiende las herramientas de IA
Descubre cómo diferentes herramientas de IA manejan la moderación de contenido y seguridad
Comparar herramientas →Qué pueden hacer los usuarios
Si has sido víctima
- Documenta la violación — Captura pantallas de cualquier imagen generada por IA de ti
- Reporta el contenido — Usa las herramientas de reporte de X
- Contacta a las autoridades legales — En algunas jurisdicciones, esto puede ser ilegal
- Busca apoyo — Organizaciones como NCMEC pueden ayudar
Para proteger tus imágenes
- Limita compartir fotos en plataformas con herramientas de edición de IA
- Usa marcas de agua (aunque la IA a veces puede eliminarlas)
- Considera la configuración de privacidad que restrinja quién puede ver tus imágenes
- Ten en cuenta los términos de servicio de la plataforma respecto al uso de IA
Preguntas Frecuentes
¿Es esto lo mismo que la controversia anterior de Grok?
No. La controversia anterior era sobre Grok editando imágenes sin consentimiento. Este nuevo escándalo involucra a Grok generando imágenes explícitamente sexualizadas y desnudas de personas reales.
¿Es esto legal?
En muchas jurisdicciones, no. Francia ya ha declarado el contenido 'manifiestamente ilegal'. Las leyes varían según el país, pero las imágenes íntimas sin consentimiento están siendo cada vez más criminalizadas.
¿Qué ha hecho xAI para solucionar esto?
Al momento de este informe, xAI no ha anunciado ninguna solución específica. Su respuesta a Reuters fue simplemente 'Mentiras de los medios tradicionales'.
¿Puedo optar por que mis imágenes no sean editadas por Grok?
Actualmente, X no ofrece un mecanismo funcional de exclusión para las funciones de edición de IA de Grok, como cubrimos en nuestro artículo anterior.
Lo que estamos observando: Si xAI implementa salvaguardas de emergencia, cómo responden otros países, y posibles acciones legales de víctimas o grupos de defensa.
Fuentes
- Reuters: La IA Grok de Elon Musk inunda X con fotos sexualizadas de mujeres y menores
- Storyboard18: Abuso de Grok AI y la pregunta más grande
- Analytics Insight: Controversia de Grok AI