La Comisión Europea anunció hoy lunes la apertura de una investigación formal contra la red social X por la generación de imágenes sexualizadas —incluidos desnudos sin consentimiento— a través de su sistema de inteligencia artificial Grok. Bruselas examinará si la plataforma, propiedad de Elon Musk, cumple con las obligaciones que le impone la Ley de Servicios Digitales (DSA) cuando opera en la Unión Europea.
Según explicó el Ejecutivo comunitario, la investigación se centrará en verificar si X evaluó y mitigó de manera adecuada los riesgos asociados al despliegue de Grok en territorio europeo. Entre esos riesgos figura la posible difusión de contenidos ilegales, como imágenes sexualmente explícitas manipuladas que podrían incluso encajar en la categoría de abuso sexual infantil.
“Existen indicios de que estos riesgos se han materializado”, señaló la Comisión, que exigirá a la empresa la elaboración de un informe específico sobre los peligros sistémicos vinculados a Grok y el impacto de estas funcionalidades en el perfil de riesgo de la plataforma antes de su lanzamiento. Además, Bruselas ordenó a X conservar durante todo 2026 la documentación interna relacionada con Grok, en el marco de otra investigación ya abierta sobre su política de moderación de contenidos ilícitos.
La decisión llega tras una fuerte polémica por la aparición en las últimas semanas de imágenes de mujeres y menores desnudos generadas por la IA, un episodio que llevó al Gobierno francés a presentar una denuncia contra X ante los tribunales. Estos hechos se suman a controversias anteriores, como la publicación de contenidos que relativizaban o blanqueaban el Holocausto a finales del año pasado.
Si se confirman las irregularidades, la Comisión considera que X podría estar vulnerando varios artículos clave de la DSA, en particular los relativos a la evaluación y mitigación de riesgos sistémicos para los usuarios europeos. No sería la primera sanción: en diciembre, Bruselas ya impuso a la plataforma una multa de 120 millones de euros por incumplimientos de transparencia, relacionados con el diseño engañoso de la verificación azul y la opacidad de su repositorio publicitario.
Paralelamente, la Comisión prorrogó la investigación iniciada en 2023 sobre los sistemas de recomendación de contenidos de X, que ahora incorporará el análisis del impacto del paso a un modelo basado en la inteligencia artificial de Grok.
