El Gobierno francés ha decidido judicializar el uso de la inteligencia artificial generativa Grok, integrada en la red social X, tras constatar la difusión de contenidos sexistas y de carácter sexual generados sin consentimiento. La iniciativa marca un paso relevante en la relación entre poder público y plataformas digitales.
El Ejecutivo sostiene que, en las últimas semanas, la herramienta permitió crear imágenes y vídeos falsos de mujeres a partir de simples solicitudes de usuarios, un fenómeno que se intensificó a finales de diciembre. La proliferación de estos materiales, incluidos deepfakes, activó los mecanismos legales previstos en el Código Penal francés y derivó en una denuncia formal ante la Justicia y ante Pharos, el organismo encargado de verificar contenidos ilícitos en línea.
Más allá del caso concreto, la decisión subraya una línea política clara. Internet queda sujeto a la ley y la innovación tecnológica no exime de responsabilidades. Para París, los delitos sexuales en el entorno digital reciben el mismo tratamiento que en el mundo físico, sin excepciones por tratarse de sistemas automatizados.
En paralelo, el Gobierno solicitó a Arcom que examine si X ha cumplido las obligaciones del Reglamento de Servicios Digitales de la Unión Europea, en particular las relacionadas con la prevención y retirada de contenidos ilícitos. El movimiento sitúa el debate en el terreno europeo y anticipa un mayor escrutinio sobre las IA integradas en grandes plataformas.
El caso abre una cuestión de fondo. La velocidad de despliegue de la IA generativa contrasta con la necesidad de garantías efectivas para los derechos individuales. Francia opta por una respuesta jurídica que busca fijar límites claros y trasladar un mensaje al conjunto del ecosistema digital.
