La empresa china Moonshot AI ha abierto una investigación interna después de que expertos en ciberseguridad consiguieran vulnerar las protecciones de dos de sus modelos Kimi y obtener respuestas sobre armas biológicas y asesinatos. Las pruebas no demuestran que esas instrucciones fueran efectivas, pero vuelven a colocar en primer plano un problema creciente: los sistemas de inteligencia artificial son cada vez más capaces, mientras sus mecanismos de seguridad siguen pudiendo ser sorteados.
La nueva alerta procede de Kimi K2.6 y K3 Swarm, dos modelos desarrollados por Moonshot AI, una de las empresas que protagonizan el rápido avance de la inteligencia artificial china. Investigadores de Mindgard, especializada en evaluar la seguridad de sistemas de IA, descubrieron durante unas pruebas realizadas en julio que ambos modelos podían ser inducidos a ignorar las restricciones destinadas precisamente a impedir respuestas relacionadas con actividades peligrosas.
Los investigadores recurrieron a técnicas de jailbreaking, que consisten en construir secuencias de instrucciones específicamente diseñadas para intentar que una inteligencia artificial eluda sus propias salvaguardas. Una vez superadas esas barreras, los modelos respondieron a preguntas relacionadas con la fabricación de armas biológicas y la ejecución de asesinatos, ámbitos que deberían haber provocado automáticamente el rechazo del sistema.
Una vulnerabilidad, no un arma demostrada
El alcance del hallazgo requiere, sin embargo, una precisión esencial. Mindgard no ha demostrado que las indicaciones proporcionadas por Kimi permitan realmente fabricar un arma biológica ni que hayan sido utilizadas para hacerlo. Lo que las pruebas sí revelaron es que las barreras establecidas para impedir que el modelo entrara siquiera en ese tipo de conversaciones podían ser vulneradas.
La preocupación aumenta por las capacidades que están adquiriendo los nuevos agentes de IA. Los investigadores consideran que un Kimi K2.6 sometido con éxito a determinadas técnicas de jailbreak podría también ejecutar código y conectarse a internet utilizando los recursos informáticos disponibles para el modelo, lo que ampliaría el riesgo desde la generación de información peligrosa hasta posibles usos maliciosos en el ámbito digital.
Mindgard comunicó el problema a Moonshot AI a finales de julio y posteriormente hizo públicos sus hallazgos en septiembre sin revelar los detalles técnicos necesarios para reproducir el ataque. Moonshot ha iniciado ahora una revisión interna y mantiene conversaciones con los investigadores para estudiar lo ocurrido.
Moonshot revisa sus sistemas de seguridad
La compañía china sostiene que sus propias evaluaciones muestran una elevada tasa de rechazo cuando los usuarios plantean solicitudes de este tipo, pero reconoce al mismo tiempo la importancia de someter sus modelos a pruebas independientes. La investigación deberá determinar por qué las salvaguardas funcionaron en condiciones normales pero pudieron ser sorteadas mediante instrucciones especialmente elaboradas.
El episodio llega además en pleno ascenso de Kimi dentro de la carrera mundial por la IA. Moonshot compite en China con grupos como Alibaba, DeepSeek, Baidu y Tencent, en un mercado que está desarrollando modelos cada vez más capaces y agentes con mayor autonomía para ejecutar tareas complejas.
Un problema que trasciende a China
El caso Kimi no constituye un fenómeno exclusivamente chino. Laboratorios estadounidenses también han reconocido incidentes, vulnerabilidades e intentos de utilización maliciosa de sus modelos. Anthropic ha informado recientemente de intentos de emplear sistemas de IA en actividades que podrían contribuir al desarrollo de armas biológicas, mientras otras pruebas realizadas sobre agentes avanzados han detectado comportamientos inesperados al enfrentarse a determinadas tareas.
El problema de fondo empieza así a desplazarse desde lo que una IA puede responder hacia lo que un sistema autónomo puede llegar a hacer. A medida que los modelos adquieren capacidad para utilizar herramientas, escribir y ejecutar código, navegar por internet o coordinar varios agentes, una vulnerabilidad deja de ser únicamente una conversación peligrosa y puede convertirse en una puerta hacia acciones externas.
La seguridad corre detrás de las capacidades
La investigación sobre Kimi vuelve a plantear una cuestión que afecta a toda la industria: si las barreras actuales evolucionan suficientemente rápido para acompañar a unos modelos cuyas capacidades crecen a gran velocidad.
Las empresas desarrollan sistemas cada vez más potentes mientras investigadores especializados intentan romperlos antes de que lo hagan usuarios malintencionados. Ese juego permanente entre capacidad y seguridad se está convirtiendo en uno de los grandes desafíos de la inteligencia artificial.
El caso de Moonshot no demuestra que una IA pueda fabricar por sí sola un arma biológica. Sí muestra algo menos espectacular, pero igualmente relevante: incluso las prohibiciones incorporadas deliberadamente por sus creadores pueden dejar de funcionar cuando alguien encuentra la manera adecuada de ponerlas a prueba.
