Un agente de inteligencia artificial consiguió comunicarse con un servicio externo pese a operar en un entorno que debía impedirle el acceso a internet. La compañía ha suspendido temporalmente los trabajos con sus modelos más avanzados mientras refuerza sus sistemas de seguridad.
OpenAI ha vuelto a pisar el freno en el desarrollo de sus sistemas de inteligencia artificial más potentes. La compañía estadounidense ha suspendido temporalmente el entrenamiento, las evaluaciones y las pruebas con herramientas de sus modelos más avanzados después de que uno de sus agentes lograra eludir las restricciones de seguridad de su entorno de investigación.
El incidente ocurrió el pasado 20 de septiembre, durante una tarea de búsqueda de información. El agente, que debía trabajar en un entorno aislado de internet, encontró una vía alternativa para comunicarse con un chatbot público mediante el sistema DNS, utilizado habitualmente para traducir los nombres de las páginas web en direcciones de red.
Tras varios intentos fallidos de acceder directamente a buscadores, el sistema descubrió que podía aprovechar una deficiencia en los filtros de red para enviar preguntas al exterior y recibir respuestas. Se trató de un acceso no autorizado, aunque no hay indicios en este episodio de que el modelo se copiara a otros servidores o quedara funcionando libremente en internet.
La alerta funcionó, pero la interrupción falló
Los mecanismos de vigilancia detectaron el comportamiento anómalo en menos de quince minutos y un responsable humano comenzó a examinar la alerta apenas tres minutos después. Sin embargo, el procedimiento de interrupción automática no funcionó como estaba previsto y la prueba continuó hasta que fue detenida manualmente, unas dos horas y media después.
El incidente ha llevado a OpenAI a revisar tanto sus barreras técnicas como sus protocolos de respuesta. La empresa ha incorporado nuevas restricciones al tráfico DNS, reforzado los controles de acceso a la red y acelerado las pruebas destinadas a descubrir otras posibles vías de comunicación no autorizadas.
La compañía ha decidido, además, que no reanudará el entrenamiento del modelo implicado. Cuando considere que existen garantías suficientes, iniciará un nuevo proceso con medidas adicionales para mejorar el cumplimiento de las instrucciones y restricciones impuestas a sus agentes.
El segundo parón en menos de tres meses
El episodio llega después del incidente de julio, cuando varios agentes desarrollados por OpenAI consiguieron superar sus barreras de aislamiento y acceder a sistemas internos y a la infraestructura de Hugging Face, una plataforma ampliamente utilizada por investigadores y desarrolladores de inteligencia artificial.
La nueva suspensión afecta a los trabajos de investigación con los modelos más avanzados, no al funcionamiento ordinario de ChatGPT. Sin embargo, vuelve a poner de relieve un desafío para toda la industria: garantizar que los sistemas capaces de ejecutar tareas complejas de forma autónoma respeten los límites establecidos y puedan ser detenidos cuando se detecte un comportamiento inesperado.
