Un equipo de ciberseguridad utilizó la inteligencia artificial de Anthropic para demostrar que una vulnerabilidad en una plataforma externa podía abrir la puerta a cuentas y servicios internos de OpenAI. La empresa corrigió el problema y pagó una recompensa de 6.500 dólares.
Un equipo de investigadores de seguridad ha demostrado que una vulnerabilidad en una plataforma externa vinculada a los foros de OpenAI podía facilitar el acceso a servicios de la compañía. Para desarrollar la prueba de concepto, los especialistas de Hacktron AI utilizaron Claude, el modelo de inteligencia artificial de Anthropic, dentro de un programa autorizado de búsqueda de fallos de OpenAI.
El caso no fue un ataque autónomo de Claude ni una intrusión criminal. Los investigadores actuaban dentro de un programa de recompensas por vulnerabilidades y comunicaron el hallazgo a OpenAI, que les abonó 6.500 dólares tras corregir el problema.
La investigación comenzó el 23 de julio con la detección de un fallo en Discourse, una plataforma de terceros empleada para alojar los foros de OpenAI. Los investigadores pidieron a Claude que les ayudara a generar código para comprobar el alcance de la vulnerabilidad.
La prueba permitió obtener tokens de autenticación, credenciales digitales que dan acceso a servicios en línea. Según la información publicada sobre el caso, algunos de esos tokens podían reutilizarse para acceder a cuentas de ChatGPT y a servicios conectados de OpenAI, incluido su repositorio interno de software.
El equipo utilizó una cuenta de empleado para demostrar la existencia de la brecha y presentó una propuesta de modificación en el repositorio como prueba de acceso. Los investigadores sostienen que interrumpieron la prueba antes de consultar código sensible o extraer datos de la empresa.
El episodio revela un riesgo que va más allá de OpenAI: la reutilización de credenciales entre servicios y la dependencia de plataformas externas pueden ampliar la superficie de ataque de una empresa. También muestra cómo los sistemas de IA pueden acelerar la investigación de fallos, reduciendo el tiempo necesario para transformar una vulnerabilidad técnica en una demostración operativa.
OpenAI revocó los tokens y sesiones comprometidos y revisó sus defensas. Su presidente y cofundador, Greg Brockman, indicó esta semana que la empresa ha destinado una cuarta parte de sus ingenieros de producción a tareas de seguridad, una auditoría que permitió detectar y corregir otros problemas.
El incidente coincide con un debate creciente sobre la seguridad de los agentes de IA. La cuestión ya no es solo qué tareas pueden automatizar estos modelos, sino cómo evitar que su capacidad para escribir código, ejecutar herramientas y conectar servicios supere los controles diseñados para proteger sistemas críticos.
