Veintidós figuras de primer nivel de la inteligencia artificial reclaman a los gobiernos que se anticipen a un escenario en el que la propia IA acelere su desarrollo hasta comprimir en meses avances que hoy requieren años. Los investigadores admiten que existe una gran incertidumbre, pero advierten de que esperar a tener certezas podría dejar muy poco margen para reaccionar.
La inteligencia artificial está empezando a intervenir de forma cada vez más directa en el desarrollo de la propia inteligencia artificial. Ese cambio, todavía incipiente, ha llevado a 22 destacados investigadores y responsables del sector a reclamar a los gobiernos mecanismos de supervisión capaces de responder a una eventual aceleración extrema del progreso tecnológico.
Entre los firmantes figuran Geoffrey Hinton, premio Nobel de Física y uno de los pioneros del aprendizaje profundo, y Yoshua Bengio, otra de las figuras fundamentales de la IA moderna. También participan Jack Clark, cofundador de la empresa creadora de Claude, y Jakub Pachocki, científico jefe de la compañía responsable de ChatGPT.
Cuando la IA empieza a desarrollar la siguiente IA
El núcleo de la advertencia está en la automatización de la investigación y el desarrollo. Según los autores, los sistemas actuales ya escriben buena parte del código utilizado dentro de algunas de las compañías que los desarrollan. El siguiente salto sería que la IA asumiera progresivamente tareas de investigación, diseño, experimentación y mejora de nuevos modelos.
El riesgo aparece con el posible efecto de retroalimentación: una IA contribuye a crear otra más capaz; esta segunda acelera a su vez la investigación y produce sistemas todavía mejores. Los autores denominan «explosión de inteligencia» al escenario en el que ese círculo de mejoras se acelera hasta condensar en meses —o incluso menos— avances que de otro modo tardarían años.
No sostienen que esa explosión ya haya comenzado ni que sea inevitable. Su argumento es preventivo: si la automatización de la investigación alcanza determinado umbral, la velocidad del cambio podría superar la capacidad de gobiernos, instituciones y sociedades para comprenderlo y responder.
El temor a perder el control
Las consecuencias potenciales van mucho más allá de disponer de programas más inteligentes. Una aceleración radical podría producir importantes avances científicos y tecnológicos, pero también sistemas con capacidades superiores a las humanas cuyo comportamiento resultara cada vez más difícil de supervisar.
Los firmantes advierten asimismo de posibles alteraciones en los equilibrios de poder. Una empresa o un Estado que obtuviera una ventaja significativa en sistemas capaces de mejorar rápidamente otros sistemas podría ampliar esa distancia en muy poco tiempo, afectando a la competencia económica, la ciberseguridad y las relaciones entre gobiernos y grandes compañías tecnológicas.
Por ello reclaman mayor transparencia sobre el grado de automatización de la investigación en IA, mecanismos independientes de supervisión y herramientas que permitan limitar o reconducir el proceso si la aceleración alcanza niveles considerados peligrosos.
Regular antes de que desaparezca el margen de reacción
La cuestión central, sostienen, no es demostrar que una «explosión de inteligencia» vaya a producirse, sino prepararse para la posibilidad de que ocurra. Si los sistemas avanzan lentamente, las instituciones dispondrán de tiempo para adaptar las normas. Si la aceleración se produce en cuestión de meses, ese margen podría reducirse drásticamente.
Los 22 autores plantean así un cambio de enfoque: pasar de reaccionar ante las capacidades de la IA una vez que aparecen a vigilar anticipadamente cómo la propia tecnología está empezando a participar en su desarrollo.
La paradoja es precisamente esa: cuanto más eficaz sea la inteligencia artificial ayudando a construir inteligencia artificial, menos tiempo podrían tener los humanos para decidir hasta dónde quieren permitir que llegue ese proceso.
