El secretario general de Naciones Unidas advierte de que las iniciativas nacionales y las pausas voluntarias no bastan para controlar los riesgos de sistemas cada vez más potentes. La inteligencia artificial ocupará un lugar central en sus conversaciones con los líderes internacionales durante la próxima Asamblea General de la ONU.
El secretario general de Naciones Unidas, António Guterres, pidió este miércoles a los gobiernos que asuman sus responsabilidades e impulsen una respuesta «global y coordinada» frente al riesgo de una inteligencia artificial fuera de control.
«No podemos permitirnos ignorar las preocupaciones que se han planteado, especialmente por quienes están en primera línea del desarrollo de la IA», declaró Guterres durante una rueda de prensa celebrada en la sede de Naciones Unidas.
El responsable de la ONU se refería a las advertencias formuladas por algunos de los principales dirigentes del sector tecnológico sobre el rápido desarrollo de sistemas de inteligencia artificial cada vez más potentes.
Hace unos días, Dario Amodei, consejero delegado de Anthropic, reclamó una regulación más estricta para contener los riesgos derivados de un avance sin límites y evitar la pérdida de control sobre estos sistemas. Su propuesta recibió el respaldo del director ejecutivo de OpenAI, Sam Altman, y del empresario Elon Musk.
Salvaguardias y responsabilidad pública
Guterres reconoció el «enorme potencial» de la inteligencia artificial, pero insistió en que su desarrollo debe estar acompañado de salvaguardias que garanticen una tecnología «segura, transparente y responsable».
A su juicio, los gobiernos tienen la primera responsabilidad de proteger a sus ciudadanos. Sin embargo, advirtió de que las respuestas exclusivamente nacionales resultarán insuficientes si no forman parte de una estrategia internacional común.
«La IA no se detiene en las fronteras y tampoco lo hacen sus riesgos. Las pausas voluntarias, aisladas, imposibles de verificar y aplicadas de manera desigual no resolverán el problema», afirmó.
El secretario general adelantó que la gobernanza de la inteligencia artificial será uno de los asuntos centrales de sus conversaciones con los dirigentes internacionales que participarán en el debate general de la Asamblea General de Naciones Unidas, previsto entre el 22 y el 28 de septiembre.
«Necesitamos un entendimiento compartido sobre cómo avanzar hacia un desarrollo seguro, protegido y responsable de la IA, al tiempo que identificamos cuándo los sistemas cada vez más potentes pueden requerir salvaguardias más firmes o medidas adicionales para gestionar sus riesgos potenciales», señaló.
Evitar una carrera sin límites
El diplomático portugués reconoció que las actuales divisiones geopolíticas pueden alimentar una competición internacional por el liderazgo en inteligencia artificial. No obstante, advirtió de que el mundo no puede permitirse una carrera en la que se sacrifique la seguridad con el objetivo de obtener ventajas económicas, tecnológicas o estratégicas.
Guterres situó la «IA desbocada», la crisis climática y la profundización de las desigualdades entre los principales desafíos que afronta actualmente la comunidad internacional.
Naciones Unidas puso en marcha el año pasado su primer organismo científico dedicado específicamente a la inteligencia artificial. El objetivo de esta instancia es contribuir a que las políticas internacionales sobre la tecnología estén guiadas por la evidencia científica.
El llamamiento de Guterres plantea así la necesidad de avanzar hacia unas reglas globales capaces de acompañar el rápido desarrollo de la IA sin frenar sus beneficios, pero evitando que la competencia entre Estados y empresas termine imponiéndose sobre la seguridad colectiva.
