Una investigación de Associated Press revela que funcionarios del centro federal responsable de evaluar los riesgos de la inteligencia artificial han comenzado a informar informalmente a la Casa Blanca. La institución carece de director permanente y ha dejado de publicar sus investigaciones, mientras la Administración Trump apuesta por una mayor autorregulación tecnológica.
La supervisión de la inteligencia artificial en Estados Unidos suscita nuevas interrogantes sobre la independencia de los organismos encargados de evaluar sus riesgos. Una investigación publicada este domingo por Associated Press revela que funcionarios de un centro federal especializado han recibido instrucciones para informar informalmente a una oficina de la Casa Blanca, en un contexto de creciente influencia política sobre la regulación tecnológica.
Se trata del Centro para el Avance de la Innovación y los Estándares de Superinteligencia (CAISSI), dependiente del Departamento de Comercio, cuya misión incluye examinar la seguridad de los sistemas avanzados de inteligencia artificial.
Según dos antiguos funcionarios gubernamentales citados por la agencia estadounidense, el nuevo mecanismo de comunicación ha despertado inquietud entre especialistas que temen una pérdida de autonomía técnica.
Un organismo sin dirección estable
La situación institucional del centro constituye otro motivo de preocupación. La entidad carece de director permanente después de varios cambios en su dirección y ha interrumpido la publicación de sus investigaciones.
El Congreso estadounidense comenzó a solicitar explicaciones en agosto sobre la desaparición de los informes públicos relativos a las pruebas de seguridad realizadas a determinados sistemas de inteligencia artificial.
El organismo dispone de un presupuesto anual de unos diez millones de dólares, una cantidad considerablemente inferior a la asignada a su equivalente británico.
Para los expertos críticos con esta situación, la ausencia de evaluaciones independientes y transparentes podría dificultar la identificación de riesgos relacionados con la ciberseguridad, la privacidad y los derechos civiles.
Trump apuesta por la autorregulación tecnológica
La controversia se produce mientras la Administración de Donald Trump impulsa una política orientada a consolidar el liderazgo estadounidense en inteligencia artificial.
El presidente ha defendido que las propias empresas tecnológicas asuman una mayor responsabilidad en la vigilancia de sus sistemas. Sin embargo, todavía no se ha explicado con claridad cómo supervisará el Gobierno el cumplimiento de esos compromisos voluntarios.
La Casa Blanca sostiene que su nueva estructura dedicada a la superinteligencia permitirá reforzar la posición tecnológica del país y abordar los riesgos asociados a estos avances.
Los partidarios de una mayor coordinación presidencial consideran, además, que esta relación podría proporcionar más recursos y visibilidad al organismo especializado.
El desafío de controlar sistemas cada vez más autónomos
La discusión adquiere especial relevancia ante la expansión de los llamados agentes de inteligencia artificial, programas capaces de ejecutar tareas complejas con una intervención humana limitada.
Los investigadores advierten de que comprobar únicamente el resultado final de una operación no permite identificar todos los errores o comportamientos peligrosos producidos durante su ejecución.
La cuestión central es quién debe evaluar estos sistemas y bajo qué garantías de independencia.
El debate estadounidense refleja así una tensión de alcance internacional: cómo favorecer la innovación tecnológica sin dejar exclusivamente en manos de las empresas el control de herramientas capaces de afectar a la seguridad, los derechos y la vida cotidiana de millones de personas.
