Después de más de una década de debates, 128 Estados alcanzaron en Ginebra un consenso sobre los elementos que permiten definir los sistemas de armas letales autónomas. El acuerdo no es jurídicamente vinculante, pero podría allanar el camino hacia la negociación de un tratado internacional.
Los 128 Estados parte de la Convención sobre Ciertas Armas Convencionales alcanzaron un consenso sobre un texto destinado a delimitar qué se entiende por sistemas de armas letales autónomas, conocidos por sus siglas SALA.
El acuerdo fue adoptado al término de una intensa ronda de negociaciones del Grupo de Expertos Gubernamentales reunido en Ginebra. Se trata del primer entendimiento común de esta amplitud después de más de diez años de discusiones sobre unas tecnologías militares cuya evolución avanza con mayor rapidez que su regulación internacional.
Los sistemas de armas autónomas pueden, una vez activados, seleccionar y atacar objetivos sin que una persona intervenga directamente en cada una de esas decisiones. Su grado de autonomía varía según el diseño, los sensores, el software empleado y las condiciones en las que son utilizados.
El documento acordado reconoce la necesidad de preservar el control y el juicio humanos sobre el uso de la fuerza. También reafirma que el derecho internacional humanitario se aplica plenamente a estos sistemas, como sucede con cualquier otra arma.
Sin embargo, el consenso alcanzado no equivale a la aprobación de una prohibición ni establece todavía obligaciones jurídicas para los Estados. Su importancia reside en que proporciona una base común desde la que podrían negociarse futuras restricciones internacionales.
Decisiones de vida o muerte
El desarrollo acelerado de la inteligencia artificial aplicada al ámbito militar ha intensificado el debate sobre hasta qué punto una máquina puede intervenir en decisiones que afectan directamente a la vida humana.
El Comité Internacional de la Cruz Roja (CICR) advierte de que la pérdida de control humano plantea graves problemas jurídicos, éticos y humanitarios. Entre ellos figuran el riesgo de ataques contra civiles, la dificultad para atribuir responsabilidades y la imprevisibilidad de algunos sistemas basados en aprendizaje automático.
La organización humanitaria reclama normas internacionales vinculantes articuladas en torno a dos grandes principios: prohibir las armas autónomas cuyos efectos no puedan comprenderse o preverse suficientemente y aquellas concebidas para atacar directamente a personas; y establecer límites estrictos para los demás sistemas autónomos.
Estas restricciones deberían determinar los tipos de objetivos permitidos, el ámbito geográfico y temporal de utilización, la escala de las operaciones y la posibilidad de que un operador humano supervise, interrumpa o desactive el sistema.
El próximo paso, en noviembre
Los Estados deberán decidir en noviembre, durante la conferencia de revisión de la Convención sobre Ciertas Armas Convencionales, qué continuidad darán al documento aprobado en Ginebra.
Sobre la mesa estará la posible apertura de negociaciones formales para elaborar un protocolo o tratado internacional jurídicamente vinculante.
El consenso constituye, por tanto, un avance diplomático significativo, pero todavía insuficiente para garantizar una regulación efectiva. La cuestión decisiva será si los Estados están dispuestos a convertir los principios acordados en obligaciones concretas antes de que la autonomía y la inteligencia artificial transformen de manera irreversible los campos de batalla.
