Reino Unido necesita definir qué es un sistema de armas autónomo

El Reino Unido debería reajustar su definición de armas autónomas, para que sea “igual o similar, a la del resto del mundo”, según las recomendaciones del House of Lords Select Committee on Artificial Intelligence, que advierte de que, sin una definición consensuada, Reino Unido podría encontrarse “a ciegas dentro de una neblina semántica en territorio peligroso”.

El amplio informe, “AI in the UK: ready, willing and able?” recogió opiniones durante más de 10 meses de más de 200 expertos, entre los que se encontraban funcionarios gubernamentales, académicos y empresas, y exploró el uso de la IA en sectores que van desde la asistencia sanitaria hasta el transporte. Encontró que la definición de armas autónomas variaba significativamente entre países y organizaciones.

La definición más actualizada en el Reino Unido, proporcionada por el Ministerio de Defensa (MOD), establece que un sistema de armas autónomo debe ser “capaz de comprender la intención y las directrices de un nivel superior”. Esto difiere de un sistema automatizado, que solamente está programado para seguir un conjunto de reglas y que su resultado siempre puede predecirse.

Noel Sharkey, profesor de IA y robótica en la Universidad de Sheffield, argumenta que exigir que un sistema de armas autónomo sea “consciente y muestre intención”, como se indica en la guía del Ministerio de Defensa, es establecer el listón tan alto que, en la práctica, carecía de sentido. “Al decir que para ser considerado autónomo un arma necesita tener atención y mostrar conciencia, da la impresión de que es poco probable que exista durante mucho tiempo, si es que existe alguna vez”, dijo Sharkey a Army Technology. “Esto nos lleva a un significado no técnico de la palabra “autónomo”, relacionado con el libre albedrío, mientras que, en la comunidad robótica, se trata de un robot con sensores controlados sólo por un programa informático”.

Se encontró que este alto nivel no se ajustaba a las definiciones utilizadas por la mayoría de los demás gobiernos. Países como EE.UU., Noruega y Francia se centraron en el nivel de participación humana, más que en la capacidad de “comprender la intención y la dirección de un nivel superior”.

El informe concluyó que tal posición de ambigüedad limita la medida en la que el Reino Unido puede participar de forma significativa en los debates internacionales sobre armas autónomas, como ocurrió en la UN’s Convention on Certain Conventional Weapons Group of Governmental Experts sobre Ciertas Armas Convencionales en noviembre de 2017, en la que participaron 86 países, 22 apoyaron la prohibición de armas totalmente autónomas, incluyendo Brasil, Uganda e Irak.

“En la ONU, la mayoría de los estados utilizan alguna forma de definición, en la que un arma autónoma es aquella que, una vez lanzada, operará sin más intervención humana, o bien un sistema de armas que sea autónomo en la función crítica de selección de objetivos y compromiso”, dijo Sharkey. “Los Lores están de acuerdo en que el corazón del asunto es el nivel de control humano de los sistemas de armas.”

El Secretario de Estado para Asuntos Digitales, Cultura, Medios de Comunicación y Deportes, Matt Hancock, que compareció como testigo ante el Comité, estuvo de acuerdo en que no existe una definición internacionalmente acordada de sistemas autónomos de armas, pero dijo que cree que las leyes internacionales existentes son adecuadas.

“Creemos que las disposiciones existentes en el derecho internacional humanitario son suficientes para regular el uso de los sistemas de armas que podrían desarrollarse en el futuro”, dijo Hancock.

“Por supuesto, tener un sistema fuerte y desarrollarlo internacionalmente dentro de la Convención de la ONU sobre Ciertas Armas Convencionales es la manera correcta de discutir el tema.

“El grupo de expertos gubernamentales hizo progresos en Ginebra el mes pasado. Es un ámbito importante que tenemos que corregir”. Los expertos coincidieron en general, en que el factor clave era el nivel de supervisión humana sobre las armas autónomas, pero también surgió que el modelo “humano en el control” puede significar muchas cosas con respecto a las armas semiautónomas.

En el informe se llegaba a la conclusión de que el Gobierno debía convocar a un grupo de expertos militares y de inteligencia artificial para acordar una definición revisada en un plazo de ocho meses a partir de la publicación del informe.

” Tenemos una gran oportunidad para que el Reino Unido asuma el liderazgo internacional en el tema de los sistemas de armas autónomos en las reuniones de los tratados de la ONU cuando no se vea obstaculizado por una definición completamente errónea”, dijo Sharkey.

“Necesitamos que el Reino Unido se centre en una obligación positiva de mantener las armas bajo un control humano significativo para mantener el respeto de la comunidad internacional de naciones”.

Fte. Army Technology