En un momento en que la tecnología de la inteligencia artificial (IA) se está desarrollando rápidamente y tiene amplias perspectivas de uso militar, China ha propuesto por primera vez a la ONU regular las aplicaciones militares de la IA durante una conferencia celebrada el 13 de diciembre, planteando su preocupación por el impacto a largo plazo y los riesgos potenciales en áreas como la seguridad estratégica, las normas de gobernanza y la ética, al tiempo que daba sugerencias sobre cómo resolver los posibles problemas.
Al tener el potencial de cambiar por completo las reglas de la guerra, la IA es un arma de doble filo, que podría causar catástrofes si no se maneja bien, y por eso la propuesta de China para regularla y controlarla es una propuesta responsable a la que otros países, en particular los que intentan aprovechar la IA para lograr la hegemonía militar, deberían prestar atención, dijeron el martes expertos chinos.
China presentó su documento de posición sobre la regulación de las aplicaciones militares de la IA en la sexta conferencia de revisión de la Convención de la ONU sobre Ciertas Armas Convencionales, que se inauguró el lunes en Ginebra, informó el martes la Agencia de Noticias Xinhua.
El documento de posición es la primera propuesta de China para regular las aplicaciones militares de la IA, y también es la primera de su tipo en el marco de la Convención de la ONU sobre Ciertas Armas Convencionales, dijo Xinhua citando al embajador chino para Asuntos de Desarme Li Song.
«Dado que la paz y el desarrollo mundiales se enfrentan a desafíos multifacéticos, los países deberían adoptar una visión de seguridad global común, integral, cooperativa y sostenible, buscar un consenso sobre la regulación de las aplicaciones militares de la IA a través del diálogo y la cooperación, y establecer un régimen de gobernanza eficaz con el fin de evitar daños graves o incluso desastres para la humanidad causados por las aplicaciones militares de la IA», señaló el documento de posición.
«Tenemos que redoblar los esfuerzos para regular las aplicaciones militares de la IA, con el fin de prevenir y gestionar los posibles riesgos», señala el documento de posición.
El mundo está experimentando una nueva ola de revolución tecnológica, y la gente se ha dado cuenta de que debe prestar atención a los posibles riesgos para la seguridad causados por el desarrollo de la IA, que podría emplearse en ámbitos militares, dijo Wang Wenbin, un portavoz del Ministerio de Asuntos Exteriores de China, en una conferencia de prensa regular el martes cuando se le preguntó sobre el documento de posición.
China está dispuesta a mejorar la comunicación y la cooperación con todas las partes para tratar adecuadamente los riesgos y desafíos que plantean las aplicaciones militares de la IA, e impulsar esas tecnologías para que beneficien a la población de todos los países, dijo Wang.
Song Zhongping, experto militar chino y comentarista de televisión, dijo el martes al Global Times que la IA puede aplicarse en casi todos los campos de las fuerzas armadas, incluyendo tierra, mar, aire, espacio y el espectro electrónico.
Por ejemplo, Yang Wei, de la Corporación de la Industria de la Aviación de China, diseñador jefe del caza furtivo J-20, dijo en un artículo publicado en 2020 que se espera que la IA se instale en los cazas de próxima generación para ayudar a los pilotos.
Hu Mingchun, director del Instituto de Investigación nº 14 de la empresa estatal China Electronics Technology Group Co, declaró al Global Times en abril, que la IA podría aplicarse a los sistemas de radar para que puedan realizar ajustes en función del entorno, ya que aprenden constantemente para mejorar su capacidad.
Potencialmente capaz de recopilar y analizar datos, y de tomar decisiones de forma más eficiente que los cerebros humanos, la IA podría construir un campo de batalla aún más digital e inteligente que el actual y cambiar por completo las reglas de la guerra, dijo el martes al Global Times un experto militar con sede en Pekín que pidió el anonimato.
Además de las funciones de la IA en plataformas tácticas como aviones y buques de guerra, podría haber usos estratégicos de la IA para ayudar a los mandos militares a tomar decisiones cruciales basadas en grandes datos en tiempo real que no podrían ser procesados por humanos, dijo el experto anónimo.
Sin embargo, esto significa que la IA militar es un arma de doble filo que podría ayudar a salvaguardar la paz cuando se utiliza correctamente, pero también sabotearla cuando se usa con malas intenciones, dijeron los analistas.
Si algunos países desarrollan una IA militar avanzada y obtienen ventajas sobre otros, el equilibrio estratégico se romperá, dijo Song, advirtiendo que si un bando tiene IA y un ejército sin tripulación mientras el otro sólo tiene personas, sería una masacre.
Muchas obras de ciencia ficción han descrito escenarios en los que la IA militar no funciona como se pretende o incluso adquiere conciencia de sí misma, lo que conlleva una serie de problemas éticos e incluso desastres para la humanidad. Esto no es imposible, ahora que la tecnología se desarrolla tan rápidamente, señalaron los observadores.
El documento de posición, disponible para el público en el sitio web de la Misión Permanente de China ante la Oficina de la ONU en Ginebra, ofrecía varias sugerencias para regular el uso militar de la tecnología de IA.
China pidió a los países que desarrollan y aplican la IA en el ámbito militar que actúen de forma prudente y responsable, que se abstengan de buscar una ventaja militar absoluta y que no utilicen la IA como herramienta para iniciar una guerra o buscar la hegemonía.
También deben seguir el principio de «IA para el bien», y los sistemas de armas pertinentes deben mantenerse bajo control humano, al tiempo que se debe hacer un esfuerzo para garantizar la supervisión humana en todo momento, incluyendo la implementación de las interacciones hombre-máquina necesarias a lo largo de todo el ciclo de vida de las armas.
El documento de posición también instaba a los países a adherirse a los principios de multilateralismo, apertura e inclusión, y afirmaba que los países desarrollados deberían ayudar a los países en desarrollo a reforzar su capacidad de gobernanza.
Song dijo que China mostraba su responsabilidad global al plantear estas preocupaciones y dar sugerencias para regular la IA militar, minimizando las amenazas potenciales lo antes posible y maximizando los beneficios en otros campos, como la contribución a la investigación y el desarrollo del cambio climático, la lucha contra las enfermedades y la exploración del espacio.
Fte. Global Times