Trump i Xi pacten que la IA militar no pugui iniciar grans operacions sense autorització humana
Per ara, el compromís és polític i no s’ha concretat en un tractat vinculant
Els presidents dels Estats Units i de la Xina, Donald Trump i Xi Jinping, han acordat que la decisió d’emprendre una operació militar de gran abast ha de correspondre a una persona.
El secretari del Tresor nord-americà, Scott Bessent, va donar a conèixer l’entesa divendres, després de la reunió bilateral de Shenzhen, segons recull El Mundo.
El compromís afecta el moment de donar l’ordre. Els dos exèrcits podran continuar utilitzant la intel·ligència artificial per analitzar informació, detectar possibles amenaces i proposar respostes.
El risc que Washington i Pequín volen reduir és que un sistema interpreti unes maniobres com l’inici d’un atac i precipiti una resposta militar abans que els comandaments hagin pogut comprovar què passa.
L’error d’un xatbot que gairebé va provocar l’abordatge d’un vaixell xinès
Durant la guerra a l’Iran, un informe d’intel·ligència va alertar el Pentàgon que un vaixell xinès que navegava pel Pròxim Orient transportava components destinats a un programa d’armament nuclear.
Segons una reconstrucció de la CNN publicada al setembre a partir de diversos testimonis, els avions nord-americans ja eren a l’aire i un grup de soldats es preparava per abordar el vaixell.
Poc abans de la intervenció, diversos funcionaris van revisar la informació. Un analista de les forces especials havia fet servir un xatbot per elaborar l’informe i el sistema havia identificat erròniament la càrrega. L’operació es va cancel·lar abans de l’abordatge. L’episodi il·lustra un risc que va més enllà de l’armament autònom: un informe erroni també pot dur un comandament humà a autoritzar una operació sobre una premissa falsa.
Un compromís pendent de regles concretes
L’anunci de Shenzhen deixa oberta una qüestió decisiva: quines operacions exigiran autorització humana i com es comprovarà que tots dos països respecten el compromís?
Washington i Pequín no han anunciat cap document que defineixi aquestes operacions ni cap mecanisme de verificació. Mentrestant, tots dos exèrcits continuen desenvolupant sistemes militars basats en la IA.
L’entesa dona continuïtat als contactes del setembre, quan els dos països van acordar establir un canal bilateral d’alerta sobre incidents relacionats amb la intel·ligència artificial. Mentre Trump i Xi es reunien a Shenzhen, delegacions militars nord-americanes i xineses també es van trobar a Xangai per tractar la prevenció d’incidents i la comunicació entre les seves forces, segons el Ministeri de Defensa xinès.
Add new comment
Related news