Trump y Xi acuerdan que la IA militar no pueda iniciar grandes operaciones sin autorización humana
Estados Unidos y China pactan mantener el control humano sobre las decisiones militares de gran alcance,
Los presidentes de Estados Unidos y China, Donald Trump y Xi Jinping, han alcanzado un acuerdo para garantizar que la decisión de iniciar una operación militar de gran alcance corresponda siempre a una persona y no a un sistema de inteligencia artificial.
El secretario del Tesoro estadounidense, Scott Bessent, dio a conocer el entendimiento el viernes, después de la reunión bilateral celebrada en Shenzhen, según recoge El Mundo.
El compromiso se centra en impedir que la inteligencia artificial pueda ordenar por sí sola operaciones militares de gran envergadura, especialmente en situaciones en las que un error de interpretación podría desencadenar un enfrentamiento entre las dos potencias.
Sin embargo, el acuerdo no supone una prohibición general del uso de inteligencia artificial en el ámbito militar.
Los ejércitos estadounidense y chino podrán continuar utilizando estas tecnologías para analizar información, identificar posibles amenazas y proponer respuestas operativas.
La diferencia fundamental es que la decisión final de autorizar una gran operación militar deberá permanecer bajo control humano.
Estados Unidos y China quieren evitar que un error de la IA provoque una guerra
Uno de los principales riesgos que Washington y Pekín pretenden reducir es que un sistema automatizado interprete incorrectamente una situación militar y provoque una escalada del conflicto.
Por ejemplo, una inteligencia artificial podría identificar determinadas maniobras militares como los preparativos de un ataque enemigo y recomendar una respuesta inmediata.
Si esta recomendación se ejecutara sin supervisión humana, un error tecnológico podría desencadenar una operación militar antes de que los mandos hubieran comprobado la información.
El acuerdo anunciado por Bessent pretende evitar precisamente este escenario, manteniendo a los responsables militares como última autoridad en las decisiones de mayor trascendencia.
La cuestión adquiere especial relevancia en un contexto en el que ambas potencias están desarrollando sistemas cada vez más avanzados de inteligencia artificial aplicada a la defensa.
Un error de un chatbot casi provoca el abordaje de un barco chino
Los riesgos de utilizar inteligencia artificial en operaciones militares quedaron reflejados en un incidente ocurrido durante la guerra en Irán.
Según una investigación de la CNN publicada en septiembre, un informe de inteligencia alertó al Pentágono de que un barco chino que navegaba por Oriente Próximo transportaba supuestamente componentes destinados a un programa de armamento nuclear.
La información provocó que Estados Unidos comenzara a preparar una operación para interceptar la embarcación.
Según la reconstrucción periodística, varios aviones estadounidenses ya se encontraban en el aire y un grupo de militares se preparaba para abordar el barco.
Sin embargo, poco antes de ejecutar la intervención, varios funcionarios revisaron los datos que habían motivado la operación.
La revisión permitió descubrir que un analista de las fuerzas especiales había utilizado un chatbot para elaborar el informe y que el sistema había identificado erróneamente la carga transportada.
La operación fue cancelada antes de que se produjera el abordaje.
El episodio evidencia que los riesgos de la inteligencia artificial militar no se limitan a las armas autónomas. Una información incorrecta generada por estos sistemas también puede influir en las decisiones de los mandos humanos y provocar situaciones de elevada tensión internacional.
El acuerdo sobre IA militar todavía no es vinculante
Pese al entendimiento anunciado entre Trump y Xi, Estados Unidos y China todavía no han firmado un tratado internacional que establezca obligaciones jurídicas concretas sobre el uso de la inteligencia artificial en operaciones militares.
El anuncio deja abiertas varias cuestiones fundamentales.
La primera es determinar qué tipo de operaciones deberán contar obligatoriamente con autorización humana.
La segunda consiste en establecer mecanismos que permitan comprobar que ambas potencias respetan las condiciones acordadas.
Por el momento, Washington y Pekín no han presentado un documento que defina estas operaciones ni un sistema de verificación del compromiso.
Mientras tanto, los dos países continúan desarrollando tecnologías militares basadas en inteligencia artificial, tanto para el análisis de información como para la planificación y ejecución de operaciones.
Trump y Xi refuerzan los contactos militares
El entendimiento alcanzado en Shenzhen da continuidad a los contactos bilaterales iniciados en septiembre, cuando Estados Unidos y China acordaron establecer un canal de alerta para gestionar posibles incidentes relacionados con la inteligencia artificial.
Además, mientras Trump y Xi mantenían su encuentro bilateral, delegaciones militares estadounidenses y chinas se reunieron en Shanghái para abordar la prevención de incidentes y mejorar la comunicación entre sus fuerzas armadas.
Según el Ministerio de Defensa chino, estos contactos estuvieron centrados en reducir el riesgo de enfrentamientos derivados de errores de interpretación o problemas de comunicación.
El acuerdo supone un acercamiento político entre Washington y Pekín en materia de seguridad militar, aunque su alcance práctico dependerá de las normas que ambas potencias puedan desarrollar posteriormente.
Por ahora, la principal decisión compartida es que la inteligencia artificial podrá continuar asistiendo a los ejércitos, pero no deberá sustituir a las personas en la autorización de grandes operaciones militares.
Añadir nuevo comentario
Noticias relacionadas