La inteligencia artificial casi provoca una guerra entre Estados Unidos y China

RESUMEN

• Un informe de inteligencia elaborado con ayuda de inteligencia artificial afirmó falsamente que un buque chino transportaba componentes vinculados a un programa de armas nucleares.
• El informe circuló dentro de las Fuerzas Armadas estadounidenses durante la guerra con Irán y generó planes para interceptar y abordar la embarcación.
• Militares armados se preparaban para subir al barco y había aeronaves estadounidenses en el aire cuando surgieron dudas sobre la información.
• Una revisión posterior descubrió que un chatbot había identificado erróneamente la carga del buque.
• Un exfuncionario estadounidense resumió el problema con una frase contundente: “La IA permite llegar a una mala idea más rápidamente”.

Una falsa información que pudo terminar en una verdadera guerra

La inteligencia artificial acaba de protagonizar uno de esos episodios que obligan a preguntarse hasta dónde puede llegar el uso de esta tecnología en cuestiones militares.

Según una investigación de CNN, un informe de inteligencia distribuido dentro de las Fuerzas Armadas de Estados Unidos durante la guerra con Irán aseguró que un buque chino que navegaba por Medio Oriente transportaba componentes relacionados con un programa de armas nucleares.

La información encendió todas las alarmas.

El Ejército estadounidense comenzó a preparar una operación para interceptar la embarcación. De acuerdo con fuentes citadas por CNN, militares armados se disponían a abordar el barco mientras aeronaves estadounidenses ya se encontraban en el aire.

El problema era que la información era falsa.

El error estaba en el corazón del informe

La situación comenzó a aclararse apenas antes de que la operación se pusiera en marcha. Funcionarios estadounidenses decidieron profundizar la investigación sobre el informe elaborado por un analista del Comando de Operaciones Especiales y descubrieron que había sido preparado con ayuda de inteligencia artificial.

El analista había consultado un chatbot sobre información relacionada con el manifiesto de carga del buque. El sistema combinó información de fuentes abiertas con datos de inteligencia y llegó a una conclusión equivocada acerca de los materiales que transportaba la embarcación.

El analista utilizó nuevamente inteligencia artificial para convertir esas conclusiones en un informe de inteligencia con el formato habitual utilizado por los organismos militares.

Ese documento posteriormente fue distribuido dentro de las Fuerzas Armadas.

Según una de las fuentes consultadas por CNN, el informe era “completamente falso”. Otra fuente fue todavía más contundente y sostuvo que el episodio “casi inició una guerra”.

El peligro no era la máquina, sino confiar en ella

El episodio expone uno de los principales problemas del uso de inteligencia artificial en operaciones militares: una herramienta diseñada para acelerar el análisis también puede acelerar una equivocación.

La incorporación de IA a las estructuras militares estadounidenses avanza rápidamente. El objetivo declarado es utilizarla para procesar enormes cantidades de información, colaborar en la selección de objetivos y ayudar a determinar dónde desplegar recursos militares.

El secretario de Defensa estadounidense, Pete Hegseth, lanzó este año una estrategia destinada a acelerar la incorporación de inteligencia artificial en el Departamento de Defensa y planteó la construcción de una fuerza militar estadounidense basada en IA.

Pero el caso del buque chino demuestra que la velocidad puede convertirse en un problema cuando la información generada por una máquina no es sometida a controles humanos suficientemente rigurosos.

“Llegar a una mala idea más rápidamente”

Una de las frases más fuertes de la investigación de CNN provino de una fuente vinculada al ámbito de inteligencia estadounidense.

“La IA permite llegar a una mala idea más rápidamente”, afirmó.

La frase resume el dilema.

La inteligencia artificial puede procesar en segundos una cantidad de información que demandaría muchísimo más tiempo a una persona. Pero también puede cometer errores, combinar datos incorrectos, interpretar mal información disponible y presentar una conclusión equivocada con una apariencia de precisión.

Y cuando esa conclusión termina convertida en un informe militar, el error puede adquirir consecuencias completamente diferentes.

Fuentes consultadas por CNN señalaron además que las llamadas “alucinaciones” de los sistemas de IA no serían un fenómeno aislado dentro de la comunidad de inteligencia estadounidense.

Un problema especialmente delicado entre Washington y Pekín

El episodio adquiere una dimensión todavía mayor porque el supuesto objetivo era un buque chino.

Una operación estadounidense contra una embarcación de China podría haber provocado una crisis militar directa entre las dos principales potencias económicas y militares del mundo.

Y el incidente se produce precisamente cuando expertos estadounidenses y chinos vienen advirtiendo sobre los riesgos de que la inteligencia artificial acelere decisiones militares hasta un punto en el que los seres humanos no tengan tiempo suficiente para intervenir.

Esta misma semana, especialistas de ambos países propusieron establecer límites específicos para el uso militar de la IA, mantener control humano sobre determinadas operaciones y crear mecanismos de comunicación para evitar que un incidente generado por sistemas automatizados termine escalando.

La tecnología avanza más rápido que las reglas

El caso del buque chino deja una pregunta difícil de responder: ¿quién controla a la inteligencia artificial cuando la decisión puede desencadenar una guerra?

Según las fuentes citadas por CNN, distintas áreas del gobierno estadounidense están utilizando diferentes sistemas de inteligencia artificial, bajo normas y estándares de seguridad que no son necesariamente uniformes. Tampoco existiría un único sistema para verificar la información producida por estas herramientas.

El episodio terminó sin que el buque chino fuera abordado. La revisión humana llegó a tiempo y evitó que una información falsa se transformara en una acción militar.

Pero la advertencia queda instalada.

La inteligencia artificial puede ayudar a tomar decisiones más rápidas. El problema aparece cuando la velocidad supera a la capacidad humana para comprobar si esas decisiones son correctas.

Porque en una oficina un error de IA puede significar un dato equivocado.

En un campo de batalla, puede significar otra cosa.

Y en una confrontación entre Estados Unidos y China, podría significar el comienzo de una guerra.