El uso de herramientas de inteligencia artificial en asuntos de seguridad nacional genera preocupación entre especialistas, quienes advierten que sus errores y sesgos pueden influir en decisiones militares y diplomáticas de alto impacto.
La incorporación de la inteligencia artificial en las actividades de inteligencia y defensa está abriendo un nuevo debate sobre la seguridad internacional. Aunque estas tecnologías permiten analizar grandes cantidades de información en poco tiempo, también pueden producir interpretaciones equivocadas que, si no son verificadas, podrían influir en decisiones de gran importancia.
Un caso relacionado con un buque de origen chino puso de manifiesto estos riesgos. De acuerdo con un reporte atribuido a CNN en septiembre, un sistema de inteligencia artificial habría interpretado incorrectamente información sobre la embarcación y su posible carga. El análisis fue considerado suficientemente confiable para impulsar una operación de interceptación aérea. Sin embargo, la equivocación se detectó cuando los aviones estadounidenses ya se encontraban en vuelo.
El episodio generó cuestionamientos sobre los mecanismos de supervisión utilizados cuando las herramientas automatizadas participan en procesos de toma de decisiones militares. La rapidez de una respuesta tecnológica no necesariamente garantiza que la información sea correcta.
El peligro de confiar en resultados aparentemente objetivos
Uno de los principales problemas de estos sistemas es que pueden reproducir errores y prejuicios presentes en los datos con los que fueron entrenados o en la manera en que los usuarios plantean sus consultas.
En determinadas circunstancias, una herramienta puede ofrecer una respuesta que coincide con las expectativas de quien la utiliza, aunque existan elementos que contradigan esa interpretación. Este fenómeno se relaciona con el sesgo de confirmación, que consiste en dar mayor importancia a la información que respalda una creencia previa.
El riesgo aumenta cuando las respuestas se presentan mediante porcentajes o cifras aparentemente exactas. Una estimación numérica puede transmitir seguridad, incluso cuando los datos disponibles son incompletos o existen diferentes interpretaciones posibles.
Por esa razón, los especialistas consideran importante que los sistemas de inteligencia artificial no se limiten a entregar una conclusión, sino que también expliquen sus fundamentos, señalen las limitaciones de la información y expongan las posibles contradicciones.
Un antecedente que demuestra el valor de la incertidumbre
La operación estadounidense contra Osama Bin Laden, realizada en mayo de 2011 en Abbottabad, Pakistán, permite comprender la importancia de considerar distintas interpretaciones antes de tomar una decisión.
Durante la evaluación de la información sobre el posible escondite del líder de Al Qaeda, los asesores del entonces presidente Barack Obama mantuvieron diferentes opiniones sobre la probabilidad de que el lugar fuera efectivamente su residencia.
Las estimaciones divergentes reflejaban que la información disponible no permitía alcanzar una certeza absoluta. Esta diferencia de criterios resultaba importante porque mostraba los argumentos, las dudas y los distintos niveles de confianza de quienes analizaban el caso.
Si una herramienta automatizada hubiera reducido todas esas opiniones a una sola cifra, se habría perdido parte del razonamiento necesario para comprender por qué existían desacuerdos.
El riesgo de crear consensos artificiales
Otra preocupación surge cuando distintas instituciones utilizan herramientas de inteligencia artificial que comparten fuentes de información, bases de datos o modelos de análisis.
En ese escenario, varias dependencias podrían llegar a conclusiones similares sin que necesariamente existan evaluaciones independientes. La coincidencia de resultados podría interpretarse como un acuerdo entre especialistas, aunque las respuestas tengan un origen tecnológico común.
Este fenómeno, denominado consenso sintético, representa un desafío para organismos de inteligencia y gobiernos, ya que puede generar una percepción exagerada de confianza en determinados informes.
Para reducir este problema, se propone identificar claramente de dónde procede la información, qué datos fueron utilizados y cuáles conclusiones corresponden a interpretaciones automatizadas.
La supervisión humana sigue siendo indispensable
Ante estos riesgos, una de las principales recomendaciones consiste en establecer controles más estrictos sobre el uso de inteligencia artificial en asuntos militares y de seguridad nacional.
Los sistemas deben ser capaces de distinguir entre información comprobada, hipótesis y conclusiones generadas mediante inferencias. También deben presentar explicaciones alternativas y advertir cuando los datos disponibles no permiten llegar a una respuesta definitiva.
Por otra parte, los funcionarios y responsables de tomar decisiones necesitan cuestionar los resultados que reciben, buscar información que contradiga sus primeras impresiones y comparar evaluaciones elaboradas mediante métodos diferentes.
La inteligencia artificial puede convertirse en una herramienta útil para procesar información y apoyar el trabajo de los analistas, pero no debe sustituir la evaluación crítica de las personas.
El caso del buque chino refleja que el avance tecnológico también exige nuevas responsabilidades. En situaciones de tensión internacional, una interpretación equivocada puede tener consecuencias importantes, por lo que la rapidez de los sistemas nunca debe colocarse por encima de la precisión, la transparencia y la supervisión humana.