De La Sabana a la OTAN: así es el documento que busca la gobernanza de la IA

El documento surge a partir de la participación de investigadores de La Sabana en el workshop Clicking the Pause: The Role of Transatlantic Cooperation in AI Supervision, realizado en la Universidad de Salamanca (España), en el marco   del programa NATO Science for Peace and Security Programme, iniciativa de la OTAN orientada a fortalecer la cooperación internacional en seguridad civil y tecnológica. 

Roberto García Alonso, profesor de la Facultad de Estudios Jurídicos, Políticos e Internacionales; Ulf Thoene, profesor de la Escuela Internacional de Ciencias Económicas y Administrativas (EICEA); y el vicerrector Juan Fernando Córdoba lideraron la elaboración de este documento, que propone criterios para la supervisión humana, trazabilidad, evaluación de riesgos, responsabilidad y uso ético de la IA. 

El texto fue socializado con la OTAN y países socios, y busca contribuir a la construcción de estándares comunes e interoperabilidad regulatoria entre la OTAN, la Unión Europea y otras naciones aliadas. Asimismo, servirá como insumo para agendas institucionales relacionadas con inteligencia artificial, defensa digital, ciberseguridad, infraestructura crítica y cooperación internacional 

La participación en este programa se dio mediante convocatoria internacional y hace parte de una estrategia de diplomacia científica y cooperación transatlántica impulsada por la OTAN. 

El documento,  bajo el título “Clicking the Pause: The Role of Transatlantic Cooperation in Artificial Intelligence Supervision” (Hacer una pausa: El papel de la cooperación transatlántica en la supervisión de la inteligencia artificial), expone los desafíos en cuanto a la supervisión, gobernanza y riesgos de la inteligencia artificial, especialmente en contextos de seguridad, defensa y cooperación trasatlántica.  

De ahí, que los temas principales que se trabajen a lo largo del documento sean: La IA como desafíos geopolítico y estratégico, el control humano significativo y los riesgos de la IA en defensa y seguridad. 

A pesar de que la tecnología va más rápido que las legislaciones de los países, hoy más que nunca, como bien lo señalan los expertos, es necesario enarbolar las banderas de la discusión.  

“Tenemos que ser capaces de también tener una voz. No se trata solo de pensar en la producción de innovación de inteligencia artificial, sino también de tener un rol cada vez más protagónico en la creación de esos estándares globales con los que se va a regir la inteligencia artificial. Cuando uno compra tecnología, no solamente compra la tecnología, compra los marcos éticos, las regulaciones, todo lo que viene detrás de la utilización de la IA. Tenemos que pensar en toda la construcción de capacidades que requerimos previamente”, señala García Alonso. 

Los  expertos coinciden en que esta tecnología, sin duda viene a cambiar la geopolítica mundial y que esto representa desafíos para la defensa y seguridad. 

“Estamos jugando con el marco de derechos humanos y la supervisión humana tiene un rol fundamental, pues detrás de una IA siempre va a haber un responsable humano. Ahora, ¿qué tipo de decisión se puede automatizar o no? Es una discusión que se tiene que dar con la propia fuerza militar. En el caso de Ucrania e Israel, los países están utilizando otros estándares y a veces no involucran la supervisión humana. Por eso es importante dar esa discusión en la OTAN, para que adoptemos reglas que permitan un uso más ético de esas innovaciones”, explica García Alonso. 

Ulf Thoene lo explica con un caso concreto: el bombardeo aéreo que destruyó la escuela primaria femenina Shajare Tayebé en la ciudad de Minab (Irán), dejando un saldo de 168 personas muertas, en su gran mayoría niñas entre los 7 y 12 años de edad, que asistían en ese momento a clases. Posterior a los ataques, un informe preliminar del Pentágono sugirió que se trataba de un error táctico. Las coordenadas del objetivo se habrían establecido utilizando datos desactualizados, pues anteriormente el edificio escolar se compartía con una base naval de la Guardia Revolucionaria. “La figura del soldado se va a cambiar así a una persona que lleva mucha más responsabilidad. Y obviamente deben existir diferentes niveles de chequeos, antes de oprimir el botón”, señala Thoene. 

Pero esas libertades que brinda la IA, no son solo motivo de preocupación. A la ecuación se integran las competencias que deben ser enseñadas a los usuarios de la IA. 

“La supervisión humana, exige que la persona tenga la  información suficiente, tenga la autoridad y la capacidad para juzgar. Desarrollar ese criterio, es lo que le permitirá a las personas tener la ética suficiente, la capacidad para corregir o detener el sistema. El reto está en que esa supervisión simbólica se convierta en su supervisión operativa. ¿Cómo garantizas o cómo construyes un sistema que haga la IA confiable? Este es el secreto.”, explica el profesor García. 

Lo anterior, también debe hacerse considerando la importancia de cada una de las partes, pues si bien la idea consiste en establecer reglas claras,  es necesario dar continuidad a una gobernanza que no signifique un obstáculo para la innovación. La ejecución, señalan los expertos, “tiene que ir en paralelo. No se trata de crear un entramado de normativas o inteligencias artificiales que nadie use, sino que se haga posible el uso de la IA generando un marco de  confiable que permita que todo el mundo pueda hacer un uso seguro”, finaliza García. 

Este  documento de más  de 150 páginas explora al detalle cada uno de los retos que viene a planear la IA,  consolida la participación de la Universidad La Sabana en las discusiones internacionales sobre inteligencia artificial responsable, supervisión tecnológica y cooperación transatlántica reflejando el creciente papel de América Latina en una discusión profunda, que evoluciona conforme a la tecnología cambia.