La carrera por una IA más poderosa avanza sin garantías de control

Un exempleado de OpenAI y Anthropic, Jacob Coxon, advirtió que las grandes empresas de IA desarrollan sistemas cada vez más potentes sin garantía de poder controlarlos. En Campus digital hablamos con Roberto García Alonso experto en Seguridad y defensa y Digitalización y políticas públicas en América Latina, sobre este panorama. 

Las alarmas sobre los límites del control humano frente a sistemas de inteligencia artificial cada vez más avanzados han vuelto a encenderse. Recientemente, Jacob Coxon, quien trabajó tanto en OpenAI como en Anthropic, aseguró que las principales empresas del sector están impulsando el desarrollo de sistemas de IA cada vez más poderosos sin tener certeza de que puedan mantenerlos bajo control. La afirmación que realizó a través de su cuenta de X no ha pasado desapercibida pues se refirió a esta tecnología como una amenaza para la humanidad. Un par de días después, Bill Gates, también señaló que la IA representa una grave amenaza para los empleos y la vida humana y que abordar los riesgos con urgencia debería ser la principal prioridad del mundo. 

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Roberto García Alonso, profesor de la Facultad de Estudios Jurídicos, Políticos e Internacionales de la Universidad de La Sabana, asegura que si bien por ahora no existe evidencia de que una inteligencia artificial haya superado al ser humano en su totalidad. “Lo que sí está ocurriendo es que los modelos están mejorando rápidamente en razonamiento, programación, utilización de herramientas, planificación y ejecución de tareas cada vez más largas”. Además, el experto señala que el International AI Safety Report 2026 indica que la automatización de la investigación en IA todavía es mixta porque los agentes pueden superar a humanos en tareas de corta duración, pero dejan de ser exactos a la hora de hacer tareas prolongadas. 

En ese sentido, desde la perspectiva del experto, a corto plazo, siguen siendo preocupantes los problemas actuales que se traducen en casos de fraude, suplantación, generación de contenido engañoso y operaciones de ciberseguridad en donde la inteligencia artificial está involucrada. Si bien, estos métodos delictivos no están enteramente relacionados con la tecnología y existen organizaciones detrás, García Alonso explica que es ahí donde está el “riesgo silencioso de la IA”, concepto que alude a que la tecnología no es la responsable, sino las organizaciones que operan de manera perniciosa. 

De ahí que sea necesario avanzar en políticas que permitan regular el uso de la inteligencia artificial poniendo en consideración la velocidad con la que la tecnología avanza. “Los ciclos tecnológicos se miden en meses e incluso semanas, mientras que una ley puede necesitar años para ser negociada, aprobada, reglamentada e implementada”, señala Gracía Alonso. 

Por eso, para el experto es clave diseñar estas normas pensando en los riesgos y en el ciclo de la vida de estas tecnologías. Para ello, trae a colación los avances que se han hecho en Europa imponiendo obligaciones específicas a los proveedores y obligaciones relacionadas con la evaluación y mitigación del riesgo, reporte de incidentes y medidas de ciberseguridad.  

“En Colombia no debemos esperar a que exista una gran ley integral de inteligencia artificial para empezar a gobernarla. La ausencia de una ley específica no significa ausencia de obligaciones. Protección de datos, seguridad de la información, protección al consumidor, responsabilidad y normas sectoriales ya establecen límites. Lo que necesitamos es construir capacidades institucionales para hacerlos efectivos”, Roberto García Alonso 

Pero si bien la preocupación hoy gira en torno a unas declaraciones que a ojos de algunos son catastróficas, para el experto  también es importante tener consciencia sobre el nivel de información que se le entrega a una inteligencia artificial pues son sistemas que pueden equivocarse, persuadir y procesar enormes cantidades de información. 

“El riesgo aparece cuando dejamos de utilizar la IA como herramienta y empezamos a tratarla como autoridad. Existe ya evidencia de automation bias: cuando una IA ofrece una respuesta convincente tendemos a confiar en ella incluso cuando está equivocada. El International AI Safety Report 2026 identifica precisamente la dependencia excesiva, la influencia sobre decisiones y la posible erosión de determinadas capacidades críticas como riesgos emergentes para la autonomía humana”, señala García Alonso. 

En ese sentido, es importante establecer límites claros pues delimitar cuánto se interactúa con esta, qué datos entregarle, cómo pueden afectar estos desarrollos a otras personas, etc., es el punto de partida para evitar entregar el control total a la inteligencia artificial.   

*Para saber más, el próximo sábado 12 de septiembre, el profesor estará conversando sobre la gobernanza de la IA con ética y la responsabilidad jurídica. Para inscribirse, haga clic acá.