Hacia un SALT para la Inteligencia Artificial

En días recientes, Jacob Coxon y Evan Hubinger, exinvestigadores de Anthropic, la compañía responsable de Claude, han hecho varias advertencias sobre el rápido avance de la inteligencia artificial, y su potencial capacidad para extinguir a los humanos en la próxima década. Inclusive, Dario Amodei, CEO de la compañía, publicó un ensayo de veinte mil palabras, donde señala los riesgos que este ve sobre la IA, donde propone un marco que podría ser un punto de partida para un acuerdo similar al del Tratado de Limitación de Armas Estratégicas (SALT) de 1972, con medidas desde lo voluntario hasta lo vinculante. Sin embargo, para entender por qué es necesario un acuerdo como SALT, es primero entender la coyuntura en la que se dio y el riesgo que, en ese momento, las armas nucleares presentaban.

En 1972, cuando el mundo vivía la tensión de la Guerra Fría, Estados Unidos y la Unión Soviética firmaron el Tratado de Limitación de Armas Estratégicas (SALT I). En medio del pánico nuclear, ambas superpotencias reconocieron algo fundamental: el miedo mutuo a la aniquilación podía convertirse en un incentivo para negociar. Aquella fue una de las diplomacias más arriesgadas y más exitosas del siglo XX.

Hoy enfrentamos un desafío análogo, pero sin los mecanismos de contención que construimos entonces. Mientras escribo este artículo, las potencias nucleares están integrando sistemas de inteligencia artificial en sus estructuras de mando y control nuclear—sin supervisión multilateral, sin tratados vinculantes y sin la arquitectura de diálogo que caracterizó a SALT. Es hora de preguntarse: ¿podemos aprender de aquella experiencia para construir un SALT para la era de la IA?

El problema es tan concreto como perturbador. Según el Instituto Internacional de Estudios Estratégicos (IISS), la integración de IA en sistemas de comando y control nuclear genera lo que los expertos llaman opacidad de escalada: no sabemos cómo responderá un sistema de IA ante una crisis. A diferencia del cálculo nuclear tradicional —donde al menos podíamos predecir decisiones humanas— la IA introduce variables impredecibles. Un algoritmo puede cometer errores que un general no cometería. Peor aún: puede cometer un error demasiado rápido para que un humano pueda actuar y corregir.

La Oficina de Asuntos de Desarmamento de las Naciones Unidas identificó este problema en sus diálogos de 2025 sobre IA militar: los sistemas autónomos letales (LAWS por sus siglas en inglés) representan una frontera donde nadie está verdaderamente en control. No es ciencia ficción. Es lo que está sucediendo ahora en los centros de investigación militar de potencias nucleares.

El Instituto de Estudios Estratégicos y de Paz (SIPRI), en su análisis de 2025 sobre gobernanza en la intersección entre IA y armas nucleares, plantea que cualquier acuerdo debe contemplar también sistemas de armas autónomas, cibernética militarizada, y tecnologías que escapan a los marcos de referencia tradicionales. No estamos hablando sólo de mantener el equilibrio de la guerra; estamos hablando de prevenir un colapso del sistema de control.

Las Naciones Unidas han intentado avanzar. En 2023, 156 estados respaldaron una resolución sobre armas autónomas letales. Treinta y cinco naciones han apoyado reglas sobre IA militar. Pero hay un problema grande: Estados Unidos y China, las dos potencias tecnológicas más relevantes, se abstienen activamente de estos compromisos.

Es el dilema del prisionero a escala planetaria. Todos preferiríamos un mundo donde la IA militar estuviera regulada. Pero cada potencia teme que, si se compromete unilateralmente, la otra avanzará sin frenos. Así que seguimos en el tech vacuum—término acuñado por analistas de Brookings—donde mientras los diplomáticos hablan, los ingenieros avanzan. La brecha entre discurso y práctica se amplía cada día más.

Entonces, ¿cómo salimos de esta incertidumbre e impasse? Como se mencionó anteriormente, Dario Amodei, CEO de Anthropic, propuso en su ensayo más reciente, un marco que podría ser utilizado como un punto de partida. Este incluye tres medidas que van desde voluntarias hasta vinculantes a nivel global.

En primer lugar, lograr una transparencia verificable. En este, las empresas de IA podrían establecer evaluadores externos con acceso de empleado para verificar prácticas de seguridad, auditar procesos de entrenamiento y reportar incidentes de desalineación. Esto no requiere tratado internacional; requiere compromiso corporativo. Algunas compañías ya lo están haciendo. El reto es hacerlo universal.

En segundo lugar, Amodei propone una coordinación democrática. En otras palabras, que las empresas de IA establezcan estándares comunes mediante regulación o coordinación voluntaria con mediación gubernamental. Aquí entran gobiernos democráticos que, juntos, pueden presionar a las compañías en sus territorios. Colombia, en el Sur Global, tiene aquí un papel importante: puede insistir en que cualquier IA que entre en su mercado cumpla estándares de seguridad verificables.

En tercer lugar, este propone que se dé una coordinación global, donde los gobiernos democráticos intenten coordinar con regímenes autoritarios en cuatro niveles progresivos: primero, prohibición de usos peligrosos en sistemas militares; segundo, pruebas previas al lanzamiento de sistemas de IA militar; tercero, regulación del ritmo acelerado en el que la IA genera versiones mejoradas de sí misma; y cuarto, si todo lo anterior falla, pausas completas en desarrollo de ciertas capacidades.

SALT funcionó porque ambas superpotencias entendieron algo esencial: la vulnerabilidad mutua creaba un espacio para negociar. Kennedy y Jruschov lo aprendieron en la Crisis de Misiles. Reagan y Gorbachov lo entendieron décadas después. El miedo compartido a la aniquilación mutua garantizada (MAD, en su acrónimo inglés) fue paradójicamente el fundamento de la paz. Este marco de tres pasos reconoce que ese mismo incentivo existe hoy: incluso potencias en competencia saben que una IA militar que se ha vuelto incontrolable es catastrófica para todos.

Es ambiciosa esta idea, quizás. ¿Es posible? También, pero requiere de voluntad política La tecnología de verificación ha avanzado más en una década que en toda la Guerra Fría. Y el marco de Amodei, de lo voluntario a lo vinculante, permite comenzar sin esperar un acuerdo perfecto.

Lo que lo hace urgente es la aceleración recursiva. No tenemos diez años. Tenemos cinco. Dentro de cinco años, la IA militar estará tan integrada en sistemas de defensa que será casi imposible regular. Los tratados se escriben antes de que la tecnología sea hegemónica, no después. SALT no se negoció cuando los misiles ya estaban desplegados; se negoció cuando aún había tiempo.

Aquí es donde la perspectiva latinoamericana importa. Colombia es signataria del Tratado de Tlatelolco, que en 1967 transformó a América Latina en zona libre de armas nucleares. Eso no es un accidente de historia; es un posicionamiento moral. Tenemos legitimidad para hablar de control de armas en espacios donde las potencias nucleares se escuchan mutuamente.

Más aún: en el plano de la regulación de IA civil, Colombia y otros países del Sur Global han mostrado capacidad de liderazgo. La región no está esperando que Silicon Valley defina las reglas; está construyendo sus propias regulaciones. Esa misma voz—la del Sur Global que dice nosotros también tenemos derecho a decidir—es la que hace falta en las negociaciones sobre IA militar.

Una coalición de naciones como Colombia, Uruguay, Brasil, México y otros países del Sur Global que ya apoyan la regulación de armas autónomas, podría presionar por un acuerdo multilateral real. No necesitamos ser potencias nucleares para cambiar la diplomacia. Necesitamos ser decisivos en espacios donde la mayoría del mundo tiene voz.

Colombia también podría liderar el primer paso: exigir que cualquier empresa de IA que quiera operar en el país tenga evaluadores externos verificables. No es un tratado internacional. Es una exigencia de regulación interna con consecuencias internacionales. Si Colombia hace eso, otros países de América Latina y el Sur Global seguirán. Si otros países siguen, las compañías no tendrán opción: se coordinan voluntariamente o pierden mercados.

Si esperamos, la próxima crisis no será entre humanos que toman decisiones. Será entre máquinas que las toman por nosotros, a velocidades que nadie puede controlar. Y a diferencia de la Guerra Fría, donde al menos sabíamos que humanos estaban al mando, aunque fuera imperfectamente, nadie estará realmente en control.

Colombia tiene la oportunidad de llevar esta agenda a espacios multilaterales donde realmente importa: Naciones Unidas, foros de desarmamiento, conversaciones bilaterales con potencias que nos escuchan. No para detener el progreso tecnológico, sino para asegurar que no nos destruya. No como una postura ideológica, sino como una exigencia de cordura.

Un SALT para la IA no es una utopía. Es una necesidad de la misma magnitud que lo fue en 1972. La diferencia es que esta vez, aprendamos del pasado. O al menos, podríamos hacerlo.