La propuesta de Estados Unidos a China para crear un sistema de alertas ante incidentes graves de inteligencia artificial puede parecer un acuerdo técnico. En realidad, podría señalar algo mucho más importante: el comienzo de una arquitectura internacional para gobernar una tecnología que ningún país puede controlar por sí solo.
Estados Unidos propuso a China crear un mecanismo de notificación mediante el cual ambos países puedan alertarse cuando un incidente relacionado con inteligencia artificial alcance un nivel capaz de afectar la seguridad nacional. La propuesta fue planteada por el secretario del Tesoro estadounidense, Scott Bessent, durante las conversaciones mantenidas con el viceprimer ministro chino He Lifeng, antes del encuentro previsto entre Donald Trump y Xi Jinping.
Puede parecer un instrumento diplomático menor. Creo que podría ser exactamente lo contrario.
Durante los últimos años discutimos la inteligencia artificial principalmente en términos de competencia: quién tendrá los mejores modelos, quién fabricará los chips más avanzados, quién controlará la infraestructura y qué país liderará la próxima revolución tecnológica.
Pero a medida que los sistemas se vuelven más potentes aparece inevitablemente otra conversación: qué hacemos cuando algo sale mal.
Un ataque informático realizado o amplificado mediante IA, la manipulación de infraestructura crítica, la utilización de modelos para desarrollar amenazas biológicas o la pérdida de control sobre determinados sistemas ya no son problemas que puedan pensarse solamente dentro de las fronteras nacionales.
La inteligencia artificial es global. Sus riesgos también lo son.
Por eso considero relevante que las dos principales potencias tecnológicas comiencen a hablar de mecanismos de alerta y comunicación.
Durante la Guerra Fría, Estados Unidos y la Unión Soviética comprendieron que incluso siendo adversarios necesitaban canales de comunicación capaces de evitar errores de cálculo que pudieran terminar en una catástrofe.
Con la inteligencia artificial estamos empezando a necesitar algo parecido.
Pero una línea directa entre Washington y Beijing no debería ser el final del camino.
Debería ser el principio.
De un acuerdo entre potencias a una institución global
El problema de la gobernanza de la inteligencia artificial no puede resolverse únicamente mediante acuerdos entre Estados Unidos y China.
Europa, India, Japón, América Latina, África y decenas de países que utilizarán estas tecnologías también tienen intereses, riesgos y derechos que proteger.
Necesitamos avanzar hacia una arquitectura verdaderamente multilateral.
Naciones Unidas ya comenzó a construir parte de esa infraestructura. En 2025 creó un Panel Científico Internacional Independiente sobre Inteligencia Artificial y un Diálogo Mundial sobre Gobernanza de la IA. En julio de este año, gobiernos y especialistas se reunieron en Ginebra para su primera sesión.
Es un avance importante.
Pero el desafío que viene probablemente requiera algo más.
Mi impresión es que, tarde o temprano, necesitaremos una Agencia Internacional de Inteligencia Artificial.
Una institución independiente, multilateral y con capacidades técnicas suficientes para evaluar los sistemas más avanzados.
Algo conceptualmente parecido a lo que representa la Agencia Internacional de Energía Atómica para la tecnología nuclear.
No porque la inteligencia artificial y la energía nuclear sean tecnologías equivalentes, sino porque ambas plantean un problema semejante: existen determinados riesgos que ningún Estado puede verificar exclusivamente por sí mismo.
Auditar antes de que ocurra el problema
Una institución de este tipo podría tener varias funciones.
Podría establecer protocolos internacionales para notificar incidentes graves.
Podría definir metodologías comunes para evaluar modelos de frontera.
Podría acreditar laboratorios independientes capaces de realizar auditorías.
Podría establecer estándares mínimos de ciberseguridad y pruebas de seguridad.
Y, en determinadas aplicaciones de alto riesgo, podría existir algún mecanismo internacional de certificación o supervisión.
No sería necesario controlar cada algoritmo.
La regulación debería concentrarse precisamente donde el riesgo justifica una intervención mayor.
Europa ya aplica esta lógica mediante una regulación basada en riesgo: determinados usos capaces de afectar significativamente la salud, la seguridad o los derechos fundamentales están sujetos a requisitos específicos.
Esa misma lógica podría trasladarse progresivamente al terreno internacional.
Un algoritmo que recomienda música no necesita el mismo nivel de vigilancia que un sistema utilizado para gestionar infraestructura crítica, intervenir en decisiones médicas o ejecutar operaciones militares.
Regular bien también significa distinguir.
La paradoja de la inteligencia artificial
Existe además una paradoja que probablemente marcará los próximos años.
Estados Unidos y China compiten ferozmente por liderar la inteligencia artificial.
Pero cuanto más poderosos sean los sistemas que desarrollen, más necesitarán cooperar para evitar determinados riesgos.
Competencia tecnológica y cooperación en seguridad no son necesariamente incompatibles.
La propuesta de un mecanismo de alertas entre Washington y Beijing empieza a reconocer esa realidad.
La historia demuestra que las instituciones internacionales suelen aparecer después de que una tecnología o una crisis obliga a los Estados a aceptar que existen problemas que trascienden sus fronteras.
Con la inteligencia artificial tenemos una oportunidad diferente.
Podemos intentar construir esas instituciones antes de que ocurra una catástrofe que nos obligue a hacerlo.
La discusión ya no debería ser solamente quién gana la carrera de la inteligencia artificial.
La pregunta más importante es otra:
¿quién establecerá las reglas para que esa carrera no termine perjudicándonos a todos?
Es músico y escritor. Se me ha perdido una canción (2011), Mis canciones (2014) y Seré canción entonces… (2018) son sus tres discos. Ha publicado también la novela Una tumba sin nombre (2012) y el ensayo Renta Básica Universal: Por qué y cómo terminar para siempre con la pobreza. Es Licenciado en Ciencias de la Comunicación (Universidad Austral, Argentina), Master en Acción Política y Participación Ciudadana (Universidad del Rey Juan Carlos, España) y Diplomado en Gestión Pública (Instituto Tecnológico de Monterrey, México). Es fundador, director y editor de la Revista Algoritmo.
- Llegó la hora: La IA necesita su propia agencia internacional - 21 septiembre, 2026
- Estonia crea el primer DNI para inteligencias artificiales: así será la nueva identidad digital de los agentes de IA - 30 junio, 2026
- ¿Y si el primer país en adoptar un ingreso básico universal fuera China? - 22 junio, 2026
