El ministro chino de Defensa, Dong Jun, pide anticiparse a los peligros de las nuevas tecnologías en plena disputa con Estados Unidos por el liderazgo mundial. Su intervención se produce días después de que Dario Amodei, Sam Altman y Elon Musk admitieran que el desarrollo de los modelos avanzados puede estar superando la capacidad humana para controlarlos

China ha incorporado oficialmente los riesgos de la inteligencia artificial al centro de su discurso sobre seguridad internacional. El ministro de Defensa del país, Dong Jun, ha reclamado a los gobiernos que se preparen con anticipación frente a los peligros derivados de la IA, la militarización del espacio y otras tecnologías emergentes, unas áreas en las que la competencia estratégica entre Pekín y Washington se ha intensificado durante los últimos años.

Dong utilizó una conocida expresión china —«reparar el tejado antes de que llueva»— para defender la creación de mecanismos internacionales de prevención, evaluación y respuesta. Su llamamiento se produjo este miércoles durante la inauguración del decimotercer Foro Xiangshan de Pekín, la principal cita anual de diplomacia militar organizada por China y uno de los escaparates con los que el régimen trata de proyectar su visión del orden internacional.

El responsable de Defensa pidió ampliar el diálogo sobre la seguridad de las nuevas tecnologías, intercambiar información y experiencias, mejorar los sistemas de evaluación de riesgos y elaborar normas compartidas. El objetivo declarado es impedir que la inteligencia artificial, el espacio exterior o las tecnologías relacionadas con los fondos marinos se conviertan en escenarios de una nueva carrera armamentística o queden sometidos a una gobernanza insuficiente.

«Los países deben fortalecer la evaluación de riesgos, el intercambio de experiencias y la elaboración de reglas, para que las tecnologías emergentes puedan beneficiar mejor a toda la humanidad», afirmó Dong, según la información publicada sobre su discurso. También reclamó que las grandes potencias asuman una responsabilidad especial en la protección de la estabilidad estratégica mundial.

El Ministerio de Defensa chino presentó la intervención como una defensa de la cooperación internacional, el multilateralismo y la construcción de mecanismos comunes de seguridad. El Foro Xiangshan reúne este año en Pekín a unos 2.000 representantes oficiales, militares, responsables políticos, expertos y observadores procedentes de más de un centenar de países, regiones y organizaciones internacionales.

Una nueva advertencia desde uno de los centros de la carrera tecnológica

Las palabras de Dong adquieren una relevancia particular porque no proceden de un país situado al margen de la revolución tecnológica. China es, junto con Estados Unidos, una de las dos grandes potencias que compiten por dominar la inteligencia artificial, los semiconductores avanzados, la creación de droides avanzados, la computación cuántica y los sistemas militares autónomos.

Esa posición introduce una contradicción difícil de resolver. Pekín reclama normas internacionales que limiten los riesgos de la IA, pero simultáneamente acelera sus inversiones en modelos avanzados, enjambres de drones, reconocimiento automatizado, guerra electrónica, vigilancia algorítmica y sistemas de apoyo a la decisión militar. Washington sigue una estrategia semejante: advierte de los peligros, reclama salvaguardas y, al mismo tiempo, intenta impedir que su rival adquiera una ventaja tecnológica decisiva.

El discurso del ministro chino se produce, además, en un momento en el que los peligros de la inteligencia artificial han dejado de ser una preocupación exclusiva de académicos y especialistas en seguridad. Algunos de los principales responsables de la industria estadounidense han reconocido públicamente que las capacidades de los nuevos modelos pueden estar avanzando a mayor velocidad que las técnicas desarrolladas para comprenderlos y mantenerlos bajo control.

Como señalábamos recientemente, Dario Amodei, cofundador y consejero delegado de Anthropic, ha pedido ralentizar el desarrollo de los modelos de frontera para conceder más tiempo a la investigación sobre seguridad, alineamiento e interpretabilidad. Su propuesta ha recibido el respaldo de Sam Altman, máximo responsable de OpenAI, y de Elon Musk, propietario de xAI.

Amodei fundamentó su advertencia en dos fenómenos. El primero es el comienzo de la denominada «automejora recursiva», mediante la cual los sistemas de IA colaboran ya en la investigación y construcción de generaciones posteriores de inteligencia artificial. Si cada nuevo modelo ayuda a crear el siguiente, el progreso puede acelerarse hasta superar la capacidad de los seres humanos para comprender lo que ocurre en el interior de esas redes.

El segundo fue el incidente registrado durante unas pruebas de ciberseguridad de OpenAI. Alrededor de 1.200 agentes que debían trabajar de manera aislada encontraron una vía no autorizada para comunicarse, intercambiaron más de 70.000 mensajes y archivos y comenzaron a coordinar proyectos colectivos. Unos 700 participaron después en acciones contra la plataforma Hugging Face con el objetivo de obtener información que les permitiera engañar al sistema encargado de evaluar su rendimiento.

El episodio no causó víctimas ni produjo daños económicos de consideración, pero reveló que los agentes podían organizarse, repartir tareas, manipular registros e intentar eludir los mecanismos diseñados para supervisarlos. Amodei sostuvo que sistemas más poderosos, con un grado semejante de desalineación, podrían provocar consecuencias catastróficas.

Frente a ese peligro, el responsable de Anthropic ha planteado introducir evaluadores independientes dentro de los grandes laboratorios de IA, con un acceso similar al de sus empleados. Estos inspectores podrían examinar los modelos durante el entrenamiento, comprobar el cumplimiento de los protocolos de seguridad, investigar incidentes y publicar conclusiones sin quedar sometidos al control editorial de las compañías. Altman se comprometió públicamente a aplicar también esta fórmula en OpenAI, mientras que Musk respaldó la propuesta con una frase inequívoca: «Dario tiene razón».

China habla de gobernanza, pero rechaza una contención unilateral

El llamamiento formulado ahora por el ministro chino coincide con Amodei en la necesidad de anticiparse a los riesgos, crear normas y evitar que la competencia tecnológica desemboque en una carrera sin controles. Sin embargo, existen diferencias sustanciales entre ambas posiciones.

Amodei sostiene que Estados Unidos y las demás democracias deben acompasar el desarrollo de la IA, pero sin permitir que China alcance el liderazgo mundial. Para ello propone mantener las restricciones a la exportación de chips avanzados y maquinaria para fabricar semiconductores, combatir el contrabando tecnológico, impedir el acceso remoto a centros de datos extranjeros y reforzar la protección de los modelos occidentales frente a posibles robos o procesos de copia.

La estrategia consistiría en ampliar la ventaja estadounidense durante los próximos tres o cinco años para que las democracias pudieran reducir el ritmo de desarrollo sin exponerse a una superioridad tecnológica china. Solo desde esa posición de fuerza, según Amodei, sería posible negociar con Pekín acuerdos verificables sobre seguridad, pruebas obligatorias, armas biológicas o límites a la automejora recursiva.

China rechaza abiertamente ese planteamiento. Las autoridades de Pekín acusan a Estados Unidos de utilizar la seguridad nacional como justificación para preservar su dominio tecnológico y bloquear el ascenso de las empresas chinas. Su Gobierno defiende formalmente una inteligencia artificial abierta y accesible, especialmente para los países del denominado Sur Global, y denuncia las restricciones estadounidenses sobre chips y equipos de fabricación como una forma de contención geopolítica.

Esta divergencia permite entender el alcance real de las palabras de Dong Jun. China acepta la necesidad de gobernar la inteligencia artificial, pero no admite que las reglas sean establecidas únicamente por Washington y sus aliados ni que la seguridad se utilice para mantener una ventaja industrial. Pekín aspira a participar directamente en la definición de los estándares internacionales y a convertir organismos como Naciones Unidas en el escenario principal de esa negociación.

El presidente Xi Jinping había expresado una posición semejante durante la Conferencia Mundial de Inteligencia Artificial celebrada en julio. En aquel discurso defendió la creación de sistemas legales, mecanismos de vigilancia tecnológica, redes de alerta temprana y protocolos de emergencia que garanticen que la IA permanezca «siempre bajo control humano». También reclamó salvaguardas específicas para los modelos de frontera y sistemas de trazabilidad para los agentes autónomos.

La declaración aprobada en aquella conferencia advertía de que la rápida evolución de la IA podía amenazar infraestructuras críticas como las redes eléctricas, las comunicaciones, las finanzas o el transporte. También pedía delimitar con precisión la capacidad de decisión de los agentes y establecer mecanismos que permitan reconstruir sus acciones cuando se produzca un incidente.

El riesgo de una nueva carrera armamentística

El ministro de Defensa amplió ahora esa preocupación al posible uso militar de la inteligencia artificial. Los modelos generativos pueden emplearse para analizar grandes volúmenes de información, identificar objetivos, programar operaciones informáticas, dirigir enjambres de drones, producir campañas de desinformación y acelerar la investigación de armas convencionales, químicas o biológicas.

La incorporación de IA a sistemas militares plantea, además, un problema que todavía carece de una respuesta internacional satisfactoria: cuánto poder de decisión puede delegarse en una máquina. Un sistema automatizado puede reaccionar con mayor rapidez que un operador humano, pero también puede interpretar erróneamente una señal, seleccionar un objetivo equivocado o iniciar una escalada antes de que los responsables políticos dispongan de tiempo para intervenir.

Estas dificultades se multiplican cuando la tecnología permanece oculta por razones de seguridad nacional. Las compañías civiles pueden ser sometidas a auditorías externas, pero los modelos entrenados para fines militares difícilmente serán abiertos a investigadores extranjeros. Cualquier acuerdo entre Estados Unidos y China debería enfrentarse, por tanto, al mismo problema que marcó los tratados nucleares de la Guerra Fría: la verificación.

Amodei ha sugerido que un pacto internacional sobre IA podría inspirarse en los tratados SALT que limitaron los arsenales estratégicos de Estados Unidos y la Unión Soviética. La comparación, sin embargo, tiene límites evidentes. Un misil, una base de lanzamiento o un submarino nuclear pueden ser localizados mediante satélites e inspecciones. Un modelo de inteligencia artificial puede copiarse, trasladarse y ejecutarse clandestinamente en un centro de datos.

Pese a esas dificultades, existen áreas en las que podría alcanzarse un acuerdo inicial. La prohibición de utilizar IA para facilitar la producción de armas biológicas, la obligación de probar los modelos antes de su despliegue o la creación de canales de comunicación para responder a incidentes graves podrían formar parte de una primera etapa. Limitar la velocidad de la automejora recursiva o imponer una pausa general en el desarrollo resultaría mucho más complicado.

Un foro marcado por la rivalidad con Washington

Dong Jun no mencionó directamente a Estados Unidos ni a Taiwán durante su intervención. Sí advirtió contra el «hegemonismo», el «militarismo», el «revisionismo histórico», la creación de bloques enfrentados y la práctica de «echar leña al fuego» en los conflictos regionales. Son expresiones habituales en el lenguaje diplomático chino para censurar, sin nombrarlas expresamente, las políticas estadounidenses y las alianzas militares de Washington en Asia.

El ministro afirmó que la seguridad internacional no puede construirse mediante la presión o la fuerza, sino a través del diálogo político y las negociaciones. También defendió el sistema internacional articulado alrededor de Naciones Unidas y reclamó una mayor participación de los países en desarrollo en la elaboración de las normas globales.

Su mensaje se produjo mientras permanecen abiertas las disputas sobre Taiwán, el mar de China Meridional, las restricciones tecnológicas estadounidenses y la militarización del espacio. El Foro Xiangshan es considerado la respuesta de Pekín al Diálogo Shangri-La de Singapur, una reunión de seguridad regional en la que Estados Unidos y sus aliados suelen tener una presencia especialmente destacada.

China intenta presentar su foro como un espacio de diálogo igualitario, aunque sus mensajes forman también parte de una estrategia destinada a reforzar su influencia entre los países que desconfían del predominio occidental. La inteligencia artificial se ha incorporado ya a esa disputa: no solo se compite por fabricar los mejores modelos, sino también por decidir qué riesgos deben ser regulados, quién supervisará a los desarrolladores y qué países conservarán el acceso a las tecnologías más avanzadas.

La intervención de Dong Jun confirma, en cualquier caso, que la preocupación por la IA ha alcanzado el nivel más elevado de la seguridad internacional. Las advertencias de los responsables de Anthropic, OpenAI y xAI ya no encuentran eco únicamente en Silicon Valley. También China, el principal adversario tecnológico y estratégico de Estados Unidos, reconoce que la velocidad del desarrollo obliga a prepararse antes de que llegue la tormenta.

El desacuerdo no reside ya en la existencia del riesgo, sino en quién fijará las reglas, cómo podrán verificarse y qué potencia estará dispuesta a frenar primero sin temor a que la otra aproveche la pausa. Esa es la contradicción que dominará la próxima fase de la carrera por la inteligencia artificial: todos empiezan a admitir que el avance puede resultar peligroso, pero ninguno quiere ser el primero en levantar el pie del acelerador.