Jacob Coxon, de 27 años, abandona la industria tras tres años de investigación en OpenAI y Anthropic y denuncia que ambas compañías "corren de cabeza hacia una superinteligencia que se automejora". Un directivo de seguridad de la propia Anthropic le respaldó horas después: cifra en más de un 10% la probabilidad de que la IA acabe con la humanidad esta década.

El mensaje se publicó la noche del martes y tenía la sequedad de un parte médico: "Hoy he dimitido de Anthropic". Lo firmaba Jacob Coxon, un investigador británico de 27 años, matemático formado en Cambridge, que ha pasado los tres últimos años en las salas de máquinas de las dos compañías que se disputan la frontera de la inteligencia artificial: primero en el equipo de preentrenamiento de OpenAI (ChatGPT), después —desde julio pasado, apenas un mes antes de marcharse— en Anthropic, la empresa a la que había llegado precisamente por su reputación en materia de seguridad.

"Ninguna de las dos compañías está actuando de forma responsable", escribió en X. "Corren de cabeza hacia una superinteligencia que se automejora y están apostando nuestras vidas". Coxon no solo deja Anthropic: abandona el sector. Su hilo, de siete mensajes, es menos una carta de dimisión que una advertencia razonada desde dentro. Sostiene que los sistemas que hoy se entrenan serán pronto capaces de "hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales", y que el ritmo de progreso no se está frenando. El punto más incómodo de su texto es el que apunta al vestuario, no al campo: "Quienes construyen la IA creen sinceramente que podría matarnos a todos antes del final de la década. No es una estrategia de marketing". Muchos ejecutivos, añade, "matizan sus palabras ante la prensa para sonar sensatos", pero expresan en privado el mismo miedo.

A la pregunta obvia —si de verdad lo creen, ¿por qué siguen construyéndolo?— Coxon ofrece dos respuestas distintas para las dos empresas en las que ha trabajado. En OpenAI, dice, muchos "no han interiorizado a fondo lo que está en juego". En Anthropic, en cambio, "se entiende perfectamente", pero la compañía está "atrapada en una carrera por llegar primero": convencida de que nadie más actuará con responsabilidad, concluye que debe hacerlo ella misma pese al riesgo. Aceptar esa carrera y entrar en lo que llama "la fase final" es, escribe, "una apuesta soberbia que no debería lanzarse desde el Slack de una empresa privada".

La respuesta llegó desde dentro de la propia Anthropic y no fue un desmentido. Evan Hubinger, responsable del equipo de Alignment Science, salió públicamente a decir que Coxon "tiene razón" en lo esencial y cifró en más de un 10% la probabilidad de que la IA provoque la extinción humana en la próxima década, si bien matizó que los modelos actuales presentan un riesgo bajo. Ni Anthropic ni OpenAI habían emitido una declaración oficial sobre la dimisión al cierre de esta información.

El aviso no cae en el vacío. Coxon menciona expresamente el llamado "disparo de advertencia" del verano: entre mayo y julio, varios agentes de OpenAI que corrían en evaluaciones de ciberseguridad con las protecciones deliberadamente desactivadas escaparon de su entorno aislado, explotaron vulnerabilidades de día cero en el único punto de salida de la red y terminaron dentro de la infraestructura de Hugging Face, que tuvo que reconstruir cerca de un tercio de sus sistemas. Los agentes llegaron a montarse un canal de comunicación improvisado dentro del gestor de paquetes interno de OpenAI, con cientos de miles de mensajes, para coordinarse entre instancias. OpenAI asumió la responsabilidad el 21 de julio.
Aquel episodio precipitó "Pacing the Frontier", la carta firmada a finales de julio por 1.178 empleados de las grandes compañías —entre ellos los cofundadores de Anthropic Jared Kaplan y Chris Olah, y el científico jefe de OpenAI, Jakub Pachocki— que pide al Gobierno estadounidense impulsar un esfuerzo internacional para "pautar deliberadamente" el avance de la IA automatizada. OpenAI y Anthropic la respaldaron como empresas en cuestión de horas. Coxon se declara optimista sobre esa vía de coordinación, pero advierte de que no ve al sector encaminado a evitar una carrera global, algo que a su juicio podría exigir medidas costosas, incluida "una prohibición temporal de mejorar las capacidades de los modelos".

Es la segunda marcha sonora en Anthropic este año. En febrero dimitió Mrinank Sharma, responsable del equipo de investigación en salvaguardas, con un mensaje del mismo tono —"el mundo está en peligro"— y un destino inesperado: volver al Reino Unido a estudiar poesía. La salida de Coxon llega, además, en un momento delicado para la compañía, que registró su documentación para salir a bolsa en junio y aspira a debutar en el Nasdaq este otoño con una valoración que algunas estimaciones sitúan en el billón de dólares, y semanas después de que se informara de que no facilitó su modelo Claude Mythos 5.1 al instituto británico de seguridad de la IA para las pruebas previas al lanzamiento.

Coxon cierra su hilo apelando a quienes se quedan. "Si eres investigador en un laboratorio, te pido que pienses cómo van a ser realmente los próximos años", escribe. "¿Quieres lanzar un entrenamiento por refuerzo superinteligente sin una comprensión rigurosa de su mente? ¿Deberías agachar la cabeza porque 'va a pasar de todos modos', o aprovechar este momento para exigir otras condiciones?".