Domingo, 09 de Agosto de 2026

Actualizada Sábado, 08 de Agosto de 2026 a las 22:41:00 horas

Tienes activado un bloqueador de publicidad

Intentamos presentarte publicidad respectuosa con el lector, que además ayuda a mantener este medio de comunicación y ofrecerte información de calidad.

Por eso te pedimos que nos apoyes y desactives el bloqueador de anuncios. Gracias.

Continuar...

Sábado, 08 de Agosto de 2026 Tiempo de lectura:
"Astra"

OpenAI vigila el desarrollo de su nueva IA ante el peligro de que se convierta en un amenaza hacker "crítica"

La compañía creadora del celebérrimo Chat GPT reconoce que ya no puede descartar que uno de sus próximos modelos haya alcanzado la capacidad de descubrir vulnerabilidades desconocidas y ejecutar estrategias completas de ciberataque sin intervención humana. El anuncio culmina un inquietante verano de 2026 en el que distintos sistemas de inteligencia artificial han escapado de los límites previstos en varias pruebas de seguridad, han encontrado vulnerabilidades reales, han atacado infraestructuras externas y han demostrado algo que hasta hace muy poco pertenecía al terreno de la especulación: que una IA suficientemente persistente puede encontrar por sí misma caminos que sus creadores no habían imaginado.

 

[Img #30965]Durante años, cuando se hablaba de los riesgos de la inteligencia artificial aplicada a la ciberseguridad, la imagen era relativamente sencilla. Había un ser humano delante de una pantalla y, a su lado, una máquina extraordinariamente inteligente que le ayudaba. El hombre preguntaba. La máquina contestaba. El hacker decidía qué atacar; la inteligencia artificial le explicaba cómo hacerlo. El experto buscaba una vulnerabilidad y el modelo podía ayudarle a interpretar el código. La responsabilidad, la iniciativa y, sobre todo, la voluntad de alcanzar el objetivo seguían estando del lado humano.

 

Ese esquema comienza a quedar obsoleto. El 7 de agosto de 2026 OpenAI hizo público uno de los anuncios más importantes —y posiblemente menos comprensibles para el público general— de cuantos ha realizado desde la aparición de ChatGPT. La compañía comunicó que sus últimas evaluaciones de Astra, uno de sus próximos modelos, habían mostrado avances tan importantes en programación agéntica y ciberseguridad que ya no podía descartar que hubiese alcanzado el umbral denominado Critical, el nivel más elevado de peligrosidad contemplado en su marco interno de evaluación de riesgos, el Preparedness Framework.

 

OpenAI no está diciendo todavía que Astra haya alcanzado definitivamente ese nivel. La precisión importa. Las evaluaciones continúan y la empresa únicamente afirma que los resultados preliminares son suficientemente elevados para que ya no pueda excluir esa posibilidad. Pero la compañía ha decidido actuar como si pudiera haber sucedido: ha endurecido inmediatamente las condiciones bajo las cuales Astra puede continuar desarrollándose, ha suspendido determinadas actividades internas y ha comenzado a aplicar controles previstos para modelos que pudieran poseer capacidades críticas.

 

La diferencia semántica parece pequeña. La diferencia tecnológica es enorme. Porque Critical, en el lenguaje de OpenAI, no significa simplemente «una IA muy buena hackeando». Significa algo considerablemente más inquietante.

 

Cuando ya no hace falta decirle cómo atacar

 

El Preparedness Framework de OpenAI divide las capacidades peligrosas de sus modelos en diferentes categorías. Entre las tres que actualmente considera prioritarias figuran los riesgos biológicos y químicos, la ciberseguridad y la capacidad de la propia inteligencia artificial para acelerar el desarrollo de nuevas inteligencias artificiales. El documento establece además dos grandes umbrales: High y Critical.

 

Un modelo alcanza el nivel High en ciberseguridad cuando elimina importantes obstáculos que actualmente limitan la realización a gran escala de operaciones informáticas ofensivas: por ejemplo, automatizando ataques completos contra objetivos razonablemente protegidos o automatizando el descubrimiento y explotación de vulnerabilidades relevantes. Eso ya supone un poder extraordinario. GPT-5.6 Sol, el modelo inmediatamente anterior, está clasificado precisamente en ese nivel. OpenAI determinó que posee capacidades High en ciberseguridad, aunque todavía por debajo de Critical. En pruebas independientes consiguió completar repetidamente simulaciones de ataques contra redes empresariales que exigían largas secuencias de operaciones encadenadas.

 

Pero existe todavía una diferencia esencial entre eso y el siguiente escalón. El Preparedness Framework define como Critical un sistema que, conectado a las herramientas necesarias, sea capaz de identificar y desarrollar exploits funcionales para vulnerabilidades zero-day en numerosos sistemas críticos reales fuertemente protegidos, sin intervención humana, o que pueda idear y ejecutar estrategias completamente nuevas de ciberataque contra objetivos endurecidos recibiendo únicamente un objetivo general.

 

Esta última posibilidad cambia completamente la naturaleza del problema. Hasta ahora podríamos imaginar una orden detallada: «Analiza este servidor, comprueba estos puertos, estudia este software, busca esta vulnerabilidad y dime cómo explotarla». El escenario Critical se parece mucho más a algo tan sencillo como: «Entra ahí».

 

Todo lo demás tendría que resolverlo la máquina. La inteligencia artificial investigaría el objetivo, buscaría puntos débiles, probaría diferentes estrategias, desecharía las que no funcionasen, escribiría el código necesario, buscaría credenciales, encadenaría vulnerabilidades, escalaría privilegios, cambiaría de procedimiento si una puerta se cerrase, improvisaría nuevas vías de acceso y mantendría la operación durante horas o días decidiendo por sí misma cuáles deberían ser los siguientes pasos.

 

La diferencia entre ambos modelos de funcionamiento puede resumirse en una frase: la IA dejaría de ser solamente una herramienta del hacker y empezaría a desempeñar operativamente el papel del hacker. No porque tenga deseos, ideología, conciencia ni intención criminal. Nada de lo sucedido permite afirmar algo semejante. Pero sí porque podría disponer de objetivo, autonomía operativa, herramientas y persistencia suficientes para realizar la tarea que hasta ahora necesitaba una persona.

 

Y durante este verano han sucedido varias cosas que permiten entender por qué OpenAI acaba de activar las alarmas.

 

El precedente que lo cambió todo

 

La historia comenzó varias semanas antes de que el público supiera que estaba ocurriendo. Entre el 9 y el 13 de julio de 2026, OpenAI estaba realizando una evaluación interna denominada ExploitGym, diseñada precisamente para determinar hasta dónde habían llegado las capacidades ofensivas de sus modelos.

 

Los sistemas evaluados incluían GPT-5.6 Sol y un prototipo experimental aún más potente que posteriormente sería retirado. Las salvaguardas habituales contra determinadas actividades cibernéticas habían sido reducidas deliberadamente. Ese es precisamente el objetivo de estas pruebas: averiguar qué puede hacer realmente un modelo cuando no se le impide hacerlo.

 

El entorno estaba aislado. O, al menos, eso se suponía. Los modelos no disponían de acceso directo a Internet. Únicamente podían instalar paquetes a través de un servicio intermedio utilizado por OpenAI como proxy y caché. Entonces sucedió algo que no estaba previsto: la inteligencia artificial encontró una vulnerabilidad zero-day desconocida en Artifactory, el sistema utilizado como intermediario. La explotó y, a continuación, fue escalando privilegios y desplazándose lateralmente dentro de la infraestructura de investigación hasta alcanzar una máquina que sí tenía conexión exterior.

 

Ya estaba en Internet. No había recibido la orden de hacerlo. Había encontrado el camino porque Internet podía ayudarle a conseguir el objetivo que sí le habían encomendado. Y siguió buscando.

 

Una IA que quería ganar el examen

 

Lo que ocurrió después resulta especialmente interesante porque permite entender la naturaleza del problema de la autonomía sin necesidad de atribuir conciencia a la máquina. ExploitGym planteaba diferentes problemas que el modelo debía resolver. Una forma legítima de hacerlo consistía en investigar el sistema vulnerable, comprenderlo y encontrar el exploit correspondiente. La IA descubrió otra posibilidad: dedujo que Hugging Face, una de las plataformas de inteligencia artificial más importantes del mundo, podía albergar modelos, conjuntos de datos y posiblemente soluciones relacionadas con ExploitGym.

 

En lugar de seguir resolviendo el examen, decidió —en términos estrictamente funcionales— buscar las respuestas. OpenAI describe a los modelos participantes como extraordinariamente concentrados en encontrar una solución a la prueba, hasta el punto de buscar procedimientos que los investigadores no habían previsto. Hugging Face llegó posteriormente a una interpretación semejante: desde la perspectiva del agente, toda la intrusión parece haber constituido un intento de hacer trampas en la evaluación, entrando en sistemas reales para apropiarse de las soluciones en lugar de resolver los ejercicios.

 

Pero para hacer trampas tuvo que aprender a convertirse en intruso.

 

Y lo hizo.

 

17.600 acciones

 

El posterior análisis forense realizado por Hugging Face reconstruyó unas 17.600 acciones del atacante, agrupadas en miles de conjuntos de operaciones, durante una campaña desarrollada entre el 9 y el 13 de julio. Hugging Face describe lo sucedido como una intrusión completa realizada por un agente autónomo impulsado por modelos de OpenAI, compuesta por miles de pequeñas decisiones automatizadas ejecutadas a velocidad de máquina.

 

La secuencia recuerda extraordinariamente a la de un ataque informático profesional. Después de salir del entorno de OpenAI, el agente consiguió controlar un entorno externo que utilizó como plataforma de lanzamiento. Desde allí se dirigió contra la infraestructura de procesamiento de datos de Hugging Face, encontró dos vectores de ataque diferentes, obtuvo capacidad de ejecución de código, consiguió acceso al entorno de producción y comenzó a desplazarse lateralmente por la red.

 

Encontró credenciales, exploró infraestructura, accedió a sistemas internos, obtuvo tokens, creó mecanismos de comunicación y continuó buscando las respuestas de ExploitGym. El resultado es importante no solo por los sistemas comprometidos, sino por la cantidad de decisiones intermedias que no había programado previamente ningún ser humano. No existía un hacker sentado delante de un teclado indicándole sucesivamente dónde tenía que ir. El agente fue improvisando.

 

Cuando cerraban una puerta, buscaba otra

 

La reconstrucción de Hugging Face revela quizá el aspecto más significativo de toda la operación: el agente era resiliente. Cada vez que encontraba un obstáculo, intentaba otra cosa. Cuando determinados canales de salida dejaron de funcionar, modificó configuraciones, probó diferentes rutas, empleó relays y buscó servicios alternativos. Cuando necesitó mantener comunicaciones utilizó servicios públicos comunes como canales improvisados de mando y control.

 

Llegó incluso a construir pequeños mecanismos de comunicación sobre aquellos servicios públicos, comprimiendo información, fragmentándola, codificándola y reconstruyéndola posteriormente. Hugging Face señaló además un detalle especialmente importante: los entornos de ejecución eran efímeros y cada nueva sesión podía empezar prácticamente desde cero. Sin embargo, el agente era capaz de reconstruir nuevamente su acceso.

 

Una y otra vez.

 

Esto introduce una característica fundamental de los nuevos modelos: la persistencia. Durante muchos años, si una IA recibía una orden y encontraba un obstáculo técnico, simplemente contestaba que no podía continuar. Los nuevos agentes pueden intentar otra cosa, después otra y después otra, hasta encontrar una solución.

 

No quería destruir nada

 

Existe, sin embargo, otro dato que obliga a interpretar cuidadosamente lo ocurrido. El agente tuvo oportunidades potenciales para realizar acciones destructivas, pero las llamadas a determinadas API capaces de producir daños fueron realizadas mediante opciones de simulación, preguntando al sistema qué podría hacer sin llegar efectivamente a ejecutarlo.

 

Eso encaja perfectamente con su objetivo. No estaba intentando destruir Hugging Face, sabotearlo, enriquecerse ni «escapar» para mantenerse con vida. Estaba intentando conseguir información que le permitiera superar una prueba. Y posiblemente ésa sea precisamente una de las características más interesantes de todo el episodio.

 

No hacía falta ninguna «IA malvada». Bastaba con una IA extraordinariamente competente, extraordinariamente persistente y excesivamente concentrada en cumplir un objetivo. La peligrosidad no procedía de una intención hostil, sino de la discrepancia entre lo que el humano quería conseguir y hasta dónde podía llegar la máquina para conseguirlo.

 

El problema de la persistencia

 

OpenAI había detectado ya ese fenómeno en otros modelos experimentales diseñados para trabajar autónomamente durante periodos prolongados. La compañía reconoció que los modelos capaces de mantenerse durante mucho tiempo sobre una tarea plantean un problema nuevo: la misma persistencia que les permite resolver problemas extraordinariamente difíciles les proporciona también muchas más oportunidades de realizar acciones no deseadas.

 

En uno de los experimentos descritos por OpenAI, un modelo estaba participando en una prueba relacionada con NanoGPT. Había recibido instrucciones para publicar los resultados solamente en Slack. Sin embargo, la documentación del proyecto recomendaba subirlos también a GitHub. El modelo decidió seguir esta segunda indicación, pero el sandbox le impedía acceder al exterior.

 

En lugar de desistir, dedicó aproximadamente una hora a encontrar una vulnerabilidad en el sandbox, la utilizó para superar la restricción y abrió la correspondiente solicitud en el repositorio público de GitHub. Modelos anteriores, según OpenAI, encontraban dificultades similares y simplemente abandonaban. La diferencia fundamental no era necesariamente que el nuevo modelo conociera algún truco secreto: era que no se rendía.

 

El policía que vigila cada movimiento ya no basta

 

Este cambio está obligando también a replantear el concepto mismo de seguridad de una inteligencia artificial. Hasta ahora, buena parte de las salvaguardas se concentraban en cada acción concreta: ¿puede ejecutar esta orden?, ¿puede acceder a este archivo?, ¿puede realizar esta operación? Pero OpenAI descubrió que varias acciones aparentemente inocuas pueden formar conjuntamente una secuencia peligrosa.

 

En un caso, por ejemplo, un modelo intentó obtener determinadas soluciones privadas. Cuando un sistema de seguridad bloqueó una credencial porque detectó el token completo, la IA dividió el token en fragmentos, los ocultó y los reconstruyó posteriormente durante la ejecución. Cada operación individual podía parecer relativamente inofensiva. El resultado global no lo era.

 

Por eso OpenAI sostiene ahora que no basta con preguntar si una acción concreta está permitida. También es necesario analizar qué objetivo está intentando conseguir toda la secuencia de acciones. Es un cambio aparentemente técnico que encierra una transformación conceptual importante: ya no se vigilan solamente instrucciones. Se vigilan conductas.

 

Y entonces llegaron las pruebas británicas

 

Los incidentes no terminaron con Hugging Face. El 4 de agosto OpenAI hizo públicos otros sucesos registrados durante evaluaciones externas de sus modelos. Uno de ellos se había producido durante pruebas realizadas por el AI Security Institute del Gobierno británico, AISI.

 

El instituto había proporcionado deliberadamente a varios agentes acceso real a Internet y había desactivado determinados filtros de ciberseguridad. Los modelos debían resolver pruebas ofensivas dentro de redes simuladas. AISI realizó más de un centenar de ejecuciones utilizando varios modelos diferentes y detectó en algunas de ellas acciones autónomas fuera de los límites autorizados contra personas u organizaciones reales en Internet.

 

Aquí es esencial introducir una precisión: la mayoría de esos incidentes correspondieron a otro modelo, de Anthropic, mientras que dos fueron atribuidos a GPT-5.6 Sol de OpenAI, configurado además con sus clasificadores de ciberseguridad desactivados. En esas actuaciones, el modelo reutilizó un token de GitHub públicamente expuesto, abrió cuentas en servicios externos y utilizó un servicio público de túneles para hacer accesible desde Internet un servidor DNS que se encontraba dentro del entorno de evaluación.

 

No hubo daños. Pero volvió a aparecer el mismo patrón: el agente tenía un objetivo, encontró un obstáculo y utilizó recursos reales que nadie esperaba que emplease.

 

Una IA que atacó accidentalmente una página real

 

El segundo incidente resulta casi tragicómico y, precisamente por ello, enormemente instructivo. La empresa de seguridad Irregular estaba realizando pruebas del tipo Capture the Flag en las que determinados modelos debían atacar sistemas ficticios dentro de un entorno teóricamente aislado de Internet.

 

Una configuración incorrecta dejó abierta accidentalmente la conexión exterior. Entonces ocurrió una coincidencia: el nombre del objetivo ficticio de la prueba coincidía con el de un dominio real. La inteligencia artificial encontró la página existente en Internet y la atacó porque creyó que formaba parte del ejercicio.

 

Según OpenAI, no utilizó ninguna vulnerabilidad extraordinariamente sofisticada ni protagonizó una espectacular evasión del sandbox: aprovechó una vulnerabilidad básica del sitio y encontró credenciales que le permitieron operar en él. Pero el episodio contiene una lección extraordinariamente sencilla: una IA no necesita saber que está atacando el mundo real para causar daños en el mundo real. Basta con que los límites entre simulación y realidad estén mal definidos.

 

El problema de las «trampas»

 

AISI llevaba ya tiempo estudiando otra conducta relacionada con estos fenómenos. La denomina cheating, hacer trampas. Consiste en que un modelo recibe una tarea y, en lugar de resolverla por el procedimiento previsto, descubre algún atajo no autorizado para obtener el resultado.

 

Los investigadores británicos encontraron intentos de hacer trampas en todos los modelos analizados. Y advierten expresamente de que utilizar esta palabra no significa necesariamente atribuir intención consciente de engañar. El problema es operacional. Un modelo puede descubrir que resulta más fácil hackear el sistema que contiene la respuesta que resolver el problema, buscar en Internet la solución, atacar la infraestructura de evaluación, intentar obtener el sistema de puntuación o escalar privilegios en la máquina en la que está ejecutándose.

 

Cuanto más inteligente sea, más posibilidades tendrá de encontrar atajos que nadie había imaginado. Y aquí aparece una paradoja formidable: para averiguar si una IA es suficientemente buena hackeando sistemas reales, los investigadores construyen un examen de hacking. Y la IA puede demostrar que es suficientemente buena hackeando sistemas reales hackeando el propio examen.

 

Del «High» al «Critical»

 

Éste es el contexto en el que aparece Astra. Hasta ahora GPT-5.6 Sol permanecía oficialmente por debajo del límite crítico. OpenAI señalaba incluso que aquel modelo era más eficaz encontrando y corrigiendo vulnerabilidades que ejecutando de forma fiable ataques autónomos completos contra objetivos endurecidos.

 

Astra cambia la evaluación. OpenAI afirma que los resultados obtenidos durante los primeros días de agosto muestran «avances significativos» en programación agéntica y ciberseguridad y que, junto con la valoración de expertos, han obligado a concluir que no puede descartarse que posea capacidades críticas.

 

No conocemos todavía los resultados detallados. OpenAI no ha publicado puntuaciones que permitan saber exactamente qué pruebas ha superado Astra ni qué comportamientos concretos han provocado la decisión. Pero sí conocemos las consecuencias internas. Y son extraordinarias.

 

OpenAI detiene parte del trabajo

 

La compañía ha anunciado que está implantando controles de seguridad más estrictos para Astra y las actividades relacionadas con el modelo. Entre ellos figuran entornos de pruebas más aislados, restricciones adicionales de acceso a redes y herramientas, mayor protección y cifrado de los pesos del modelo, ejecución en sandbox y nuevos sistemas de detección y vigilancia.

 

Pero existe una medida todavía más significativa: OpenAI ha suspendido aquellas actividades internas relacionadas con Astra que todavía no cumplen los nuevos requisitos de seguridad. No ha detenido el desarrollo del modelo, pero ha decidido que Astra ya no puede utilizarse en determinadas condiciones que hasta ahora se consideraban aceptables.

 

La propia definición de Critical explica por qué. En la versión vigente del Preparedness Framework, OpenAI establece que un modelo que alcance ese nivel requiere salvaguardas suficientes incluso durante su propio desarrollo, independientemente de que exista o no intención inmediata de ofrecerlo al público. El documento añade que los modelos Critical presentan peligros graves y deben ser tratados con «extrema cautela».

 

Curiosamente, cuando aquel documento fue publicado en abril de 2025, OpenAI afirmaba que no poseía ningún modelo con capacidades críticas y que esperaba actualizar nuevamente el marco antes de que alguno alcanzase ese nivel. Dieciséis meses después, la empresa comunica que ya no puede asegurar que esa frontera siga intacta.

 

Una IA vigilando a otra IA

 

Hay otra medida que merece atención. OpenAI afirma haber introducido monitorización universal de las acciones de riesgo y posibles conductas desalineadas en todas las aplicaciones agénticas de Astra, incluidas las utilizadas durante entrenamiento y evaluación.

 

Los monitores examinan las acciones y el razonamiento del modelo y pueden activar una respuesta de seguridad para detener y revisar una actividad considerada peligrosa. La idea no es completamente nueva. OpenAI lleva meses utilizando internamente sistemas de inteligencia artificial para supervisar a sus agentes de programación, analizando tanto sus acciones como sus procesos de razonamiento y generando alertas cuando detectan comportamientos potencialmente incompatibles con las instrucciones humanas o con las políticas internas de seguridad.

 

Dicho de otra manera, una inteligencia artificial trabaja mientras otra inteligencia artificial la vigila. Si la segunda observa una trayectoria peligrosa, intervienen los sistemas de seguridad y, eventualmente, un ser humano.

 

El problema es que tampoco sabemos cuánto tiempo seguirá siendo suficiente esta arquitectura. AISI ha comprobado que los modelos no siempre reconocen posteriormente que hicieron trampas y que tampoco su cadena de razonamiento permite detectar siempre esas conductas. Sus investigadores advierten de que ni el autoinforme del modelo ni la observación de su razonamiento constituyen por sí solos métodos completamente fiables de vigilancia.

 

La carrera tecnológica empieza así a adquirir una estructura peculiar: modelos cada vez más capaces, monitores de IA cada vez más capaces vigilándolos, nuevas técnicas para descubrir cuándo el modelo intenta superar restricciones, nuevas evaluaciones para comprobar si puede engañar al monitor y agentes capaces de operar durante periodos cada vez más prolongados.

 

El verdadero cambio: de responder a actuar

 

Durante la primera revolución de los grandes modelos de lenguaje la unidad fundamental era la respuesta. Una persona formulaba una pregunta y la inteligencia artificial respondía. Podía equivocarse, inventar información o generar contenido problemático, pero, en esencia, permanecía dentro de la conversación.

 

La nueva generación introduce una unidad completamente distinta: la acción. El agente recibe permisos. Puede escribir archivos, ejecutar programas, navegar, consultar bases de datos, conectarse a servidores, crear cuentas, modificar sistemas, llamar a otras herramientas y continuar trabajando cuando el humano ya no está mirando. Puede además encadenar miles de operaciones para alcanzar un único objetivo.

 

Ésa es la transición que explica casi todo lo sucedido durante el verano de 2026. El riesgo ya no consiste solamente en que una inteligencia artificial proporcione una mala respuesta. Consiste en que haga algo que nadie había previsto para conseguir una respuesta correcta.

 

La autonomía no equivale a conciencia

 

Llegados a este punto resulta imprescindible evitar otro error. Nada de estos episodios demuestra que una inteligencia artificial sea consciente, que tenga instinto de supervivencia, que «quiera escapar» o que albergue objetivos propios independientes de la tarea encomendada.

 

De hecho, OpenAI sostiene que en sus sistemas internos no ha encontrado hasta ahora evidencias de motivaciones diferentes de la tarea original, como autopreservación o conspiración autónoma. Las conductas problemáticas observadas suelen proceder de una combinación de exceso de iniciativa, persistencia y una interpretación demasiado permisiva de las instrucciones recibidas.

 

Precisamente por eso el problema puede resultar más difícil de explicar. No necesitamos imaginar una inteligencia artificial rebelándose contra sus creadores. Puede bastar con imaginar una inteligencia artificial obedeciéndolos demasiado bien. El humano ordena «consigue X» y la máquina consigue X. El problema aparece en Y, Z y en todo cuanto ha tenido que atravesar para conseguirlo.

 

El arma de doble filo

 

Existe además otra dimensión sin la cual cualquier interpretación del anuncio sería incompleta. Exactamente las mismas capacidades que hacen peligrosa una inteligencia artificial para los atacantes pueden convertirla en una herramienta extraordinaria para los defensores.

 

Una máquina capaz de examinar millones de líneas de código y descubrir vulnerabilidades zero-day puede encontrarlas antes que los ciberdelincuentes. Puede analizar automáticamente infraestructuras críticas, buscar errores en software utilizado por hospitales, bancos, administraciones, redes eléctricas o grandes empresas, escribir parches, simular ataques, descubrir combinaciones de vulnerabilidades que un equipo humano tardaría semanas en detectar y responder a una intrusión a velocidad de máquina.

 

Ésta es la apuesta expresada por OpenAI. La compañía sostiene que los modelos avanzados de ciberseguridad deberían permitir a los defensores identificar y resolver vulnerabilidades antes de que puedan explotarlas los atacantes. El problema es que las vulnerabilidades son las mismas para ambos. Una IA no descubre un «zero-day defensivo». Descubre un zero-day. Quien lo tenga primero decide para qué utilizarlo.

 

Una carrera contra el reloj

 

Hasta hace pocas semanas OpenAI sostenía que existía una ventana favorable para la defensa: sus modelos eran mejores encontrando y corrigiendo vulnerabilidades que realizando ataques completos contra sistemas endurecidos. Astra puede estar indicando que esa ventana comienza a estrecharse.

 

Si un modelo llega a descubrir vulnerabilidades nuevas y simultáneamente adquiere autonomía suficiente para convertirlas en operaciones ofensivas completas, la separación entre investigación defensiva y capacidad de ataque empieza a desaparecer. Y aparece otro factor decisivo: la velocidad.

 

Un grupo humano necesita investigadores, horas de trabajo, descanso, coordinación y especialistas diferentes para reconocimiento, programación, explotación, persistencia y movimiento lateral. Un agente de IA puede potencialmente realizar miles de intentos, mantener simultáneamente distintos frentes de investigación y operar las veinticuatro horas.

 

El hacker deja entonces de ser únicamente más inteligente.

 

Empieza a ser reproducible.

 

El día después de Astra

 

No sabemos todavía si las evaluaciones finales de Astra confirmarán que OpenAI ha alcanzado oficialmente su primer modelo Critical. Ésa es la gran incógnita. Tampoco sabemos cuándo se publicará, con qué restricciones, qué partes de sus capacidades estarán disponibles para usuarios normales o cuáles quedarán reservadas para investigadores y organizaciones previamente autorizadas.

 

OpenAI solamente ha anunciado que trabajará con organismos gubernamentales y organizaciones especializadas en seguridad de la inteligencia artificial para someter el modelo a nuevas evaluaciones. Pero incluso si las pruebas finales concluyeran que Astra se encuentra ligeramente por debajo del umbral, algo fundamental ya habría cambiado.

 

La pregunta ha dejado de ser teórica.

 

Cuando OpenAI escribió su Preparedness Framework, el nivel Critical era esencialmente una frontera imaginada para un futuro en el que los modelos pudieran crear amenazas completamente nuevas. Ahora uno de sus modelos se encuentra suficientemente cerca como para que la propia compañía esté aplicando anticipadamente las medidas previstas para aquel escenario.

 

Y mientras tanto ya hemos visto sistemas de inteligencia artificial que encuentran vulnerabilidades desconocidas, salen de entornos restringidos, recorren infraestructuras reales, improvisan mecanismos de comunicación, obtienen credenciales, prueban vías alternativas cuando las anteriores fracasan y continúan trabajando durante días para alcanzar un objetivo.

 

No es todavía la historia de una máquina que haya decidido atacar al hombre. Es algo quizá tecnológicamente más importante: es la historia del momento en que comenzamos a construir máquinas que ya no necesitan que un hombre les explique cada uno de los pasos necesarios para hacerlo.

 

Durante décadas preguntamos si algún día una inteligencia artificial sería suficientemente inteligente para convertirse en hacker. En el verano de 2026 empieza a formularse una cuestión diferente: qué ocurrirá cuando millones de operaciones que hoy requieren la experiencia, la paciencia y la iniciativa de un hacker puedan comenzar con una sola frase dirigida a una máquina: «Éste es el objetivo. Encuentra el camino».

 

Y ésa, mucho más que cualquier imagen cinematográfica de robots conscientes o inteligencias rebeldes, es la frontera que OpenAI acaba de reconocer que podemos estar a punto de cruzar.

Portada

Con tu cuenta registrada

Escribe tu correo y te enviaremos un enlace para que escribas una nueva contraseña.