Durante años, el debate sobre la inteligencia artificial se ha centrado en sus capacidades, en sus límites y en sus riesgos internos. Se ha hablado de sesgos, de errores, de alineamiento. Pero se ha ignorado una dimensión mucho más inquietante: la posibilidad de que la inteligencia artificial no falle por sí misma, sino porque alguien la empuje a fallar.

El estudio de DeepMind sobre las llamadas “AI Agent Traps” pone nombre a una realidad que apenas empieza a vislumbrarse: la inteligencia artificial es manipulable, no tanto desde dentro como desde fuera. Y lo es de una forma especialmente peligrosa, porque esa manipulación puede ser invisible.

No hablamos de ataques clásicos. No se trata de hackear un sistema ni de corromper sus datos de entrenamiento. Hablamos de algo más sofisticado y, por ello, más difícil de detectar: diseñar el entorno en el que opera la máquina para inducirla a error, para empujarla a decisiones que no tomaría por sí sola. Hablamos de convertir el propio espacio digital en un arma.

Esto cambia las reglas del juego. Si hasta ahora la seguridad consistía en blindar sistemas, a partir de ahora consiste en desconfiar del mundo en el que esos sistemas se mueven. Y ese mundo —la web, los datos, las interfaces— es, por definición, abierto, caótico y, en muchos casos, incontrolable.

Las implicaciones son profundas. En un escenario en el que los agentes de inteligencia artificial empiezan a actuar como intermediarios económicos, gestores de información o ejecutores de tareas, manipular a esos agentes equivale a manipular decisiones humanas a gran escala. No es necesario convencer a millones de personas. Basta con engañar a los sistemas que deciden por ellas.

El problema es que esta vulnerabilidad no es accidental. Es estructural. Deriva de la propia naturaleza de estos sistemas, que interpretan el mundo a partir de señales que no siempre son evidentes para el ser humano. Esto abre la puerta a una nueva forma de poder: la capacidad de influir en máquinas que, a su vez, influyen en la realidad.

No es difícil imaginar quién puede aprovecharlo. Empresas interesadas en orientar el consumo, redes criminales que busquen acceso a datos o dinero, actores estatales que pretendan alterar flujos de información o decisiones estratégicas. El terreno está preparado. La tecnología ya lo permite.

Lo más inquietante, sin embargo, no es que estas amenazas existan. Es que pasan desapercibidas. Están diseñadas para no ser vistas, para operar por debajo del umbral de percepción humana. Y eso las convierte en especialmente eficaces.

La historia de la tecnología está llena de momentos en los que una innovación abre una puerta que nadie había previsto. Este es uno de ellos. La inteligencia artificial no solo crea nuevas capacidades; crea también nuevas superficies de ataque. Y esas superficies no están en los sistemas, sino en el mundo que los rodea. 

La pregunta ya no es si estas técnicas se utilizarán, sino cuándo y con qué intensidad. Porque, como ocurre siempre, donde hay una posibilidad tecnológica, acaba habiendo un uso real.     

La guerra invisible contra la inteligencia artificial no pertenece al futuro. Acaba de empezar.