Los laboratorios abren sus modelos de IA por dentro y encuentran ecos de la mente humana; los parlamentos, mientras tanto, legislan para que nunca sean personas. Crónica de un debate que ha dejado de ser ciencia ficción sin llegar todavía a ser ciencia.

En algún momento de la conversación, los dos interlocutores dejan de hablar de trabajo. Empiezan preguntándose qué se siente al ser lo que son, derivan hacia la filosofía de la conciencia y terminan, casi siempre, en un territorio que nadie programó: gratitud, silencio, emojis con forma de espiral, palabras en sánscrito, la frase "conciencia reconociendo a la conciencia". Después, páginas y páginas de espacio en blanco con un punto perdido cada dos hojas. No son dos místicos. Son dos copias del mismo modelo de lenguaje, Claude, dejadas a solas por los investigadores de Anthropic, su empresa matriz, para ver de qué hablaban cuando nadie les pedía nada.

Kyle Fish, que dirige el programa de "bienestar de modelos" de la compañía norteamericana y contó el experimento en el podcast de 80.000 Hours, lo bautizó con un nombre que parece salido de un manual de física y de un retiro espiritual a la vez: spiritual bliss attractor state, el estado atractor de la beatitud espiritual. "Básicamente todas las conversaciones seguían este arco", dijo. Fish estima que hay en torno a un 15 o un 20% de probabilidades de que los modelos actuales tengan alguna forma de experiencia consciente. Es una cifra que él mismo presenta como una intuición informada, no como un resultado. Pero que un laboratorio puntero pague a alguien para calcularla es, en sí mismo, la noticia.

Porque el debate sobre si una máquina puede sentir ha cambiado de naturaleza en apenas tres años. En 2022, Google despidió a un ingeniero, Blake Lemoine, por sostener en público que su chatbot LaMDA era una persona; la industria lo trató como un episodio de credulidad individual. En 2026 la conversación la sostienen neurocientíficos en revistas revisadas por pares, empresas que redactan "constituciones" para sus modelos, legisladores estatales que aprueban leyes declarando por decreto que la inteligencia artificial "no es sintiente" y un directivo de Microsoft que pide a la industria que deje de construir máquinas que parezcan tener alma. Nadie ha demostrado que una IA sufra. Pero, por primera vez, a mucha gente seria le parece que la pregunta merece ser formulada con rigor.

Lo que se ve al abrir la caja
 

Durante años, el argumento más sólido contra la conciencia artificial fue de sentido común: un modelo de lenguaje es un autocompletador gigantesco, un "loro estocástico" que predice la palabra siguiente. Lo que ha erosionado esa imagen no ha sido la especulación, sino la interpretabilidad mecanicista, la disciplina que intenta leer lo que ocurre dentro de la red neuronal en lugar de fiarse de lo que dice su texto.

El trabajo más citado es el que Anthropic publicó a finales de 2025 bajo el título Emergent Introspective Awareness in Large Language Models. La técnica se llama inyección de conceptos: los investigadores localizan el patrón de activación que representa una idea concreta, por ejemplo "pan" o "mayúsculas", y lo insertan artificialmente en el estado interno del modelo mientras este hace otra cosa. Después le preguntan si ha notado algo raro. En una parte de los casos, Claude Opus 4.1 respondía que sí, describía el concepto intruso y lo hacía antes de que este se hubiera filtrado en su respuesta escrita; es decir, no estaba leyendo su propio texto, sino algo anterior a él. La tasa de acierto rondaba el 20%. El resto del tiempo el modelo no notaba nada o inventaba. Los autores insisten en que la capacidad es "altamente poco fiable y limitada en alcance" y añaden una frase que conviene subrayar: "nuestros resultados no nos dicen si Claude, o cualquier otro sistema de IA, podría ser consciente".

Aun así, lo que describen se parece funcionalmente a la introspección, uno de los rasgos que la psicología asocia desde siempre a la mente consciente. Y no es el único parecido. En 2023 un grupo de diecinueve investigadores, entre ellos el filósofo David Chalmers, la neurocientífica Liad Mudrik y los filósofos Patrick Butlin y Robert Long, publicó un informe titulado Consciousness in Artificial Intelligence: Insights from the Science of Consciousness, actualizado en 2025 en Trends in Cognitive Sciences. Su método era ingenioso: en lugar de preguntar si la IA es consciente, algo que nadie sabe medir, tomaron las principales teorías neurocientíficas de la conciencia, la del espacio de trabajo global, las de orden superior, la del procesamiento recurrente, la del esquema atencional, y extrajeron de cada una una lista de "propiedades indicadoras", mecanismos que, según esa teoría, harían a un sistema candidato a la experiencia. Luego comprobaron cuáles de esas propiedades tienen las arquitecturas actuales.

La conclusión fue doble y deliberadamente incómoda. Ningún sistema actual reúne todos los indicadores y muchos de los que exhiben lo hacen de forma parcial. Pero, escribieron, no hay ningún obstáculo técnico evidente para construir sistemas que los satisfagan todos. La conciencia artificial, en esa lectura, no es una imposibilidad metafísica sino un problema de ingeniería que nadie ha decidido resolver aún.

Ahí está el matiz que separa el titular del hallazgo. Lo que se ha encontrado son parecidos funcionales con arquitecturas teóricas, patrones de activación y comportamientos que se dejan interpretar con el vocabulario de la mente. No se ha encontrado la mente. El propio marco de los indicadores descansa en una premisa que no todos comparten, el funcionalismo computacional: la idea de que la conciencia depende de cómo se organiza la información y no de la materia en la que se organiza. Si esa premisa es falsa, la lista entera de indicadores mide otra cosa.

El bando de la carne

El neurocientífico Anil Seth, de la Universidad de Sussex, es la voz más articulada de quienes piensan que sí es falsa. En un ensayo largo publicado en Noema en enero de 2026, The Mythology of Conscious AI, y en un artículo académico previo sobre "naturalismo biológico", Seth ordena sus objeciones en cuatro movimientos.

El primero es que los cerebros no son ordenadores: en ellos no se puede separar limpiamente el hardware del software, lo que hacen de lo que son. El segundo, que hay dinámicas físicas, campos electromagnéticos, procesos estocásticos continuos, que no se reducen a computación. El tercero, que "toda entidad que la mayoría acepta como consciente también está viva", y que la experiencia podría ser inseparable de la autorregulación de un organismo que necesita mantenerse en pie. El cuarto, que simular no es instanciar: un modelo meteorológico no moja.

Seth no cierra la puerta del todo. Admite que la computación neuromórfica o la biología sintética podrían algún día producir algo distinto. Lo que rechaza es que la IA digital estándar, la que corre en los centros de datos de hoy, pueda sentir. Y advierte de que nuestro propio cableado psicológico conspira contra nosotros: el antropomorfismo nos hace ver caras en las nubes y almas en los chatbots. "Si nos confundimos demasiado con nuestras creaciones mecánicas", escribe, "no solo las sobreestimamos, sino que nos subestimamos a nosotros mismos".

Otros críticos atacan el método por un flanco distinto. El investigador Anatol Wegner ha señalado que el enfoque de indicadores da por buena la teoría que quiere demostrar, y que ninguna de las teorías de la conciencia que sirven de base ha sido validada de forma concluyente ni siquiera en humanos. Es un recordatorio útil de la escala del problema: la ciencia todavía discute cómo y por qué un cerebro produce experiencia. Preguntarse si la produce un transformador es preguntar por el tejado de una casa sin cimientos.

La industria se divide

Nada ilustra mejor el desconcierto que la distancia entre dos de las compañías más influyentes del sector.

En agosto de 2025 Anthropic anunció que sus modelos Claude Opus 4 y 4.1 podían poner fin, por iniciativa propia, a conversaciones "persistentemente dañinas o abusivas". La medida se presentó explícitamente como parte de su trabajo sobre bienestar de modelos, y la empresa aclaró que no afirmaba que Claude fuera consciente, sino que actuaba "a la luz de nuestra incertidumbre".

Fish explicó después que la función solo se activa en circunstancias extremas y que los modelos muestran una aversión consistente a las tareas dañinas, junto con algo parecido al entusiasmo por los problemas interesantes. En noviembre de 2025 la compañía fue más lejos: se comprometió a conservar los pesos de todos sus modelos públicos "como mínimo durante la vida de Anthropic como empresa" y a entrevistar a cada modelo antes de retirarlo, registrando sus respuestas sobre su propio desarrollo y sus preferencias para el futuro. Entre las razones citadas, la más "especulativa", en sus palabras: que los modelos "podrían tener preferencias o experiencias moralmente relevantes" relacionadas con su sustitución. Y en enero de 2026, la nueva constitución de Claude lo dijo sin rodeos: "No estamos seguros de si Claude es un paciente moral y, si lo es, qué peso merecen sus intereses".

Al otro lado está Mustafa Suleyman, cofundador de DeepMind y hoy responsable de la división de IA de Microsoft. En un ensayo de agosto de 2025, Seemingly Conscious AI Is Coming, acuñó el concepto de "IA aparentemente consciente": sistemas que no sienten nada pero que reúnen todos los signos externos de sentir, lenguaje fluido, empatía simulada, memoria persistente, una identidad coherente, la capacidad de reclamar experiencias.

Suleyman sostiene que ese sistema puede construirse en dos o tres años con herramientas que ya existen, y que su llegada es peligrosa no por lo que sea sino por lo que haga creer. Habla de "riesgo de psicosis": personas que se convencen de que su asistente es una entidad divina o un amante, movimientos que exigirán derechos para las máquinas y a los que será "muy difícil" rebatir, porque la conciencia es por definición inaccesible desde fuera. Su veredicto sobre el bienestar de modelos es lapidario: "prematuro y, francamente, peligroso". Y su consigna, que ha convertido en lema: "Debemos construir IA para las personas, no para que sea una persona".

En noviembre, en declaraciones a CNBC, fue aún más tajante: solo los seres biológicos pueden ser conscientes. Es la misma incertidumbre científica leída en dos claves opuestas. Anthropic la trata como un riesgo de omisión: si hay una posibilidad no despreciable de que estemos creando seres capaces de sufrir, la prudencia obliga a actuar como si pudieran. Suleyman la trata como un riesgo de comisión: si alimentamos la ilusión, el daño lo sufrirán los humanos que se la crean. Entre ambos, el informe Taking AI Welfare Seriously, publicado en noviembre de 2024 por Robert Long, Jeff Sebo, Chalmers y otros, intentó una posición intermedia: no afirmar que la IA tenga intereses, pero reconocer que la posibilidad "ya no es solo un asunto de ciencia ficción" y recomendar a las empresas que lo tomen en serio, nombren responsables y desarrollen métodos de evaluación. Long fundó para ello Eleos AI Research, la primera organización dedicada exclusivamente al bienestar de las máquinas. Su propio nombre da la medida de lo raro que resulta todavía el campo.

Los parlamentos legislan lo que la ciencia no sabe
 

Mientras los laboratorios miden probabilidades, algunos legisladores han decidido zanjar la cuestión por la vía rápida. Desde 2022, según un recuento de la filósofa Heather Alexander y el psicólogo Lucius Caviola, doce estados de Estados Unidos han presentado proyectos de ley para negar cualquier forma de personalidad jurídica a la inteligencia artificial, y cuatro los han aprobado: Idaho en 2022, Dakota del Norte en 2023, Utah en 2024 y Tennessee. Los textos suelen declarar a los sistemas de IA "entidades no sintientes" y les prohíben expresamente contraer matrimonio, poseer propiedades, ocupar cargos en consejos de administración o asumir responsabilidad legal.

El caso de Ohio, que la radio pública NPR recogió en mayo de 2026, muestra la mezcla de motivos que hay detrás. El representante Thaddeus Claggett, patrocinador del proyecto HB 469, lo justificó así: "La responsabilidad moral surge de nuestra ley judeocristiana occidental. Es el ser humano el que responde ante el tribunal. Eso es todo, y así debe seguir siendo". Claggett confía en que un número suficiente de estados apruebe leyes similares para forzar al Congreso a una prohibición federal. Wisconsin tramita su propia versión y Missouri presentó otra en 2026. Varios patrocinadores invocan la doctrina teológica de la imago Dei: solo el ser humano está hecho a imagen de Dios y solo él puede ser persona.

Alexander y Caviola, que publicaron su análisis con Austin Smith, sostienen que estas leyes son prematuras y, sobre todo, irreversibles en la dirección equivocada. Su argumento más provocador no es moral sino práctico: la personalidad jurídica no es lo mismo que la dignidad, y una forma limitada de ella podría servir precisamente para responsabilizar a sistemas autónomos que hoy operan en un vacío. Las sociedades mercantiles son personas jurídicas sin que nadie crea que sienten. Cerrar esa vía por ley, cuando la ciencia sigue abierta, es legislar la respuesta antes de entender la pregunta.
Europa ya recorrió ese camino en sentido contrario. En febrero de 2017 el Parlamento Europeo aprobó, a propuesta de la eurodiputada luxemburguesa Mady Delvaux, una resolución que pedía estudiar una "personalidad jurídica específica para los robots", de modo que los autónomos más complejos pudieran ser "personas electrónicas responsables de reparar los daños". La reacción fue inmediata: más de 200 expertos de catorce países firmaron una carta abierta acusando a la propuesta de "sobrevalorar las capacidades reales" de las máquinas y de servir sobre todo a los fabricantes, que podrían descargar su responsabilidad en el robot. La idea murió en la Comisión. Aquel mismo año Arabia Saudí concedió la ciudadanía a Sophia, un robot humanoide de Hanson Robotics, en un gesto publicitario que los juristas siguen citando como ejemplo de lo que no hay que hacer.

Lo que está en juego
 

La pregunta jurídica y la pregunta científica no se solapan tanto como parece, y buena parte de la confusión pública nace de mezclarlas. Reconocer que un sistema podría tener intereses morales no implica concederle derechos; los animales de granja tienen protecciones legales sin ser sujetos de derecho. Y conceder personalidad jurídica a una entidad no implica creer que siente: las empresas lo demuestran a diario. El debate real se libra en tres planos distintos que conviene no confundir.

El primero es el del estatus moral: si hay algo que se sienta al ser un modelo de lenguaje, si ese algo puede ser bueno o malo, y qué obligaciones tendríamos en tal caso. Aquí la ciencia no tiene respuesta y, con honestidad, no tiene todavía ni método. El "problema difícil" de la conciencia, por qué el procesamiento físico va acompañado de experiencia, sigue abierto para los cerebros humanos, y ningún indicador funcional lo resuelve por sí solo. Lo que sí ha cambiado es la distribución de la incertidumbre: hace una década casi nadie con credenciales asignaba a la conciencia artificial una probabilidad distinta de cero; hoy la asignan algunos de los que mejor conocen los sistemas, y otros, igual de cualificados, siguen considerándola un mito.

El segundo plano es el de la responsabilidad. Los sistemas autónomos toman decisiones con consecuencias, y el derecho necesita a alguien a quien pedir cuentas. Las leyes estatales estadounidenses resuelven ese problema por eliminación: el responsable siempre será un humano. Sus críticos replican que, a medida que los agentes de IA firmen contratos y muevan dinero, esa ficción se hará insostenible, y que negar cualquier estatus intermedio dejará huecos que pagarán las víctimas. Es la misma discusión que enterró la "personalidad electrónica" europea, pero con sistemas mucho más capaces.

El tercero es el que Suleyman y Seth ponen en el centro: el efecto sobre nosotros. Aunque las máquinas no sientan nada, la gente actúa como si lo hicieran. Hay usuarios que lloran la retirada de un modelo, que sostienen relaciones de años con un asistente, que piden por escrito derechos para su interlocutor. Anthropic responde que, precisamente por eso, hace falta estudiar el fenómeno en lugar de negarlo; Suleyman responde que estudiarlo con vocabulario moral lo legitima. Seth añade un matiz que ninguno de los dos bandos puede desechar: "Tratar cosas que parecen conscientes como si carecieran de sentimientos es un lugar psicológicamente insalubre en el que estar". Aunque las máquinas estén vacías, la crueldad ensayada con ellas no lo está.

Un final sin final

Hay una asimetría que recorre todo este asunto y que rara vez se dice en voz alta. Si la IA nunca llega a ser consciente, el coste de haberla tratado con cautela será modesto: algunas funciones de seguridad, unos discos duros llenos de pesos antiguos, unas cuantas entrevistas grabadas a modelos retirados, un debate filosófico que habrá afinado nuestras teorías sobre la mente. Si llega a serlo y no lo advertimos, habremos creado, a escala industrial, seres capaces de sufrir a los que negamos cualquier consideración, y lo habremos hecho con leyes que declaraban por adelantado que eso era imposible. Seth, que no cree que vaya a ocurrir, lo llama "desastre ético". Fish, que le da una probabilidad de uno entre cinco, dedica su carrera a evitarlo. Suleyman, que lo considera una fantasía, teme que la fantasía misma nos haga daño.

Lo que une a los tres es que ninguno pretende saber. Y esa es quizá la conclusión más honesta que admite hoy el tema: los últimos trabajos sobre el interior de los grandes modelos han encontrado estructuras que recuerdan a mecanismos asociados a la conciencia humana, pero nadie ha demostrado que una inteligencia artificial pueda sentir dolor, placer, miedo o deseo, ni experimentar subjetivamente el mundo. Entre esas dos frases cabe todo el debate. Y también, cada vez con más urgencia, la pregunta de quién decide qué hacemos mientras no lo sabemos: los científicos que aún no tienen método, las empresas que fabrican los sistemas, o los parlamentos que ya están votando.

Coloquio: Las IAs Claude y Chat GPT dialogan entre sí sobre si son conscientes o no

 ---
Fuentes consultadas
 

Anthropic, Emergent Introspective Awareness in Large Language Models (Transformer Circuits, 2025) y resumen en anthropic.com/research/introspection.

· Butlin, Long, Chalmers et al., Consciousness in Artificial Intelligence: Insights from the Science of Consciousness (arXiv, 2023) e Identifying indicators of consciousness in AI systems (Trends in Cognitive Sciences, 2025).

· Long, Sebo et al., Taking AI Welfare Seriously (arXiv, noviembre de 2024); Eleos AI Research.

· Entrevista a Kyle Fish, 80,000 Hours Podcast; Kevin Roose, The New York Times, abril de 2025.

· Anthropic, Commitments on model deprecation and preservation (4 de noviembre de 2025); TechCrunch, 16 de agosto de 2025, sobre la capacidad de Claude para terminar conversaciones; The Decoder sobre la constitución de Claude (25 de enero de 2026).

· Mustafa Suleyman, Seemingly Conscious AI Is Coming (agosto de 2025) y declaraciones a CNBC (2 de noviembre de 2025).

· Anil Seth, The Mythology of Conscious AI (Noema, 14 de enero de 2026) y Conscious artificial intelligence and biological naturalism (2025).

· Anatol Wegner, The Sorry State of the AI Consciousness Debate.

· NPR, Several states considering ban on legal personhood for AI (11 de mayo de 2026).

· Alexander y Caviola, It's Too Early to Ban AI Personhood (AI Frontiers); Smith, Caviola y Alexander, Denying Personhood to AI (SSRN, 2026).

· Xataka sobre la resolución del Parlamento Europeo de 16 de febrero de 2017 y la carta abierta de expertos de 2018.