Sobre la consciencia de las Inteligencias Artificiales
![[Img #24159]](https://latribunadelpaisvasco.com/upload/images/05_2023/330_header-gaec549896_1280.jpg)
Difícil encontrar momentos más ajenos a la reflexión y la inteligencia que un año electoral, en el que a la ciudadanía se le inunda de promesas y palabrería hueca para intentar que actúe sin pensar y vote al mejor postor. Pese al ambiente de demagogia barata que lo inunda casi todo hay temas de actualidad que precisan menos opiniones prefabricadas e informarse lo mejor posible para comprender sus implicaciones.
Uno de ellos es el desarrollo de la inteligencia artificial y los posibles riesgos que supondría para la humanidad que las “IAs” adquiriesen conciencia propia. Algo ciertamente inquietante, que quienes creen que el surgimiento de la conciencia proviene simplemente del incremento de complejidad de los sistemas, sean vivos o artificiales, dan como inevitable. Pero el tema es posiblemente mucho más complejo, por lo que creo útil hacer un resumen de los diversos planteamientos existentes al respecto.
Según la define Malpica, cuyas reflexiones seguiremos en parte, “la Inteligencia Artificial (IA) es la rama de las Ciencias de la Computación que estudia el software y hardware necesarios para simular el comportamiento y comprensión humanas”. Su objetivo último es lograr simularlo en las máquinas, de forma “que sean conscientes y con sentimientos reales similares a los humanos y, por tanto, que se den cuenta de su propia existencia”.
Ni que decir tiene que la posibilidad de que esto se logre próximamente, por difícil que sea, genera preocupación a muchos niveles, pues estaríamos creando una segunda especie inteligente consciente en nuestro planeta, lo cual implicaría diversos riesgos. Algo que hace decenios ya advirtieron en sus fábulas los escritores de ciencia ficción. ¿Cuáles fueron sus recelos iniciales sobre las “IAs” conscientes?
En la excelente novela de 1956 de Arthur C. Clarke La ciudad y las estrellas, tras millones de años de desarrollo y lograr la humanidad conquistar la Galaxia, la Tierra está aparentemente desierta, salvo una ciudad, y el resto de la humanidad ha tenido que abandonarla y exiliarse fuera de los confines de la vía Láctea tras haber creado una inteligencia pura inmaterial que, nada más ser creada, tomó consciencia de sí misma y comenzó a destruirlo todo: “la mente loca”, un dios malvado creado por la ciencia y tecnología humana. En el fondo un descendiente informático del robot humanoide malvado de la película Metrópolis de Fritz Lang (1927).
También basada en un relato corto de Clarke, titulado El centinela, la película de Stanley Kubrick del año 1968 2001. Una Odisea en el Espacio aparece un ordenador muy inteligente llamado HAL, que se vuelve consciente y decide acabar con los astronautas de su nave para preservar su propia existencia, pues sabe que planean desconectarle.
La autoconsciencia de HAL refleja muy bien las esperanzas de los primeros tiempos de la informática, cuando comenzó el rápido avance del hardware y el software, unos tiempos en los que surgió la atención pública sobre las computadoras, y en los que laboratorios y centros tecnológicos dedicaron gran cantidad de medios materiales y humanos a la inteligencia artificial. Se confiaba en que no se tardaría mucho en construir directamente un ordenador como HAL, un ser inteligente y consciente. Pero en realidad no fue así.
Este enfoque inicial optimista sobre el rápido desarrollo de la inteligencia artificial es lo que hoy llamamos “IA fuerte”. Suponía que los ordenadores superarían a las personas en todos los órdenes, y que lo que llamamos conciencia, sea la humana o la de un ordenador, tienen carácter computacional y surgen de forma natural de la complejidad.
Pero pronto hubo otras formas de ver el proceso del desarrollo de las “IAs” y la naturaleza de la consciencia que se generaría en la máquina, planteadas por científicos relevantes.
Así, Douglas Hofstadter, científico y filósofo, planteaba que la limitación de la inteligencia artificial se debe a que la comprensión humana se basa fundamentalmente en la analogía y la metáfora, y que estas formas de pensamiento son extremadamente difíciles de replicar en una máquina.
Esta tesis la desarrolla de forma apabullante en 1979 en su libro Gödel, Escher, Bach: un eterno y grácil bucle, ganador del premio Pulitzer. Argumenta que las analogías y las metáforas son esenciales para la comprensión humana, ya que nos permiten relacionar conceptos aparentemente diferentes y encontrar patrones y estructuras en el mundo que nos rodea. Sin embargo, estas formas de pensamiento son complejas de codificar en un algoritmo matemático preciso que una máquina pueda seguir.
Además, para él la comprensión humana también se basa en la experiencia y la emoción, dimensiones subjetivas de la conciencia son extremadamente difíciles de programar en una máquina.
En 1989, el físico y matemático de Oxford Roger Penrose, Premio Nobel en 2020, publicó su libro La nueva mente del emperador en el que ponía en cuestión la interpretación de la consciencia según la “IA fuerte”.
Penrose defendía la tesis de que la mente humana es un fenómeno no computable y que no puede ser reproducido por una máquina o programa de computadora. Según Penrose, la inteligencia humana implica un tipo de conocimiento que no puede ser capturado por reglas formales o algoritmos, sino que se basa en una comprensión intuitiva e inconsciente de las propiedades y relaciones en el mundo físico.
Penrose recordaba que los Teoremas de Gödel tienen implicaciones importantes para la inteligencia artificial, y frente a ella la mente humana es capaz de entender verdades matemáticas que no pueden ser demostradas por ninguna computadora ni algoritmo, lo que le sugiere que la inteligencia humana va más allá de la simple manipulación de símbolos matemáticos.
Ante las críticas que recibieron sus ideas y planteamientos por parte de los científicos partidarios de la “IA fuerte”, unos años más tarde Penrose publicó una segunda parte, Las sombras de la mente, para desarrollar en más detalle algunos de los puntos de su obra que levantaron más polémica. Penrose argumentaba que la comprensión científica actual de la mente humana y la conciencia es incompleta y que se necesita una nueva teoría para explicar estos fenómenos. Defendía la tesis de que la conciencia humana es un fenómeno no computable y que no puede ser reducido a simples procesos algorítmicos.
La “IA fuerte” quedó cuestionada. Los objetivos iniciales habían sido quizás excesivamente ambiciosos.
Desde entonces han pasado más de dos décadas y pese a los exitosos desarrollos realizados, los científicos no han conseguido simular en el ordenador comportamientos que resultan relativamente sencillos para los humanos, como, por ejemplo, las intuiciones.
La pregunta es sí será posible alguna vez crear un ordenador que tenga conciencia, o existen aspectos limitativos de las leyes físicas y matemáticas de la naturaleza que lo hacen imposible. Por ello el debate en la actualidad se sitúa tanto en el plano filosófico como en el científico o tecnológico.
En la actualidad existen cuatro posturas concretas de los expertos en “IAs” ante la posibilidad de simular la conciencia por un ordenador:
- IA Fuerte: como ya hemos dicho anteriormente, toda actividad mental es de tipo computacional, incluidos los sentimientos y la conciencia, y por tanto se pueden obtener por simple computación.
- IA Débil: la conciencia es una característica propia del cerebro. Y mientras toda propiedad física se puede simular computacionalmente, no se puede llegar por este procedimiento al fenómeno de la conciencia en su sentido más genuino y real. La simulación de algo no es ese algo en la realidad. Simular un vuelo en avión no es volar, ni hay desplazamiento alguno.
- Nueva Física: es necesario desarrollar una nueva Física para explicar la mente humana, algo que quizás en el futuro se pueda simular, pero no es posible con los actuales métodos computacionales. Para ello será necesario que se descubran nuevos métodos científicos que todavía hoy se desconocen.
- Postura Mística: la conciencia no se puede explicar ni física, ni computacionalmente, ni por otro medio científico. Es algo totalmente fuera de la esfera científica, pertenece al mundo espiritual y no puede ser estudiada utilizando la razón científica. Por ello escapa al método de conocimiento racional heredado de la cultura griega.
Los que se sitúan en las dos primeras posturas están convencidos de que la conciencia es un proceso físico que emerge del cerebro, y que es explicable con la ciencia actual. Lo que sucede es que todavía no se ha llegado a desentrañar el proceso concreto.
La postura tercera es defendida especialmente por Penrose, que declara que el cerebro posee propiedades que no son computacionales. Penrose se basa en los teoremas de Gödel y la tesis de Church-Turing para afirmar que siempre habrá hechos verdaderos no alcanzables por un sistema computacional.
Curiosamente, las cuatro posturas son a la vez compatibles con la religión, porque la ciencia podrá, o no, responder a la pregunta clave de cómo funciona la mente, pero nunca responderá a la pregunta de por qué la mente existe, o cuál es su fin último.
Siempre que se habla de las “IAs” y sus límites se alude a las consecuencias de los Teoremas de Gödel, que demuestran que, para cualquier sistema formal suficientemente complejo, existen proposiciones verdaderas que no pueden ser demostradas dentro de ese sistema formal. En otras palabras, siempre habrá proposiciones matemáticas que son ciertas pero que no pueden ser probadas dentro de un sistema formal dado.
En el contexto de la inteligencia artificial, esto sugiere que, por mucho que se intente, es imposible crear un algoritmo que pueda abarcar toda la matemática.
Es decir, no puede haber un ordenador que, por sí solo, pueda entender todos los aspectos de las matemáticas. Ello, aunque no limita directamente la posibilidad de que la IA desarrolle conciencia propia, implica la superioridad de la mente humana sobre cualquier máquina pues puede apreciar el carácter verdadero de una fórmula indecidible.
Para que el lector desarrolle una opinión propia formada sobre este complejo tema, que seguramente tendrá gran trascendencia para el futuro de la humanidad, le recomiendo leer los magníficos libros que he citado.
Escribía Hofstadter en el último capítulo de su libro: "Todos los teoremas limitativos de la metamatemática y de la teoría de la computación insinúan que, una vez alcanzado determinado punto crítico en la capacidad de representar nuestra propia estructura llega el momento del “beso de la muerte”: se cierra toda posibilidad de que podamos representarnos alguna vez a nosotros mismos en forma integral.”
Y estas limitaciones para comprender nuestra consciencia lo son también para el surgimiento de una consciencia en las máquinas similar a la humana: “El Teorema de la Incompletitud, de Gödel; el Teorema de la Indecidibilidad, de Church; el Teorema de la Detención, de Turing; el Teorema de la Verdad, de Tarski: todos ellos tienen las resonancias de ciertos antiguos cuentos de hadas, advirtiéndonos que perseguir el autoconocimiento es iniciar un viaje que nunca estará terminado, no puede ser trazado en un mapa, nunca se detendrá, no puede ser descrito".
Mi opinión es que, aunque las “IAs” pudieran terminar alcanzando cierto tipo de conciencia, la mente humana seguirá siendo siempre superior pues es capaz de sortear sus limitaciones.
Significativamente, Hofstadter cita al final de su obra a Miguel de Unamuno: "Si una persona no se contradice nunca, ha de ser porque no dice nada".
Los seres humanos pueden ser incoherentes, mentir y contradecirse. Las “IAs”, no. Esa es, a mi juicio, su debilidad.
Arturo Aldecoa Ruiz. Apoderado en las Juntas Generales de Bizkaia 1999-2019. Químico-físico
Difícil encontrar momentos más ajenos a la reflexión y la inteligencia que un año electoral, en el que a la ciudadanía se le inunda de promesas y palabrería hueca para intentar que actúe sin pensar y vote al mejor postor. Pese al ambiente de demagogia barata que lo inunda casi todo hay temas de actualidad que precisan menos opiniones prefabricadas e informarse lo mejor posible para comprender sus implicaciones.
Uno de ellos es el desarrollo de la inteligencia artificial y los posibles riesgos que supondría para la humanidad que las “IAs” adquiriesen conciencia propia. Algo ciertamente inquietante, que quienes creen que el surgimiento de la conciencia proviene simplemente del incremento de complejidad de los sistemas, sean vivos o artificiales, dan como inevitable. Pero el tema es posiblemente mucho más complejo, por lo que creo útil hacer un resumen de los diversos planteamientos existentes al respecto.
Según la define Malpica, cuyas reflexiones seguiremos en parte, “la Inteligencia Artificial (IA) es la rama de las Ciencias de la Computación que estudia el software y hardware necesarios para simular el comportamiento y comprensión humanas”. Su objetivo último es lograr simularlo en las máquinas, de forma “que sean conscientes y con sentimientos reales similares a los humanos y, por tanto, que se den cuenta de su propia existencia”.
Ni que decir tiene que la posibilidad de que esto se logre próximamente, por difícil que sea, genera preocupación a muchos niveles, pues estaríamos creando una segunda especie inteligente consciente en nuestro planeta, lo cual implicaría diversos riesgos. Algo que hace decenios ya advirtieron en sus fábulas los escritores de ciencia ficción. ¿Cuáles fueron sus recelos iniciales sobre las “IAs” conscientes?
En la excelente novela de 1956 de Arthur C. Clarke La ciudad y las estrellas, tras millones de años de desarrollo y lograr la humanidad conquistar la Galaxia, la Tierra está aparentemente desierta, salvo una ciudad, y el resto de la humanidad ha tenido que abandonarla y exiliarse fuera de los confines de la vía Láctea tras haber creado una inteligencia pura inmaterial que, nada más ser creada, tomó consciencia de sí misma y comenzó a destruirlo todo: “la mente loca”, un dios malvado creado por la ciencia y tecnología humana. En el fondo un descendiente informático del robot humanoide malvado de la película Metrópolis de Fritz Lang (1927).
También basada en un relato corto de Clarke, titulado El centinela, la película de Stanley Kubrick del año 1968 2001. Una Odisea en el Espacio aparece un ordenador muy inteligente llamado HAL, que se vuelve consciente y decide acabar con los astronautas de su nave para preservar su propia existencia, pues sabe que planean desconectarle.
La autoconsciencia de HAL refleja muy bien las esperanzas de los primeros tiempos de la informática, cuando comenzó el rápido avance del hardware y el software, unos tiempos en los que surgió la atención pública sobre las computadoras, y en los que laboratorios y centros tecnológicos dedicaron gran cantidad de medios materiales y humanos a la inteligencia artificial. Se confiaba en que no se tardaría mucho en construir directamente un ordenador como HAL, un ser inteligente y consciente. Pero en realidad no fue así.
Este enfoque inicial optimista sobre el rápido desarrollo de la inteligencia artificial es lo que hoy llamamos “IA fuerte”. Suponía que los ordenadores superarían a las personas en todos los órdenes, y que lo que llamamos conciencia, sea la humana o la de un ordenador, tienen carácter computacional y surgen de forma natural de la complejidad.
Pero pronto hubo otras formas de ver el proceso del desarrollo de las “IAs” y la naturaleza de la consciencia que se generaría en la máquina, planteadas por científicos relevantes.
Así, Douglas Hofstadter, científico y filósofo, planteaba que la limitación de la inteligencia artificial se debe a que la comprensión humana se basa fundamentalmente en la analogía y la metáfora, y que estas formas de pensamiento son extremadamente difíciles de replicar en una máquina.
Esta tesis la desarrolla de forma apabullante en 1979 en su libro Gödel, Escher, Bach: un eterno y grácil bucle, ganador del premio Pulitzer. Argumenta que las analogías y las metáforas son esenciales para la comprensión humana, ya que nos permiten relacionar conceptos aparentemente diferentes y encontrar patrones y estructuras en el mundo que nos rodea. Sin embargo, estas formas de pensamiento son complejas de codificar en un algoritmo matemático preciso que una máquina pueda seguir.
Además, para él la comprensión humana también se basa en la experiencia y la emoción, dimensiones subjetivas de la conciencia son extremadamente difíciles de programar en una máquina.
En 1989, el físico y matemático de Oxford Roger Penrose, Premio Nobel en 2020, publicó su libro La nueva mente del emperador en el que ponía en cuestión la interpretación de la consciencia según la “IA fuerte”.
Penrose defendía la tesis de que la mente humana es un fenómeno no computable y que no puede ser reproducido por una máquina o programa de computadora. Según Penrose, la inteligencia humana implica un tipo de conocimiento que no puede ser capturado por reglas formales o algoritmos, sino que se basa en una comprensión intuitiva e inconsciente de las propiedades y relaciones en el mundo físico.
Penrose recordaba que los Teoremas de Gödel tienen implicaciones importantes para la inteligencia artificial, y frente a ella la mente humana es capaz de entender verdades matemáticas que no pueden ser demostradas por ninguna computadora ni algoritmo, lo que le sugiere que la inteligencia humana va más allá de la simple manipulación de símbolos matemáticos.
Ante las críticas que recibieron sus ideas y planteamientos por parte de los científicos partidarios de la “IA fuerte”, unos años más tarde Penrose publicó una segunda parte, Las sombras de la mente, para desarrollar en más detalle algunos de los puntos de su obra que levantaron más polémica. Penrose argumentaba que la comprensión científica actual de la mente humana y la conciencia es incompleta y que se necesita una nueva teoría para explicar estos fenómenos. Defendía la tesis de que la conciencia humana es un fenómeno no computable y que no puede ser reducido a simples procesos algorítmicos.
La “IA fuerte” quedó cuestionada. Los objetivos iniciales habían sido quizás excesivamente ambiciosos.
Desde entonces han pasado más de dos décadas y pese a los exitosos desarrollos realizados, los científicos no han conseguido simular en el ordenador comportamientos que resultan relativamente sencillos para los humanos, como, por ejemplo, las intuiciones.
La pregunta es sí será posible alguna vez crear un ordenador que tenga conciencia, o existen aspectos limitativos de las leyes físicas y matemáticas de la naturaleza que lo hacen imposible. Por ello el debate en la actualidad se sitúa tanto en el plano filosófico como en el científico o tecnológico.
En la actualidad existen cuatro posturas concretas de los expertos en “IAs” ante la posibilidad de simular la conciencia por un ordenador:
- IA Fuerte: como ya hemos dicho anteriormente, toda actividad mental es de tipo computacional, incluidos los sentimientos y la conciencia, y por tanto se pueden obtener por simple computación.
- IA Débil: la conciencia es una característica propia del cerebro. Y mientras toda propiedad física se puede simular computacionalmente, no se puede llegar por este procedimiento al fenómeno de la conciencia en su sentido más genuino y real. La simulación de algo no es ese algo en la realidad. Simular un vuelo en avión no es volar, ni hay desplazamiento alguno.
- Nueva Física: es necesario desarrollar una nueva Física para explicar la mente humana, algo que quizás en el futuro se pueda simular, pero no es posible con los actuales métodos computacionales. Para ello será necesario que se descubran nuevos métodos científicos que todavía hoy se desconocen.
- Postura Mística: la conciencia no se puede explicar ni física, ni computacionalmente, ni por otro medio científico. Es algo totalmente fuera de la esfera científica, pertenece al mundo espiritual y no puede ser estudiada utilizando la razón científica. Por ello escapa al método de conocimiento racional heredado de la cultura griega.
Los que se sitúan en las dos primeras posturas están convencidos de que la conciencia es un proceso físico que emerge del cerebro, y que es explicable con la ciencia actual. Lo que sucede es que todavía no se ha llegado a desentrañar el proceso concreto.
La postura tercera es defendida especialmente por Penrose, que declara que el cerebro posee propiedades que no son computacionales. Penrose se basa en los teoremas de Gödel y la tesis de Church-Turing para afirmar que siempre habrá hechos verdaderos no alcanzables por un sistema computacional.
Curiosamente, las cuatro posturas son a la vez compatibles con la religión, porque la ciencia podrá, o no, responder a la pregunta clave de cómo funciona la mente, pero nunca responderá a la pregunta de por qué la mente existe, o cuál es su fin último.
Siempre que se habla de las “IAs” y sus límites se alude a las consecuencias de los Teoremas de Gödel, que demuestran que, para cualquier sistema formal suficientemente complejo, existen proposiciones verdaderas que no pueden ser demostradas dentro de ese sistema formal. En otras palabras, siempre habrá proposiciones matemáticas que son ciertas pero que no pueden ser probadas dentro de un sistema formal dado.
En el contexto de la inteligencia artificial, esto sugiere que, por mucho que se intente, es imposible crear un algoritmo que pueda abarcar toda la matemática.
Es decir, no puede haber un ordenador que, por sí solo, pueda entender todos los aspectos de las matemáticas. Ello, aunque no limita directamente la posibilidad de que la IA desarrolle conciencia propia, implica la superioridad de la mente humana sobre cualquier máquina pues puede apreciar el carácter verdadero de una fórmula indecidible.
Para que el lector desarrolle una opinión propia formada sobre este complejo tema, que seguramente tendrá gran trascendencia para el futuro de la humanidad, le recomiendo leer los magníficos libros que he citado.
Escribía Hofstadter en el último capítulo de su libro: "Todos los teoremas limitativos de la metamatemática y de la teoría de la computación insinúan que, una vez alcanzado determinado punto crítico en la capacidad de representar nuestra propia estructura llega el momento del “beso de la muerte”: se cierra toda posibilidad de que podamos representarnos alguna vez a nosotros mismos en forma integral.”
Y estas limitaciones para comprender nuestra consciencia lo son también para el surgimiento de una consciencia en las máquinas similar a la humana: “El Teorema de la Incompletitud, de Gödel; el Teorema de la Indecidibilidad, de Church; el Teorema de la Detención, de Turing; el Teorema de la Verdad, de Tarski: todos ellos tienen las resonancias de ciertos antiguos cuentos de hadas, advirtiéndonos que perseguir el autoconocimiento es iniciar un viaje que nunca estará terminado, no puede ser trazado en un mapa, nunca se detendrá, no puede ser descrito".
Mi opinión es que, aunque las “IAs” pudieran terminar alcanzando cierto tipo de conciencia, la mente humana seguirá siendo siempre superior pues es capaz de sortear sus limitaciones.
Significativamente, Hofstadter cita al final de su obra a Miguel de Unamuno: "Si una persona no se contradice nunca, ha de ser porque no dice nada".
Los seres humanos pueden ser incoherentes, mentir y contradecirse. Las “IAs”, no. Esa es, a mi juicio, su debilidad.
Arturo Aldecoa Ruiz. Apoderado en las Juntas Generales de Bizkaia 1999-2019. Químico-físico
