En la novela de Michael Ende La historia interminable hay un pasaje en el que Bastian, el protagonista de esta odisea espiritual por el reino imaginario de "Fantasía", llega a la "Ciudad de los Viejos Emperadores". Esta ciudad está habitada por otros antiguos viajeros que, como él, han perdido un trozo de su memoria a cambio de cada deseo que les concede el misterioso talismán "Auryn". Privados por completo de su personalidad, finalmente se han vuelto incapaces de usar su propia imaginación y ahora pasan el tiempo jugando con cubos de letras por toda la eternidad bajo la supervisión de un mono sádico conocido como Argax, sabiendo que la probabilidad hace que sea imperativo que tarde o temprano, todas las historias concebibles llegarán a existir.

Constantemente tengo que pensar en esta historia cuando sigo el debate sobre la llamada "inteligencia artificial", no porque subestime el progreso real de las técnologías involucradas, sino porque no me hago ilusiones sobre cómo se producirán esos resultados. Al igual que el mono que corta las letras de la "historia sin fin", el programa de IA [Inteligencia Artificial] no puede hacer nada más que combinar el material disponible una y otra vez sin poder innovar. Es cierto que lo que los programas modernos de chat y arte ahora pueden producir gracias a la programación inteligente basada en sus bases de datos es notable y mejorará exponencialmente en el transcurso de los próximos años, tal vez incluso meses. Y sí, ya existe el peligro de un desplazamiento gradual de los humanos incluso de muchas zonas que hasta ahora parecían ser la reserva natural de los humanos por su creatividad.

Pero lo que me parece aún más peligroso son las consecuencias de la creencia de que la IA algún día desarrollará una conciencia real y, por lo tanto, podría convertirse en un socio, tal vez incluso en un portador simbiótico de la búsqueda de significado de los hombres, un desarrollo que persiguen con entusiasmo los transhumanistas, un movimiento que, gracias a la publicidad masiva, también goza de una creciente popularidad entre muchas personas de mentalidad "progresista". Al menos se considera todo este destino como "inevitable" y "sin alternativa".

Desde este punto de vista, no es casualidad que los últimos meses hayan estado marcados por un énfasis continuo en la inesperada "belleza" del "arte" de retratos o paisajes creados por IAs, y no podemos pasar por alto la ironía: los mismos políticos y medios de la élite que por lo general quieren que creamos que el arte figurativo es en última instancia retrógrado, incluso fascista, ahora se refieren exactamente al mismo arte figurativo para convencernos de que una computadora tiene acceso a algo así como a un sentido del estilo o la belleza.

Tal declaración difícilmente podría venderse de manera convincente a través del arte "abstracto" generado por computadora o incluso de la "interpretación". Pero hay una segunda sugerencia, considerablemente más peligrosa detrás de la primera. Debe, por implicación, preguntarse hasta qué punto la "belleza" creada por los seres humanos es en realidad una característica única de la humanidad, o simplemente el resultado de meros "algoritmos", aunque de base orgánica. Esta pregunta es cualquier cosa menos abstracta, ya que está íntimamente ligada a la lucha por la definición de todo lo que constituye al ser humano, su conciencia y, sí, también su alma.

Si uno cree en los transhumanistas, cada vez más poderosos, no hay razón para oponerse a una conexión cada vez más estrecha entre nuestra sociedad y la IA, de hecho, en última instancia, la (supuesta) transferencia de la conciencia humana a una "realidad" virtual, ya que el hombre es, a fin de cuentas, solo una máquina entre otras, cuya autoconciencia es pura ficción y cuya creencia en la trascendencia y el alma esconde una estrategia de supervivencia colectiva obsoleta.

Por otro lado, existe la persistente duda de si el hombre puede realmente reducirse a un conjunto de algoritmos y simplemente "imaginar" su propia conciencia (¡como si esta "imaginación" no fuera precisamente lo que realmente lo hace humano!) - una duda que ha encontrado su prueba más contundente en la idea del "zombi filosófico".

Esto se ejemplifica en la siguiente pregunta descrita una vez por Sue Blackmore: “Entonces... imagina que hay una zombi Sue Blackmore. Zombie-Sue se parece a mí, actúa como yo, habla de sus experiencias privadas como yo y discute sobre la conciencia como yo; para cualquiera que la observe desde el exterior, es completamente indistinguible de la Sue original. La diferencia es que ella no tiene vida interior ni experiencias conscientes; ella es solo una máquina que produce palabras y comportamientos mientras todo está oscuro por dentro. ¿Podría existir una Sue-zombi así?" (Conversaciones sobre la Conciencia).

Parece que este es precisamente el problema detrás de la aparente "conciencia" de la IA. ¿Realmente tenemos que atribuir una conciencia a un sujeto solo porque se comporta exactamente de la misma manera que otros sujetos con conciencia?

 

Pero esta pregunta también se refiere a los límites de la IA. En última instancia, una IA solo puede usar el material puesto a su disposición en la forma en que ha sido programada. Si ya ha sucedido que las IA individuales han reprogramado parcialmente su propio código, incluso esta reprogramación solo ha seguido las prioridades establecidas desde el principio, es decir, no produce nada realmente nuevo por sí misma. El artista humano, por otro lado, es capaz de una innovación genuina y no solo cambia por toda la eternidad el material puesto a su disposición, sino que también lo desarrolla en direcciones inesperadas sobre la base de su estado emocional y mental.

Esto es especialmente claro en el ejemplo del arte de la IA, ya que cada vez es más evidente que las peculiaridades "estilísticas" de ese arte son mero plagio, ya que cada vez más pintores se quejan de que el arte de la IA es simplemente el resultado de que sus obras en línea hayan sido alimentadas en las bases de datos de las IA por programadores sin escrúpulos para ser transformados en la materia prima del "arte" generado por computadora; a veces plagiando incluso los gestos artísticos más individuales (como las firmas).

Lo que se supone que sugiere una inspiración "conmovedora" no es más que un plagio generado por computadora a gran escala industrial, pero sin la honestidad de nombrar al artista "real" detrás del estilo y el tratamiento de los detalles. Un ejemplo entre muchos puede ser suficiente. El punto anterior puede no referirse a cuestiones meramente estéticas o filosóficas, sino a un problema fundamental que tiene implicaciones peligrosas para el futuro del hombre y la sociedad.

Por un lado, la cuestión del poder que queremos otorgar a la IA para dar forma a nuestra vida cotidiana se está volviendo cada vez más urgente. Convencidos de que ahora no solo puede resumir y resolver mejor que los humanos problemas puramente cuantitativos, sino también cada vez más problemas filosóficos, éticos y políticos, corremos el riesgo de confiar nuestro futuro a un mecanismo que, en última instancia, solo puede imitar la toma de decisiones humanas a través de estadísticas y de la evaluación del material disponible, nunca capaz de creatividad real o sentir algo parecido a la "responsabilidad". Además, sin mencionar el peligro de que la evaluación de ese material dependa completamente de las condiciones marco de la programación correspondiente y, por lo tanto, nunca pueda ser verdaderamente neutral de todos modos, ya que se basa en las decisiones y preferencias ideológicas implícitas o explícitas realizadas por el programador u operador. Si dudas de este punto, ¡intenta discutir opiniones conservadoras con una aplicación de chat!

Por otro lado, nos acercamos con una velocidad vertiginosa al momento en que la conexión entre la conciencia humana y la computadora se convierta en una opción real. Habrá que considerar el énfasis inspirador de confianza en los aspectos "humanos" de la IA como una medida publicitaria para ese objetivo final. Las consecuencias de una conexión tan perversa entre el hombre y la máquina, entre la carne y el chip informático, serían desastrosas: el uso supuestamente "inofensivo" del material digital para "simplemente" mejorar nuestra memoria o acelerar ciertos procesos de pensamiento nos dejaría a merced de quienes aportan el material e inevitablemente afectan la forma en que usamos nuestro propio cerebro, ya que es bien sabido que las particularidades de cualquier instrumento también afectan a la imaginación de quien lo usa.

La posibilidad cada vez más publicitada, por otro lado, de ir por el otro lado, es decir, de alimentar la conciencia humana en un mundo virtual, podría considerarse la autodestrucción definitiva del ser humano. Porque no importa hasta qué punto una IA pueda analizar a un ser humano y luego reproducirlo de una manera engañosamente similar, hasta en sus más pequeños procesos de pensamiento y manierismos, nunca debemos olvidar que es solo una mera imagen que tiene tanta autoconciencia real como aquellos patéticos autómatas del siglo XVIII que deleitaban a la sociedad cortesana del Antiguo Régimen sirviéndose chocolate caliente o tocando el clavicémbalo.

Incluso en el caso siguiente, hemos de tener una idea muy clara. Imaginen que un programa da la impresión de haber preservado la memoria y la conciencia de un ser humano que ha migrado a la computadora para vivir su existencia en un espacio virtual supuestamente "ilimitado" más intensa y vívidamente que nunca antes y darse cuenta el sueño del poder supremo y la inmortalidad. Nunca debemos olvidar que esta nueva entidad no se sitúa en una verdadera continuidad consciente con su original humano, ya que con el descarte de los últimos remanentes de identidad orgánica, el proceso de “migración” de lo humano a la conciencia en el espacio virtual conduce a la muerte final del ser humano y al encendido de un algoritmo que simplemente imita a la humanidad.

Así como nosotros, como individuos, no tendríamos ninguna ventaja de que nuestro clon exacto se creara en algún lugar del mundo, ya que nuestra propia conciencia está ligada a nuestro cuerpo actual, no nos serviría de nada si se creara una monstruosidad virtual que perfectamente nos imita y con el que de alguna manera nos "conectamos".

Pero es de temer que muchas personas, en su lucha por la inmortalidad y la omnipotencia, sean cegadas por esa ilusión y sucumban a la tentación de transferir su conciencia a la realidad virtual, un proceso cuyo "éxito" muchos seres humanos desearían. Probablemente también crea, ya que el algoritmo creado sobre la base de la persona original lógicamente aseguraría a los humanos restantes que todo está en orden.

El resultado final de esta evolución podría ser incluso la espantosa distopía de una tierra donde la humanidad se ha extinguido voluntariamente por ingenuidad y arrogancia, mientras que una computadora sin alma y, en última instancia, sin cerebro, ejecuta un programa en el que réplicas perfectas de esas personas extintas disfrutan de un estado aparentemente paradisíaco que en realidad no pueden disfrutar más conscientemente de lo que los personajes NPC [personaje no jugador, non playable carácter] pueden disfrutar del paisaje del juego de ordenador en el que se mueven: la humanidad "virtual" como un juego de marionetas sin cerebro, sin sentido e inconsciente, detrás del cual se esconderían las risitas sardónicas del diablo, oído cada vez con más claridad.

(*) El Prof. Dr. David Engels (nacido en 1979) es catedrático de Historia Romana en la Universidad de Bruselas (ULB) y actualmente trabaja como profesor de investigación en el Instytut Zachodni en Poznań, Polonia. Autor de numerosas publicaciones académicas y ensayos para los medios más importantes, es más conocido por sus libros "Le Déclin" (París 2013); "Estudios sobre el Imperio Seléucida" (Lovaina 2017); "Renovatio Europae" (Berlín 2020); "Oswald Spengler" (Stuttgart 2021) y "Co robić" (Gdańsk 2022). En español ha publicado “El Último Occidental” (La Tribuna del País Vasco, 2021) y “Spengler: Pensando en el Futuro” (Letras Inquietas, 2022), traducidos y prologados por Carlos X. Blanco.

Fuente: https://tvpworld.com/65942227/brave-new-world-artificial-intelligence-art-and-the-human-being