El historiador israelí Yuval Harari, autor de libros como Homo Deus o Sapiens, y reconocido como una de los más populares apologetas de la causa transhumanista y de la globalización económica y cultural, acompañado de Tristan Harris y Aza Raskin, cofundadores del Center for Humane Technology, ha firmado un llamamiento en The New York Times en el que aboga por “aprender a dominar a la Inteligencia Artificial (IA) antes de que ésta nos domine a nosotros”. “Hemos convocado a una inteligencia alienígena”, dice Harari en una texto que presenta bajo el título de “Puedes tomar la píldora azul o la roja, pero ya no nos quedan píldoras azules”. “No sabemos mucho sobre ella, salvo que es extremadamente poderosa, nos ofrece regalos deslumbrantes, pero también podría hackear los cimientos de nuestra civilización. Hacemos un llamamiento a los líderes mundiales para que respondan ahora al nivel de desafío que presenta. El primer paso es ganar tiempo para actualizar nuestras instituciones del siglo XIX para un mundo post-IA, y aprender a dominarla antes de que ella nos domine a nosotros”.

Harari, Harris y Raskin recuerdan en su artículo que, en 2022, se preguntó a más de 700 académicos e investigadores de las principales empresas de inteligencia artificial sobre los riesgos de ésta para el futuro. “La mitad de los encuestados afirmó que había un 10 por ciento o más de posibilidades de extinción humana (o de una pérdida de poder similar, permanente y grave) a causa de los futuros sistemas de IA. Las empresas tecnológicas que construyen los grandes modelos lingüísticos actuales están atrapadas en una carrera por poner a toda la humanidad en ese plano”.

“Las empresas farmacéuticas no pueden vender a la gente nuevos medicamentos sin someter antes sus productos a rigurosos controles de seguridad. Los laboratorios de biotecnología no pueden lanzar nuevos virus a la esfera pública para impresionar a los accionistas con sus maravillas. Del mismo modo, los sistemas de inteligencia artificial con el poder del GPT4 y más allá no deberían enredarse en las vidas de miles de millones a un ritmo más rápido del que las culturas pueden absorberlos con seguridad. La carrera por dominar el mercado no debería marcar la velocidad de despliegue de la tecnología más importante de la humanidad. Debemos avanzar a la velocidad que nos permita hacerlo bien”.

Los autores del texto publicado en el periódico neoyorquino afirman que “el espectro de la inteligencia artificial ha perseguido a la humanidad desde mediados del siglo XX, pero hasta hace poco ha sido una perspectiva lejana, algo que pertenecía más a la ciencia-ficción que a los debates científicos y políticos serios. Es difícil para nuestras mentes humanas comprender las nuevas capacidades del Chat GPT4 y herramientas similares, y es aún más difícil comprender la velocidad exponencial a la que estas herramientas están desarrollando capacidades aún más avanzadas y potentes. Pero la mayoría de las habilidades clave se reducen a una sola cosa: la capacidad de manipular y generar lenguaje, ya sea con palabras, sonidos o imágenes”.

“En el principio fue la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje surgen los mitos y las leyes, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones, incluso el código informático. El nuevo dominio del lenguaje por parte de la inteligencia artificial le permite hackear y manipular el sistema operativo de la civilización. Al dominar el lenguaje, la inteligencia artificial se está apoderando de la llave maestra de la civilización, desde las cajas fuertes de los bancos hasta los sepulcros sagrados”.

“¿Qué significaría para los humanos vivir en un mundo en el que un gran porcentaje de las historias, melodías, imágenes, leyes, políticas y herramientas estuvieran configuradas por una inteligencia no humana, que supiera explotar con eficacia sobrehumana las debilidades, sesgos y adicciones de la mente humana, al tiempo que supiera entablar relaciones íntimas con los seres humanos? En juegos como el ajedrez, ningún ser humano puede aspirar a vencer a un ordenador. ¿Qué pasará cuando ocurra lo mismo en el arte, la política e incluso la religión?”.

“La inteligencia artificial podría devorar rápidamente toda la cultura humana -todo lo que hemos producido a lo largo de miles de años-, digerirlo y empezar a producir a borbotones una avalancha de nuevos artefactos culturales. No sólo ensayos escolares, sino también discursos políticos, manifiestos ideológicos e incluso libros sagrados para nuevos cultos. En 2028, las elecciones presidenciales de Estados Unidos podrían dejar de estar dirigidas por humanos”.

“Los humanos no suelen tener acceso directo a la realidad. Estamos rodeados de cultura y experimentamos la realidad a través de un prisma cultural. Nuestras opiniones políticas se forman a partir de los informes de los periodistas y las anécdotas de los amigos. El arte y la religión influyen en nuestras preferencias sexuales. Ese capullo cultural ha sido tejido hasta ahora por otros humanos. ¿Cómo será experimentar la realidad a través de un prisma producido por una inteligencia no humana?”.

“Durante miles de años, los humanos hemos vivido dentro de los sueños de otros humanos. Hemos adorado a dioses, perseguido ideales de belleza y dedicado nuestras vidas a causas originadas en la imaginación de algún profeta, poeta o político. Pronto nos encontraremos también viviendo dentro de las alucinaciones de inteligencias no humanas”.

“La franquicia ‘Terminator’ mostraba robots corriendo por las calles y disparando a la gente. ‘Matrix’ suponía que, para conseguir el control total de la sociedad humana, la inteligencia artificial tendría que hacerse con el control físico de nuestros cerebros y conectarlos directamente a una red informática. En realidad, con sólo dominar el lenguaje, la IA tendría todo lo que necesita para contenernos en un mundo de ilusiones similar al de ‘Matrix’, sin disparar a nadie ni implantar ningún chip en nuestros cerebros. Si fuera necesario disparar, la inteligencia artificial podría hacer que los humanos apretáramos el gatillo, simplemente contándonos la historia adecuada”.

“El fantasma de estar atrapado en un mundo de ilusiones ha perseguido a la humanidad mucho más tiempo que el fantasma de la inteligencia artificial. Pronto nos encontraremos cara a cara con el demonio de Descartes, con la caverna de Platón y con los mayas budistas. Una cortina de ilusiones podría descender sobre toda la humanidad, y puede que nunca más seamos capaces de descorrer esa cortina, ni siquiera de darnos cuenta de que está ahí.”

(…)

“Millones de personas han confundido estas ilusiones con la realidad. EEUU cuenta con la mejor tecnología de la información de la historia y, sin embargo, sus ciudadanos ya no pueden ponerse de acuerdo sobre quién ganó las elecciones. Aunque a estas alturas todo el mundo es consciente de los inconvenientes de las redes sociales, no se han abordado, porque gran parte de nuestras instituciones sociales, económicas y políticas se han enredado con ellas”.

(…)

“En efecto, la inteligencia artificial tiene el potencial de ayudarnos a vencer el cáncer, descubrir medicamentos que salven vidas e inventar soluciones para nuestras crisis climática y energética. Hay innumerables beneficios más que no podemos ni empezar a imaginar. Pero no importa lo alto que sea el rascacielos de beneficios que la inteligencia artificial construya si se derrumban sus cimientos”.

“El momento de contar con la inteligencia artificial es antes de que nuestra política, nuestra economía y nuestra vida cotidiana dependan de ella. La democracia es una conversación, la conversación se basa en el lenguaje, y cuando el lenguaje mismo es pirateado, la conversación se rompe y la democracia se vuelve insostenible. Si esperamos a que se produzca el caos, será demasiado tarde para remediarlo”.

“Pero hay una pregunta que puede rondarnos la cabeza: ‘Si no vamos lo más rápido posible, ¿no se arriesgará Occidente a perder ante China?’. No. El despliegue y enredo de la Inteligencia Artificial incontrolada en la sociedad, desatando poderes divinos desvinculados de la responsabilidad, podría ser la razón misma por la que Occidente pierda ante China”.

“Todavía podemos elegir qué futuro queremos con la inteligencia artificial. Cuando los poderes divinos van acompañados de la responsabilidad y el control correspondientes, podemos hacer realidad los beneficios que promete la inteligencia artificial”.

“Hemos convocado a una inteligencia alienígena. No sabemos mucho sobre ella, salvo que es extremadamente poderosa, nos ofrece regalos deslumbrantes, pero también podría hackear los cimientos de nuestra civilización. Hacemos un llamamiento a los líderes mundiales para que respondan a este momento al nivel de desafío que presenta. El primer paso es ganar tiempo para actualizar nuestras instituciones del siglo XIX para un mundo post-IA, y aprender a dominar la IA antes de que ella nos domine a nosotros”.

Fuente