Más de 1.000 líderes tecnológicos, investigadores y analistas culturales, entre ellos Elon Musk, han firmado una carta abierta en la que piden una moratoria en el desarrollo de los nuevos sistemas de inteligencia artificial más potentes. En su misiva, instan a los laboratorios de inteligencia artificial a pausar el desarrollo de los sistemas más avanzados, advirtiendo de que las herramientas de inteligencia artificial presentan "profundos riesgos para la sociedad y la humanidad".

Acceso íntegro a la Carta Abierta (traducción al español)

Los desarrolladores de inteligencia artificial están "inmersos en una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más poderosas que nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable", se afirma en la carta que el Future of Life Institute, organización sin ánimo de lucro, acaba de hacer pública.

Otros firmantes de la carta son Steve Wozniak, cofundador de Apple; Andrew Yang, empresario y candidato a la presidencia en 2020; y Rachel Bronson, presidenta del Boletín de Científicos Atómicos, que establece el conocido como "Reloj del Juicio Final". "Estas cosas están dando forma a nuestro mundo", afirmó en una entrevista Gary Marcus, empresario y académico que lleva tiempo quejándose de los fallos de los sistemas de inteligencia artificial. "Tenemos una tormenta perfecta de irresponsabilidad corporativa, adopción generalizada, falta de regulación y un enorme número de incógnitas".

La Inteligencia Artificial impulsa herramientas como ChatGPT, Bing de Microsoft o Bard de Google, que pueden mantener conversaciones similares a las humanas, crear ensayos sobre infinidad de temas y realizar tareas más complejas, como escribir código informático.

La carta abierta pide una pausa en el desarrollo de sistemas de inteligencia artificial más potentes que GPT-4, el chatbot presentado este mes por el laboratorio de investigación OpenAI, cofundado por Musk. Según la carta, la pausa daría tiempo a introducir "protocolos de seguridad compartidos" para los sistemas de inteligencia artificial. "Si esta pausa no puede aplicarse rápidamente, los gobiernos deberían intervenir e instituir una moratoria", añade el documento.

El desarrollo de potentes sistemas de inteligencia artificial sólo debe avanzar "cuando estemos seguros de que sus efectos serán positivos y sus riesgos controlables", afirma la carta. "La humanidad puede disfrutar de un futuro próspero con la inteligencia artificial. Tras haber logrado crear potentes sistemas de inteligencia artificial, ahora podemos disfrutar de un 'verano de la inteligencia artificial' en el que cosechemos los frutos, diseñemos estos sistemas en claro beneficio de todos y demos a la sociedad la oportunidad de adaptarse".

GPT-4 es lo que los investigadores en inteligencia artificial llaman una red neuronal, un tipo de sistema matemático que aprende habilidades analizando datos. Una red neuronal es la misma tecnología que los asistentes digitales como Siri y Alexa utilizan para reconocer comandos hablados, y que los coches autoconducidos utilizan para identificar a los peatones.

Alrededor de 2018, empresas como Google y OpenAI comenzaron a construir redes neuronales que aprendían de enormes cantidades de texto digital, incluidos libros, artículos de Wikipedia, registros de chat y otra información extraída de Internet. Estas redes se denominan grandes modelos lingüísticos o LML (en inglés). Al detectar miles de millones de patrones en todo ese texto, los LML aprenden a generar texto por sí solos, incluidos tuits, trabajos de fin de curso y programas informáticos. Incluso pueden mantener una elevada conversación. A lo largo de los años, OpenAI y otras empresas han construido LML que aprenden de cada vez más datos.

Según informa The New York Times, a los expertos les preocupa que estos sistemas puedan utilizarse indebidamente para difundir desinformación con más rapidez y eficacia que en el pasado. Creen que incluso podrían utilizarse para sonsacar comportamientos a la gente a través de Internet.

Antes de lanzar GPT-4, OpenAI pidió a investigadores externos que probaran usos peligrosos del sistema. Los investigadores demostraron que era capaz de sugerir cómo comprar armas de fuego ilegales en Internet, describir formas de fabricar sustancias peligrosas a partir de artículos domésticos y escribir mensajes en Facebook para convencer a las mujeres de que el aborto no es seguro. También descubrieron que el sistema era capaz de utilizar Task Rabbit para contratar a un humano a través de Internet y superar una prueba Captcha, muy utilizada para identificar bots en línea. Cuando el humano preguntó si el sistema era "un robot", el sistema dijo que era una persona con discapacidad visual.
Tras los cambios introducidos por OpenAI, GPT-4 ya no hace estas cosas.

Durante años, a muchos investigadores de inteligencia artificial, académicos y ejecutivos tecnológicos, incluido Elon Musk, les ha preocupado que los sistemas de inteligencia artificial pudieran causar daños aún mayores. Algunos forman parte de una vasta comunidad en línea llamada racionalistas o altruistas efectivos que creen que la IA podría acabar destruyendo la humanidad.
 

La carta fue dirigida al Future of Life Institute, una organización dedicada a investigar los riesgos existenciales para la humanidad que lleva tiempo advirtiendo de los peligros de la inteligencia artificial. Pero fue firmada por una amplia variedad de personas de la industria y el mundo académico.