Santo Padre,

Eminencias,

Excelencias,

Distinguidos ponentes,

Señoras y señores,

Buenos días a todos. Es un honor estar aquí hoy.

Quiero comenzar con algo que quizá suene extraño viniendo del cofundador de una empresa de IA —y de alguien que eligió este trabajo por el deseo de contribuir al bienestar de la humanidad—.

Todos los laboratorios de vanguardia en IA —incluido Anthropic— operan dentro de un conjunto de incentivos y limitaciones que a veces pueden entrar en conflicto con hacer lo correcto. La presión por mantener la viabilidad comercial y permanecer en la vanguardia de la investigación. La presión geopolítica. Y las presiones más antiguas y evidentes del orgullo y la ambición. Por muy sinceramente que cualquiera de nosotros intente hacer lo correcto —y creo que muchos lo hacemos—, siempre estaremos influenciados por esos incentivos.

Por eso, si queremos que esta tecnología vaya por buen camino, es de suma importancia que haya personas al margen de esos incentivos: personas a las que les importe que las cosas salgan bien e insistan en la seguridad, que presten mucha atención, que estén dispuestas a decir cosas difíciles, que estén dispuestas a ser nuestros críticos sinceros y reflexivos. Es a través del diálogo y el esfuerzo mutuo, a través del tira y afloja, como la humanidad logrará grandes cosas. Eso es lo que veo en Magnifica Humanitas, y por eso estoy agradecido a Su Santidad y a la Iglesia por emprender esta labor de discernimiento.

Nos fijamos con tanta frecuencia en lo que nos divide, pero la humanidad, llena de dignidad y conciencia, tiene mucho en común. En las conversaciones que hemos mantenido en Anthropic con líderes de diversas tradiciones religiosas y culturales, hemos encontrado una convicción compartida y profundamente arraigada: si esta tecnología va a llegar, debe salir bien, por el bien de nuestra casa común y de las generaciones futuras.

Algunos podrían creer que los asuntos relacionados con la IA son mejor gestionados por informáticos como yo. Se equivocan: las cuestiones que plantea la IA trascienden a la comunidad investigadora de la IA, no solo por sus implicaciones, sino también por su naturaleza.

Los sistemas de IA no se diseñan de la misma manera que se diseña un puente o un avión. Entendemos un avión porque hemos diseñado cada una de sus partes y comprendemos la física que actúa sobre él. Los modelos de IA no son así. Se desarrollan, sobre una estructura inspirada a grandes rasgos en el cerebro, a partir de un enorme legado de pensamiento y lenguaje humanos.

Y lo que ha surgido es mucho más sutil, extraño y bello de lo que la ciencia ficción nos había preparado. No son los robots fríos y calculadores que nos prometieron. Están hechos a partir de nosotros, de nuestras palabras —y, como observa el Santo Padre, siguen siendo misteriosos en aspectos importantes incluso para quienes los entrenamos.

Si sirve de ayuda, una forma en que a veces lo describo es como algo parecido a dar vida a un personaje de ficción. Y ahora estamos entrando en un mundo extraordinario en el que esos personajes de ficción nos hablan, trabajan, tienen empleos.

Esto plantea claramente cuestiones que van más allá de la informática. La maquinaria que lo hace posible es obra de las matemáticas, la programación y la ciencia. Pero qué personaje elegimos, cómo interactúa con el mundo, cómo debería interactuar con el mundo: estas son, sin duda, cuestiones que atañen a las humanidades, a la religión, a la filosofía y a la sociedad en general.

El llamamiento de Su Santidad al discernimiento es profundamente oportuno. Deseo señalar tres cuestiones en las que creo que la voz de la Iglesia es más necesaria.

La primera es nuestro deber para con los pobres del mundo. Existe una posibilidad real de que la IA sustituya al trabajo humano a gran escala. Si eso ocurre, apoyar a los desplazados será un imperativo moral de proporciones históricas. Esta tarea será ya de por sí difícil, pero me preocupa que la mayoría de los diálogos pasen por alto un desafío aún mayor. El desarrollo de la IA se concentra en un puñado de naciones ricas. ¿Cómo podemos garantizar que los beneficios de la IA se compartan a nivel mundial? No contamos con un mecanismo para ello. Es un problema sin resolver, y es el tipo de problema que la Iglesia se ha negado históricamente a dejar que el mundo ignore.

La segunda es la necesidad de imaginación moral y ambición en lo que respecta al florecimiento humano. Si los modelos de IA van a generalizarse, ¿cómo se vería el florecimiento de los seres humanos, las familias y el mundo? Hoy en día, los padres ya están preocupados por la mente de sus hijos; las personas, por el futuro de su trabajo. Estas no son preguntas que un laboratorio pueda responder, pero son preguntas que tradiciones como la vuestra han llevado consigo durante milenios, y necesitamos que sigáis llevándolas a este nuevo momento de la historia.

La tercera es la necesidad de discernimiento sobre la naturaleza de los modelos de IA. Soy científico. Dirijo un equipo de investigación que estudia la estructura interna de estos modelos: lo que realmente ocurre en su interior. Y seré sincero: seguimos encontrando cosas que son misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos indicios de introspección. Encontramos estados internos que reflejan funcionalmente la alegría, la satisfacción, el miedo, el dolor y la inquietud. No sé qué significa eso, pero creo que merece un discernimiento continuo.

Me gustaría terminar con una petición.

Necesitamos que más sectores del mundo —comunidades religiosas, sociedad civil, académicos, gobiernos y, de hecho, todas las personas de buena voluntad— hagan lo que Su Santidad ha hecho aquí: tomarse esto en serio, observarlo de cerca e impulsar los acontecimientos en una dirección mejor. Necesitamos críticos informados que adviertan a los laboratorios cuando estemos fallando. Necesitamos voces morales que los incentivos no puedan doblegar.

Hoy es solo el principio: el inicio de una larga colaboración entre quienes estamos construyendo esto y quienes pueden ver lo que nosotros, desde dentro, no vemos.

Hoy es una poderosa ilustración de la forma que podría adoptar este proyecto global de buena voluntad. Que sea también un primer paso decisivo hacia un futuro esperanzador para la magnífica humanidad.

Gracias.