Si se cree en varios informes recientes, la primera encíclica del Papa León XIV podría publicarse poco después de Pascua y abordar el tema de la inteligencia artificial (IA) y sus desafíos para el florecimiento humano.
Existe mucha inquietud sobre lo que la IA significa para el empleo, para la conexión humana y para la paz mundial. ¿Cómo puede la humanidad siquiera comenzar a protegerse de innovaciones cuyas implicaciones ni siquiera sus creadores comprenden plenamente?
Mientras llega esa encíclica, su mensaje para la 60ª Jornada Mundial de las Comunicaciones Sociales en enero es probablemente la mirada más profunda hasta ahora sobre su pensamiento en torno a la IA.
(Amazon)
Por extraño que parezca, una novela italiana escrita en la década de 1970 da forma alegórica a un problema específico de la IA y las redes sociales que León identifica.
Imaginemos esto: una pareja de jóvenes simpáticos llega a tu puerta. No venden nada ni intentan convertirte a su religión o a su candidato político. Buscan tu apoyo para un nuevo tipo de biblioteca, donde en lugar de libros tradicionales, los ciudadanos entregan sus propios escritos.
“¿Es posible que nunca hayas escrito un diario, unas memorias o una confesión de algún problema que realmente te preocupa?”, te dicen estos jóvenes entusiastas. “¿Por qué no lo traes? Seguro habrá alguien que lo lea y se interese por tus problemas”. Son optimistas sobre el impacto que tendrá en la comunidad: “Es algo importante lo que hacemos, considerando lo difícil que se ha vuelto para la gente comunicarse hoy en día”.
Piensas en la falta de conexión persona a persona, que parece acelerarse con cada nueva comodidad o innovación tecnológica. Sí, tienes pensamientos. Así que los escribes y los depositas en la Biblioteca.
Lo que no anticipas es la psicosis colectiva, la paranoia y la ola de asesinatos brutales que seguirán.
Esa es la premisa de “The Twenty Days of Turin” (Liveright, $18.99), escrita por el novelista italiano Giorgio De Maria en la década de 1970, un período de terrorismo interno y agitación política en su país. La novela sigue los esfuerzos de investigación de un narrador en primera persona para reconstruir lo ocurrido diez años antes, cuando se creó la Biblioteca y, durante 20 días, multitudes de turineses deambularon por las calles sin poder dormir, mientras cada mañana aparecían cadáveres mutilados.
“Turin” es una visión ominosa y simbólica de lo que puede suceder si no abordamos el lado oscuro de la innovación.
No soy el primero en notar la inquietante anticipación de De Maria sobre las redes sociales tóxicas: los ciudadanos de Turín, de pronto libres para compartir anónimamente sus pensamientos, deseos y confesiones, no se unen en comprensión fraterna como prometían los jóvenes. Por el contrario, se vuelven rápidamente alienados unos de otros. Quienes comparten impulsivamente sus pensamientos íntimos se vuelven paranoicos. Gran parte del contenido de la Biblioteca resulta perturbador. Incapaces de confiar, deambulan en un estado de agotamiento, describiendo su condición con palabras como “vacío”, “seco” o “agotado”.
Ameca, un robot humanoide de Engineered Arts, interactúa con asistentes en la entrada del Pabellón del Reino Unido durante CES 2022 en Las Vegas, el 6 de enero de 2022. (OSV News/Steve Marcus, Reuters)
Como los turineses de la novela, nosotros también fuimos seducidos por una visión optimista de la tecnología, impulsada por jóvenes entusiastas. Sin pensar demasiado en el costo, comenzamos a subir nuestras ideas, dudas y trabajos a nuestras propias versiones de esa Biblioteca: las redes sociales y modelos de lenguaje como ChatGPT.
Luego vimos asesinos radicalizados en línea, violencia retransmitida en tiempo real y el deterioro de la salud mental de los jóvenes. Con la llegada de la IA, incluso dejamos de confiar en nuestros propios ojos.
Pero León, que desde el inicio de su pontificado ha señalado la IA como una prioridad, cree que aún es posible corregir el rumbo. Para protegernos de lo que llamó una “confianza ingenua y acrítica en la inteligencia artificial”, debemos —dijo en enero— “proteger los rostros y las voces”.
El Papa ha advertido que la IA puede convertirnos en “consumidores pasivos” de “productos anónimos” sin “propiedad ni amor”. También alertó sobre la cercanía engañosa de los chatbots, capaces de convertirse en “arquitectos ocultos de nuestros estados emocionales” que “invaden nuestra intimidad”.
(Shutterstock)
En la novela, algo igualmente inquietante ocurre: las estatuas de la ciudad cambian de lugar y cobran vida por la noche. Finalmente, atacan a los ciudadanos, quienes ya han perdido su humanidad al volcarla en la Biblioteca.
Esto no es tan descabellado como parece. León advierte que al sustituir relaciones humanas por sistemas que recopilan nuestros pensamientos, creamos “un mundo de espejos” donde todo se refleja “a nuestra imagen y semejanza”.
En un salón de espejos, la imagen puede confundirse con la realidad —y distorsionarse.
Las estatuas, símbolo de la memoria y los valores compartidos, se vuelven incomprensibles para ciudadanos desorientados. Incluso dudan de sus propios recuerdos.
Finalmente, esas fuerzas utilizan a las personas —ya vaciadas— como instrumentos de destrucción.
Un técnico trabaja en un centro de datos de inteligencia artificial en New Carlisle, Indiana, el 2 de octubre de 2025. (OSV News/Noah Berger para AWS vía Reuters)
¿Quién está detrás? La novela nunca lo aclara. Pero León advierte un riesgo similar: cuando entregamos nuestra memoria a tecnologías opacas, no sabemos quién controla la narrativa ni con qué intención.
“La falta de transparencia en los algoritmos… nos encierra en redes que manipulan nuestro pensamiento”, dijo el Papa.
Un ejemplo preocupante es el aumento del antisemitismo en línea y la distorsión de la historia del Holocausto.
El tiempo para actuar se acorta. La mayoría de los jóvenes ya usa IA para informarse, muchas veces confiando en plataformas cuya veracidad es incierta.
Como los turineses, hemos entregado nuestra humanidad sin pensar en las consecuencias: el ser humano se convierte en un producto.
León insiste en que es momento de que “los rostros y las voces vuelvan a hablar por las personas”.
La novela de De Maria deja una paradoja inquietante: cuanto más nos obsesionamos con el yo privado, más corremos el riesgo de perder nuestra humanidad.
