Jack Clark, cofundador de Anthropic, participa en un debate en la cumbre Semafor World Economy 2026 el 13 de abril de 2026 en Washington, DC | Crédito: Kevin Dietsch/Getty Images
A menos de dos semanas de que el Papa León XIV publicara una encíclica advirtiendo a las empresas de inteligencia artificial (IA) contra la construcción de “una nueva Torre de Babel”, la compañía multimillonaria de IA Anthropic está pidiendo una pausa global o una desaceleración en su desarrollo.
El cofundador de Anthropic, Jack Clark, y la directora del Anthropic Institute, Marina Favaro, publicaron un blog el 4 de junio advirtiendo sobre el riesgo de que “los humanos pierdan el control sobre los sistemas de IA”, ya que su propio sistema Claude está alcanzando la capacidad de diseñar de forma autónoma a su propio sucesor sin ninguna contribución humana.
“Esto se llama auto-mejora recursiva”, escribieron. “Aún no estamos allí, y la auto-mejora recursiva no es inevitable. Pero podría llegar antes de lo que la mayoría de las instituciones están preparadas”.
La publicación del blog no mencionó la encíclica, pero otro cofundador de Anthropic, Chris Olah, se reunió con León y se sentó junto al Papa cuando se presentó la encíclica Magnifica Humanitas el 25 de mayo. Anthropic ha mantenido contactos con el Vaticano y otros líderes religiosos para abordar cuestiones éticas relacionadas con el desarrollo de la IA.
En la publicación, los directivos de Anthropic explicaron que su sistema de IA ya está asumiendo una gran parte de la escritura de código que diseña IA —con una carga de trabajo que crece ocho veces cada trimestre—. La IA “se volverá mucho más capaz en los próximos años”, escribieron, y “estas tendencias tienen enormes implicaciones”.
“Si los sistemas son capaces de construir completamente a sus propios sucesores, las formas en que los aseguramos, los monitoreamos y moldeamos su comportamiento se vuelven mucho más importantes”, señalaron.
Aunque Clark y Favaro reconocieron que la IA aún no ha alcanzado ese nivel y que no pueden afirmar con certeza que lo hará, escribieron: “No tenemos buenas intuiciones sobre cómo sería este mundo” si esto ocurre y si las capacidades de la IA “superan las de los humanos”.
Los líderes de Anthropic señalaron que las empresas de IA deberían unirse para pausar o ralentizar el desarrollo “para darnos más tiempo de afrontar sus enormes implicaciones”. Sin embargo, esto requeriría cooperación internacional global entre países y empresas de IA, porque “si una desaceleración simplemente permite que los actores menos cautelosos alcancen el nivel tecnológico, podría dejar a todos menos seguros”, escribieron.
“Creemos que sería bueno para el mundo tener la opción de ralentizar o pausar temporalmente el desarrollo de la IA de frontera para permitir que las estructuras sociales y la investigación de alineamiento se pongan al día con el avance de la tecnología”, añadieron.
Anthropic planea dialogar con responsables políticos, investigadores y otros miembros del público para discutir estas preocupaciones. La empresa publicará un documento basado en lo que surja de esas conversaciones.
Charles Camosy, teólogo moral de la Catholic University of America que ha trabajado con Anthropic en cuestiones éticas, dijo a EWTN News que las declaraciones de Anthropic parecen alinearse con el deseo de León de “desarmar” la IA, lo que el pontífice explicó no como detener la innovación, sino cómo “evitar que domine a la humanidad”.
Señaló que Anthropic reconoce que la velocidad del desarrollo es “un problema tan grande que todos necesitamos desacelerar aquí”. Una pausa permitiría a la sociedad “pensar en lo que la IA debería o no debería hacer en la cultura”, afirmó.
Camosy advirtió sobre la preocupación de “externalizar” la enseñanza, la tutoría, la crianza, el cuidado de los enfermos y otras interacciones humanas a la IA, lo que podría “socavar las cosas que… hacen que nuestra humanidad sea magnífica”.
Reconoció que la fuerte competencia en IA entre naciones y empresas “crea un obstáculo significativo” para la cooperación global que permita desacelerar todo, pero añadió: “Me ha sorprendido cuántos tipos diferentes de personas están interesados en esta encíclica”.
“Muchas personas estaban esperando que alguien llenara ese espacio moral”, dijo Camosy, y sugirió que la Iglesia ayude a liderar un movimiento global que exija una IA ética, e incluso animó al Santo Padre a considerar un viaje a Silicon Valley.
“Para muchos eso suena esperanzadoramente ingenuo. Pero no veo otra opción aquí”, concluyó.