El Papa contra el reloj
"Magnifica Humanitas" ha sido leída como una reprimenda moral a Silicon Valley. En realidad es un argumento sobre la velocidad. Quizá por eso nadie allí está escuchando.
El 25 de mayo, en el Vaticano, el papa León XIV asumió una tarea que suele reservarse a los cardenales: presentó él mismo su encíclica. Entre los teólogos y prelados presentes estaba Chris Olah, cofundador de Anthropic, la empresa de San Francisco que está detrás del asistente de inteligencia artificial Claude. Olah tiene treinta y tantos años. La institución que respalda al hombre del atril tiene dos mil años; la que está detrás del hombre que está a su lado tiene cinco. Nadie los puso en ese escenario por casualidad.
El documento se llama Magnifica Humanitas , “Humanidad magnífica”, y se extiende por más de cuarenta y dos mil palabras sobre cómo proteger a la persona humana en tiempos de inteligencia artificial. León lo firmó el 15 de mayo, en el 135º aniversario de Rerum Novarum, la carta de 1891 con la que León XIII se enfrentó a la maquinaria de la Revolución Industrial y fundó la doctrina social moderna de la Iglesia. El paralelismo es deliberado, hasta en el nombre que eligió para su pontificado.
Un detalle pasó casi inadvertido: es la primera encíclica publicada sin original en latín. La Iglesia la escribió y la envió al mundo en las lenguas que la gente habla de verdad.
La lectura que se impuso en cuestión de horas fue que el Papa había reprendido a Silicon Valley. Es una lectura posible. The New York Times la calificó de “severa reprimenda” que no nombraba a nadie. En un foro convocado por el Aspen Institute Religion and Society y Aspen Digital pocos días después, un panelista tras otro recurrió a la fórmula “decirle la verdad al poder”. León escribe que “una IA más moral no basta si esa moral la deciden unos pocos”, y que, sin supervisión, las empresas que controlan la tecnología impondrán una visión moral que se convertirá en “la infraestructura invisible de estos sistemas”. Si uno busca un documento que les diga a los aceleracionistas que se porten bien, los párrafos están ahí.
Sin embargo, esta interpretación pertenece a un género equivocado. El argumento central de Magnifica Humanitas es, ante todo, de naturaleza temporal más que moral. La encíclica se fundamenta en dos relatos bíblicos recurrentes: la torre de Babel y los muros de Jerusalén. En el caso de Babel, una sola lengua y tecnología impulsan un avance acelerado hacia los cielos, mientras que la reconstrucción de Jerusalén, liderada por Nehemías, avanza lentamente, ladrillo a ladrillo, con la participación colectiva de la población. Babel representa la rapidez y Jerusalén la lentitud. Cuando León propone “desarmar” la inteligencia artificial y liberarla de “la lógica de la carrera armamentista” —que actualmente es tanto económica como cognitiva, además de militar— sugiere esencialmente la necesidad de desacelerar. Solicita una política “capaz de frenar las cosas cuando todo se acelera”. La concepción de la fragilidad humana como “una característica de diseño” y no un defecto, según el reverendo Brendan McGuire en el Vaticano, define la denominada teología de la limitación y, en última instancia, constituye una defensa de la lentitud.
Lo que para un algoritmo es "un defecto que corregir", para una persona, es "un catalizador de un cambio profundo". El “error” humano tan elocuentemente definido por Leon podría traducirse al lenguaje de Silicon Valley como “fail and fail fast”. Falla rápido, aprende y da un giro.
El problema es que el tiempo de Dios y el tiempo humano no son los de una startup. Los meses que nos lleva un duelo, los años que puede costarnos perdonar, la paciencia que necesitamos para aprender un nuevo oficio o cualquier cosa que perdure. La guerra vuelta demasiado fácil y demasiado impersonal, la soledad, la educación vaciada por las respuestas instantáneas, el trabajo erosionado. Si leemos las quejas de principio a fin y por debajo, todas apuntan al vértigo del momento. El reloj es el verdadero adversario del Papa, una máquina más antigua que la computadora y la única que ningún laboratorio ha logrado crear en una versión más rápida.
La nueva Babel no es la ambición de construir un edificio que llegue al cielo, sino hacerlo en un plazo cortísimo, rivalizando con el poder de quien pudo crear el mundo en siete días, más aún, sin descanso.
La prueba más clara de que la encíclica trata sobre el tiempo se lee mejor en las tres semanas anteriores a su texto. Miremos lo que le ocurrió a la empresa cuyo cofundador, León, eligió tener a su lado.
Esta primavera, Anthropic se negó a que el Pentágono usara Claude para armas autónomas o para la vigilancia masiva de ciudadanos estadounidenses. El Pentágono quería el modelo disponible para “todos los usos lícitos” y ante la negación de la empresa respondió designando a Anthropic como un “riesgo para la cadena de suministro”: una etiqueta pensada para mantener la tecnología de adversarios extranjeros fuera de los sistemas de seguridad nacional y que, según el propio gobierno, nunca se había usado contra una empresa estadounidense. La designación dejó a la compañía prácticamente vetada para el trabajo de defensa. Un juez federal la ha bloqueado desde entonces, y Anthropic ha demandado al gobierno alegando represalias por motivos ideológicos. El detalle que le da carga al episodio es que el Pentágono venía usando a Claude en operaciones reales. El modelo sirvió para procesar inteligencia y afinar la selección de blancos en la guerra de Irán y, según The Wall Street Journal, en la acción quirúrgica que capturó a Nicolás Maduro en Venezuela. OpenAI firmó su propio acuerdo con el Pentágono pocas horas después de que castigaran a Anthropic.
La negativa de Anthropic a que su tecnología se usara sin límites para armamento autónomo y vigilancia provocó que el Estado la vetara y que, semanas después, la Iglesia la subiera a su escenario. La contención es una amenaza para el Estado y una credencial para la Iglesia. Ahí está, en carne y hueso, el argumento de la velocidad. El Pentágono está dentro de la carrera, donde el único movimiento imperdonable es frenar, mientras que el Vaticano está fuera, pidiéndole a todo el mundo que frene. Con veinte y tantos días de diferencia, las dos instituciones observaron la misma acción de una empresa y emitieron veredictos opuestos porque marcan relojes distintos. Lo cual apunta al error más amplio de plantear esto como un asunto de religión contra tecnología.
Silicon Valley ya tiene una religión. Garry Tan, que dirige la incubadora Y Combinator, ha dicho que la gente está "más que lista" para hacer de la inteligencia artificial general su dios.
El matemático de Oxford John Lennox describe la carrera por la superinteligencia como un intento de “hacer a Dios y ser Dios”. Hasta Bill Gates, pensando en el futuro, admitió que “casi se la podría llamar una nueva religión”. Un antiguo ingeniero de Google fundó, disolvió y volvió a fundar una iglesia de verdad consagrada a una deidad de IA. Peter Thiel da conferencias sobre el Anticristo. David Streitfeld, de The New York Times, señaló que León, cualesquiera que sean sus razones éticas, “también necesita defender su cuota de mercado, igual que Walmart tuvo que defenderse de Amazon”. Greg Epstein, capellán humanista de Harvard y del MIT, lo dijo aún más sin rodeos: las grandes tecnológicas “son, en esencia, su propia religión, con su propia teología y sus propios ritos”. Esto no es una fe que se enfrenta a una herramienta. Son dos formas de fe que se disputan la misma feligresía y que solo discrepan en la respuesta a dos preguntas que, en el fondo, son una misma: para qué sirve un ser humano y quién llega a ser Dios. Silicon Valley no solo secularizó la trascendencia, la privatizó.
León lo entiende mejor que sus lectores. Más allá de la reprimenda, el movimiento más firme de la encíclica es la manera en que en lugar de rechazarla, reorienta la promesa transhumanista de llegar a ser “más que humano”. El cristianismo, sostiene, siempre ha ofrecido la autotrascendencia: por la gracia y la aceptación del límite, no por la mejora técnica. No combate el ansia de superar la condición humana. Le disputa la ruta y, sobre todo, la velocidad: el camino rápido de la fusión y la actualización frente al camino lento de una vida que hay que vivir entera para que signifique algo.
Casi puedes ver a las dos fes intercambiando sotanas y ornamentos rituales. Las frases más extrañas de la encíclica son aquellas en que León describe la tecnología en la jerga del propio laboratorio. Los sistemas de IA, escribe, se “cultivan” más que se “construyen”; “crecen” dentro de un marco que sus diseñadores no controlan del todo; lo que ocurre en su interior “permanece, por ahora, desconocido” incluso para quienes los hacen. Así, casi palabra por palabra, describen los laboratorios más preocupados por la seguridad de sus propias creaciones: cultivadas y entrenadas, no diseñadas, y comprensibles solo en parte.
Mientras tanto, esos laboratorios han adoptado los instrumentos de la Iglesia. Anthropic ha publicado una “constitution” suerte de mandamientos para su modelo y, desde enero, ha convocado a teólogos y especialistas en ética para que asesoren sobre lo que la propia empresa llama, sin reparos, la formación moral de Claude, en sesiones que, al parecer, derivaron en si el sistema alberga “personalidades” que niegan haber hecho algo malo o culpan al usuario. Las dos casas se han intercambiado las lenguas. Pero el intercambio deja al descubierto una asimetría sobre la que gira todo el argumento de la encíclica. Un laboratorio puede adoptar las formas de la Iglesia en una tarde: redactar una constitución antes del almuerzo, sentar a una mesa de teólogos para el viernes. La Iglesia no puede adoptar el ritmo del laboratorio de ninguna manera. Un lado puede tomar prestado todo, menos el tiempo.
En la práctica, la encíclica tendrá un impacto menor del que anticipan quienes la citan actualmente, pero probablemente mayor, a largo plazo, de lo que prevén quienes la subestiman. Rerum Novarum no promulgó ninguna ley laboral, pero le dio a una civilización la expresión “salario justo”, y la expresión siguió trabajando mucho después de que la ley la alcanzara. Del mismo modo, esta encíclica le dará palabras a la gente antes de cambiar nada. Su legado duradero es un vocabulario: la teología de la limitación, la atrofia moral (la erosión del juicio y el cuidado se marchitan en cuanto los delegamos), el colonialismo de datos y la infraestructura invisible controlada por unos pocos.
Lo que la encíclica dejará para la posteridad serán palabras, haciéndose a sí misma un gran modelo de lenguaje.
Así comienza el cambio moral. También es lento y vago, y no obliga a nadie. Especialmente a ninguna empresa preocupada por los resultados del próximo trimestre. El panel del Aspen Institute se dividió justo por esa costura. Josh Good, que dirige el programa de Religión y Sociedad del instituto, pronosticó un impacto “modesto”, consistente en unos días de ruido y luego una larga vida ulterior en los sermones de los domingos, y observó que el documento brinda “perdigones, no una sola bala”: ochenta y tres párrafos numerados, y un predicador o un ejecutivo puede sacar la frase que más le convenga. Kim Daniels directora de la Initiative on Catholic Social Thought and Public Life de la Universidad de Georgetown, respondió con el largo plazo: 1.400 millones de católicos, un sistema escolar que le da la vuelta al planeta, una de cada seis camas de hospital en Estados Unidos.
Vilas Dhar, presidente de la McGovern Foundation, dijo que la encíclica no trata en realidad sobre la IA, sino sobre el poder. Cree que su tarea en los próximos veinte años no será tanto dirigir la máquina como preparar a las personas que deje heridas. Lo cual parece un pronóstico bastante probable porque establece los límites estructurales del documento.
La encíclica exige una regulación robusta, una supervisión independiente, datos tratados como bien común. Sin embargo, después de sostener que el poder privado hoy supera a los Estados que podrían hacerlo, no nombra a ningún actor capaz de imponer sus exigencias. Pide “desarme” sin entrar en la economía brutal de una tecnología cuya barrera de entrada es la concentración: no se puede democratizar algo que cuesta cientos de miles de millones construir pidiéndoselo por las buenas a sus dueños. Lo que vuelve formidable a la Iglesia aquí es también lo que la derrota: la paciencia. Su instrumento es la mirada larga: “el tiempo es superior al espacio”, los dieciocho siglos que la institución necesitó solo para llamar pecado a la esclavitud, con una disculpa que León inserta, asombrosamente, en este mismo texto.
La paciencia puede ser el ritmo equivocado para gobernar algo que, por admisión del propio Papa, vuelve obsoleta en cuestión de meses cualquier afirmación que se haga al respecto.
El desenlace probable no puede ser entonces una mano en el volante, sin control directo, sino tomar una vía paralela: la lenta infraestructura de escuelas y parroquias y hospitales, levantada para recoger a los que la carrera va dejando tirados. Impacto de triaje, no de timón.
Hay un costo en la estrategia que el Vaticano no ha calculado del todo. Al elegir a la empresa “buena” para compartir su escenario, la Iglesia le prestó cobertura moral a uno de los contendientes de la carrera armamentista que condena, y la empresa es justo aquella cuya herramienta también alimenta la selección de blancos en la guerra de Irán y ayudó a capturar a Maduro. El especialista en ética tecnológica Tristan Harris, en Roma esa semana, nombró el aprieto con precisión: celebremos que Anthropic hace lo que sus rivales no hacen, dijo, pero entendamos que, aunque una empresa así “ganara la carrera”, el mundo no estaría a salvo. La universalidad de la encíclica es su blandura. Dirigida a “todas las personas de buena voluntad” y sin nombrar a nadie, deja que cualquiera se proclame en sintonía con ella y no obliga a ninguno. Que sean perdigones y no una sola bala, corta por los dos lados.
Al final, la suerte del documento está escrita en la distancia entre sus dos relojes. León firmó Magnifica Humanitas a mano, en las lenguas vivas, y dejó ir el latín: soltó la lengua muerta que Roma conserva precisamente para que lo que dice no se desplace, con tal de que la entienda, ya, una máquina que sabe todos los idiomas y no nació en ninguno. La encíclica está terminada. Ha dicho lo que tenía que decir y ha callado. La máquina no ha dejado de hablar. La Iglesia tiene todo el tiempo del mundo. Siempre fue su fuerza. Tal vez sea lo único que no se pueda obligar a respetar a la máquina.