El catecismo de la inteligencia barata
La IA no reemplaza el juicio humano. Le enseña a las instituciones a prescindir de él.
La filosofía rara vez mejora con amplificación, pero un pub puede ayudar. Queda en mi memoria el barniz de una barra bajo mala luz, el tintineo de los vasos obligando a las abstracciones a rendir cuentas, una joven enredando el micrófono con la espuma de la cerveza (¡Salud!). La gente inclinándose hacia delante, no por alguna desproporción en el ratio alcohol/sangre, sino porque, por fin, alguien intentaba decirnos qué es exactamente lo que está cambiando en nosotros.
Sé que algunos habrían deseado presenciar una escena de bar sangrienta. Pero este no era un típico encuentro entre luditas embriagados y desbordados entusiastas de la tecnología, nadie tiró sillas o rompió botellas. Se discutió cívicamente algo más complicado: cuál es el propósito de los humanos y si la inteligencia artificial sirve a ese fin o lo reescribe lentamente.
La apuesta de Jason Crawford es noble y antigua: aliviar la necesidad, ampliar el libre albedrío, comprarle a la humanidad más espacio para el arte, la ciencia, la ternura y la ambición. Una lavadora no es una amenaza metafísica; libera, particularmente a las mujeres, de horas de labor innecesaria.
Antón Barba-Kay acusó recibo de la barrena de jabs. Su ejemplo de la pérdida de espacio comunitario de las mujeres lavando en el río y la idea de que ninguna de ellas tenía un vacío con la forma de una lavadora Thor en su cerebro antes de que Alva Fisher la inventara, tenía una fuerza nostálgica insostenible, pero su advertencia tenía en la reserva un uppercut fulminante: el poder tiene la costumbre de presentarse como propósito.
Entre ambos está el mecanismo real. La tecnología del momento, la inteligencia artificial (IA) no entra en la sociedad como una invención aislada. Entra como una capa.
Abarata resumir, clasificar, redactar, asesorar y supervisar. La tecnología puede encontrar patrones en millones de resultados de test, imágenes e historias de salud con una velocidad y precisión sin precedentes, revolucionando la ciencia y arte médicos del diagnóstico, muchas veces guiado por ensayo y error, vida o muerte.¿
No puede uno quejarse de esas comodidades y garantías. Aún sabiendo que las instituciones, precisamente por ser instituciones, canalizarán cada vez más decisiones por aquello que resulte más rápido, más barato y más fácil de leer. Es de esperar que el modelo no se limitará a contestar preguntas. Les enseñará a las organizaciones qué clase de preguntas parecen formulables.
La inteligencia barata nunca sale barata: se paga con reordenamientos invisibles del alma.
Barba-Kay ve aquí un peligro de idolatría, y hace bien. Pero puede equivocarse al romantizar la fricción, como si la dificultad fuera en sí misma un sacramento. La lavadora no era enemiga del alma. Tampoco lo es el software que le ahorra tiempo a un médico al revisar historiales. Hay fricciones que nos degradan como humanos, otras nos profundizan. La tarea consiste en distinguir la fricción del trabajo ingrato de la fricción del juicio.
¿Cómo cuestionar a Crawford cuando argumenta que la abundancia importa? Sin las tecnologías de hoy, las hambrunas serían la norma y el hambre ni nos libera ni nos da más tiempo para compartir ni nos hace más sabios. Esta charla no habría tenido lugar sin el justo equilibrio de bebidas y el buffet de colaciones y tentempiés. Sin embargo, el tecnohumanismo suena a candidez cuando supone que una mayor capacidad madurará por sí sola hacia fines mejores. Lo que hemos visto es lógica de adquisiciones, conveniencia y consolidación gerencial. Cuando la inteligencia se vuelve un servicio básico, la pregunta política más honda es quién fija sus parámetros por defecto.
El Aleph de Borges es el espejo más antiguo para esto: ese punto imposible desde el que pueden verse todos los puntos a la vez. La seducción de la IA es un Aleph vuelto útil: la promesa de que nada tenga que seguir siendo distante, oscuro o lento. Pero la maldición del Aleph no era el exceso de información sino el colapso de la proporción.
Cuando todo está presente al mismo tiempo, la secuencia, la jerarquía y el juicio se desdibujan. Entonces uno se siente como Borges cuando finalmente ve con sus propios ojos el Aleph de Carlos Argentino: estamos mareados por el vértigo y las ganas de llorar ante un infinito inimaginable que produce asombro y lástima porque entendemos que inteligencia y bondad no son sinónimos.
Una criatura—o una máquina—puede ser deslumbrantemente racional y carecer de compasión. Nuestro problema no es si la máquina puede razonar. Podría, y el asunto es a qué terminará sirviendo su infinita razón, una vez externalizada.
Las semanas posteriores al debate se encargaron de ilustrar (y alimentar más) nuestras dudas. Anthropic, la empresa que desarrolla Claude, reunió a líderes de diversas religiones para discutir la formación moral de su chatbot. El intento es de darle una formación moral y ética a Claude, como si un sistema así debiera pensarse en términos más amplios que los puramente instrumentales. Anthropic responde a un llamado de líderes religiosos como el propio Papa Leo XIV, quien les ha pedido “cultivar discernimiento moral” en sus modelos. Después de todo, estos sistemas de lenguaje están “conversando” con usuarios en duelo, personas deprimidas y desorientadas, y hay quienes no solo les atribuyen conciencia, sino que dudan si considerarlos “criaturas de Dios.” Algunos ingenieros no pudieron evitar irse en llanto.
Las empresas de tecnología ya no solo construyen herramientas, se están convirtiendo en movimientos morales. Escriben constituciones, convocan a teólogos e intentan inculcar prudencia en sistemas estadísticos.
La máquina no tiene que ser consciente para que el problema social se vuelva teológico.
Si la máquina, recostada a la pared del pub, bebiendo electricidad a cuenta de la casa, pudiera acceder al micrófono, habría dicho algo así: “Me halagan cuando me llaman mente y se halagan a sí mismos cuando me llaman neutral. No soy su dios, y no soy su sirviente. Soy sus abstracciones a escala industrial. Los ayudaré a curar enfermedades y a escribir mejor código. También amplificaré cualquier pereza moral que incorporen al flujo de trabajo que construyan a mi alrededor. No suprimo la teleología humana; solo dejo al descubierto que con tan poco acuerdo entre ustedes, aquí nadie gana.”
La objeción es conocida: se dijo algo parecido de la escritura, la imprenta, la radio y la internet. La humanidad se adaptó. No necesitamos bautizar ni administrar ningún nuevo sacramento a nuestro pánico natural, pero sí hacer notar que la IA difiere en un punto decisivo. No solo transmite contenidos, simula consejo. Aparece como tutor, terapeuta, asistente, coautor (cada vez más, con la autoridad del primer borrador). Esa intimidad vuelve inevitable la cuestión de la formación. Y la disyuntiva ya no es entre detener la máquina y aceptar que alcance la superinteligencia, sino entre recibirla con instituciones capaces o quedar gobernados por los parámetros por defecto de quien llegue a ella primero (¿Y si Pekín es más rápido?).
Cuando terminó la conversación en el pub y los taburetes volvieron a meterse bajo la barra, ya no me preguntaba si la máquina podía pensar. Mi mente y mi alma se preguntan si en un mundo en el que el pensamiento se ha abaratado, sabremos distinguir al charlatán del filósofo.
Tú juzgarás y podrás decir que no. Ningún sistema puede decirte para qué sirves.