La IA es una revolución ética

No nos confundamos. Magnifica Humanitas no es una encíclica sobre tecnología, así como El Señor de los Ani llos, la obra de Tolkien que el propio Papa cita, no es una simple historia de aventuras. Ambas son declaraciones sobre ética y poder. La Inteligencia Artificial no es neutral, nunca lo fue, y creer lo contrario es una ingenuidad que beneficia a quienes concentran ese poder. En la novela de Tolkien, el anillo único es la encarnación del poder absoluto, y entregárselo al villano Sauron tiene el potencial de destruirlo todo. Eso es exactamente lo que hacemos cuando aceptamos la IA sin cuestionarla: entregamos poder.

En la encíclica, el Papa León XIV afirma: “Todo artefacto técnico lleva consigo decisiones y prioridades: lo que mide, lo que ignora, lo que optimiza y el modo en que clasifica personas y situaciones”. En sentido estricto, esta idea coincide con la tesis central de quienes, desde hace años trabajamos desde una perspectiva sociotécnica de las tecnologías: sistemas atravesados por valores, decisiones y arquitecturas humanas que construyen la tecnología y son, a su vez, moldeados por ella.

León XIV retoma el “paradigma tecnocrático” (heredado de Laudato si") para describir el marco ideológico que distorsiona el desarrollo de la IA. Se trata de una lógica basada en la eficiencia, el control y el lucro, un “optimismo tecnológico” que vuelve invisible todo aquello que no puede medirse ni optimizarse, me atrevo a decir: todo aquello que se siente profundamente humano. El paradigma tecnocrático envuelve a la IA, la legitima y la presenta como una realidad inevitable e ineludible, sin detenerse en los riesgos ecosistémicos y sociales que conlleva. Sin cuestionamientos, solo con consumismos. (...)