agosto 2026
Redescubrir el potencial de lo humano en el tiempo de la eficiencia tecnocrática. El lenguaje, la conciencia y el límite biológico son rasgos propios del ser humano.
El encuentro en el Meeting de Rímini
Son los temas del encuentro «Palabras, máquinas, cerebros: reconocer lo que es humano para defenderlo», celebrado en Rímini el 23 de agosto en el Meeting por la amistad entre los pueblos. Participaron Paolo Benanti, franciscano, profesor de ética de la tecnología en la Luiss Guido Carli, y Andrea Moro, lingüista de la Scuola Normale de Pisa y del IUSS de Pavía, que respondieron a las preguntas de Marco Aluigi, subdirector de la Fundación Meeting.
Saber qué distingue al hombre y cómo funcionan realmente estos programas sirve, antes que nada, para decidir cómo usarlos y cómo regularlos. De lo contrario, el riesgo es confundir el cálculo con el pensamiento.
Solo el hombre es capaz de registrar y memorizar palabras, generando frases infinitas y recombinando un número ilimitado de vocablos. Un niño aprende una lengua en cinco años con una media de 55 millones de palabras: puede parecer un límite, pero es precisamente ese límite lo que hace único al ser humano. Un sistema de IA, en cambio, necesita 402.000 millones de palabras para procesar un idioma y no conoce las lenguas imposibles de codificar. Esa capacidad infinita de generar lenguaje despierta curiosidad, pero conduce a una “cultura del derroche”. Para contenerla, tratando de convertir las máquinas en modelos “sostenibles”, surge una paradoja: hace falta que incorporen los límites que el ser humano ya tiene.
El derroche se mide en agua y energía
Hay además un derroche que se cuenta en litros y en kilovatios. Se necesita un litro de agua para procesar cien palabras: solo en 2021 Google consumió 12.700 millones de litros para refrigerar sus centros de datos, y en una semana ChatGPT quema la electricidad que el Empire State Building consume en un año y medio. «Las máquinas son voraces de energía porque no tienen los límites que sí tiene el hombre», observó Moro. Ocurre también con la vista: la retina distingue los objetos precisamente porque intercepta una gama estrecha de ondas luminosas. Si captara todas, solo veríamos niebla.
Solo reconociendo el “valor” del límite se podrá recuperar la justa armonía con la creación, evitando ser una amenaza para el mundo y para el hombre mismo.
La profecía de la Iglesia y la intuición de “Magnifica Humanitas”
La primera encíclica del papa León XIV, “Magnifica Humanitas”, permite comprender mejor los desafíos que plantean los interrogantes tecnocráticos. Revalorizar y custodiar lo “propio” de lo humano desarmando la IA es lo que subraya la encíclica en el n. 110: «Desarmar la IA significa sustraerla a la lógica de la competición armada […] Desarmar no significa renunciar a la tecnología, sino impedirle dominar lo humano […] La tarea, hoy, no es solo ética o técnica: es ecológica en el sentido más radical, porque pone en juego una nueva dimensión de nuestra Casa común».
De la encíclica se retomaron en el encuentro cuatro palabras clave. El límite, que no es un defecto que corregir, sino el paso a través del cual lo humano madura. El paradigma tecnocrático, es decir, la tentación de dejar a la eficiencia y al beneficio decisiones que deberían seguir siendo humanas. La ética aplicada a la tecnología. Y la dignidad ontológica, el valor que cada persona tiene por el hecho mismo de existir, ese «más que humano» del que habla el texto.
No recipientes que llenar, sino “recursos naturales” que valorar
El riesgo es que el hombre y su capacidad de acoger y elaborar se comparen con las operaciones de almacenamiento y eficiencia que una máquina o un sistema de IA realizan en pocos segundos. Pero el hombre, más que un recipiente pasivo que llenar, es un recurso ante el que asombrarse por la creatividad que es capaz de manifestar. Noam Chomsky, filósofo, lingüista y activista estadounidense, lo afirma así: «La mente humana no es, como ChatGPT y sus semejantes, un pesado motor estadístico de “pattern matching” que se atiborra de cientos de terabytes de datos y extrapola la respuesta más probable en una conversación o la respuesta más probable a una pregunta científica. Al contrario, la mente humana es un sistema sorprendentemente eficiente e incluso elegante que opera con pequeñas cantidades de información; no busca deducir correlaciones brutas entre datos mínimos, sino crear explicaciones».
El riesgo de una educación ultraprocesada
Para explicar la diferencia entre persuadir y manipular, Benanti recurrió a una imagen tomada de la mesa: la comida ultraprocesada. Gusta, pero no nutre, y los costes acaban recayendo en la colectividad. El lenguaje de las máquinas funciona igual: elegante, fluido y, sin embargo, incapaz de enseñar algo. Nace así una «educación ultraprocesada», sin fricción y sin conocimiento. También pesan los nombres que damos a estos sistemas: decir que una máquina «piensa» termina por encubrir diferencias que sí importan.
Eliminar el esfuerzo es un error educativo
La ausencia de fricción explica también por qué hemos aceptado objetos como el teléfono móvil: el hardware es nuestro, pero las funciones siguen cedidas en licencia por quien presta el servicio. Las aplicaciones y las plataformas nos ahorran esperas y negociaciones, pero pueden reducir a los usuarios a vasallos de los propietarios del software. El diccionario que hay que consultar, el profesor que corrige, el problema que no se resuelve enseguida: son esfuerzos que dejan algo a quien los atraviesa. De ahí la pregunta “algorética” dejada al público: ¿qué será de nosotros si seguimos haciendo escribir los textos a la IA sin aprender nada?
Conciencia, patología y dignidad no son funciones calculables
Moro añadió una última línea divisoria. Las máquinas se presentan como modelos de la mente, pero no conocen las patologías psiquiátricas: quien sufre esquizofrenia puede construir frases gramaticalmente perfectas que no dicen nada. La patología afecta a una persona, no a un dispositivo defectuoso, y la dignidad viene del existir, no del rendimiento. Si la inteligencia es la capacidad de resolver problemas, preguntó, «¿qué problema resuelve un poema?».
No innovación, sino desarrollo
Desarmar la IA, recordó Aluigi en las conclusiones, no se refiere solo a las armas: hay una competencia económica sin frenos y una potencia de cálculo capaz de sortear el consenso democrático, las leyes y la justicia social. Benanti evocó las espadas convertidas en arados: todo instrumento es ambiguo, porque lo que prolonga la mano puede servir o herir. De ahí la diferencia entre innovación, que nos hace más rápidos sin garantizar nada mejor, y desarrollo, «esa forma de innovación que contribuye al bien común». La pregunta que queda no es cuán capaces son las máquinas, sino «cuán capaces somos nosotros de seguir siendo humanos».
