Un documento del Vaticano sobre inteligencia artificial que, sin pretenderlo, dice en voz alta lo que muchos llevábamos tiempo intuyendo, y que se vuelve especialmente incómodo cuando uno trabaja, como yo, en el mundo de la educación.

CARTA ENCÍCLICA MAGNIFICA HUMANITAS DEL SANTO PADRE LEÓN XIV SOBRE LA CUSTODIA DE LA PERSONA HUMANAEN EL TIEMPO DE LA INTELIGENCIA ARTIFICIAL

No suelo leer encíclicas, y llegó a mi esta casi por curiosidad por que un familiar directo me la recomendó, esperando encontrar advertencias generales y un poco solemnes sobre los peligros de la IA. Me llevé una sorpresa distinta. Se titula Magnifica Humanitas, la firmó el Santo Padre, León XIV, el 15 de mayo de 2026, y lo que me encontré fue una de las descripciones más claras y mejor argumentadas que he leído sobre lo que nos está pasando con la inteligencia artificial, escrita además en un lenguaje que se entiende sin necesidad de ser experto.

La comparto como la he ido digiriendo yo, sin la menor pretensión de moverme en el terreno de la teología, sino desde el sitio que me corresponde, que es el de alguien que se dedica a observar hacia dónde van las cosas y a tratar de traducir lo que significan para el trabajo y para la vida de las personas. Y lo cierto es que este texto me ha dejado pensando bastante más de lo que esperaba, porque toca de lleno una pregunta que cualquiera que dirija equipos o forme a otros debería estar haciéndose, y que la mayoría todavía esquivamos.

La imagen que ordena todo el documento

El Papa apoya toda su reflexión en dos imágenes muy sencillas, dos formas opuestas de construir. Por un lado, está la torre de Babel, esa obra enorme levantada desde la convicción de que el ser humano se basta a sí mismo, que promete llegar al cielo y termina en confusión y dispersión. Por otro está la reconstrucción de Jerusalén que narra el libro de Nehemías, un trabajo lento y paciente, repartido entre mucha gente, donde cada uno se hace cargo de un tramo de muralla y nadie impone soluciones desde arriba.

A partir de ese contraste afirma lo que para mí es la idea que sostiene el documento entero: la tecnología no es ni buena ni mala en sí misma, pero tampoco es neutral, porque «toma el rostro de quien la concibe, la financia, la regula, la utiliza» (n. 9). Dicho de otro modo, la pregunta de fondo nunca es si decimos sí o no a la IA, sino con qué intención y para quién la construimos, y esa pregunta, que parece evidente, es justamente la que solemos saltarnos cuando llega una herramienta nueva y solo nos preguntamos qué podemos hacer con ella.

Hay además un dato que el texto coloca pronto y que tiene mucho calado, también estratégico. El poder tecnológico ha cambiado de manos: si en el siglo XX eran sobre todo los estados quienes impulsaban la innovación, hoy en día los principales motores son actores privados, muchas veces más grandes que los propios gobiernos, lo que hace que ese poder sea, en palabras de la encíclica, «aún más difícil de discernir, gobernar y orientar hacia el bien común» (n. 5).

El corazón del documento: «Técnica y dominio»

El tercer capítulo es donde el texto deja de hablar en general y se mete en lo concreto. A continuación lo resumo en torno las ideas que más me han marcado.

La primera es una advertencia que debería estar colgada en más de un despacho. El Papa describe el viejo paradigma de la eficiencia y el beneficio como criterio único de decisión, y para resumirlo recupera una frase de Romano Guardini (sacerdote, pensador, filósofo, escritor y académico católico alemán) que se entiende a la primera: «El hombre moderno no está preparado para utilizar el poder con acierto» (n. 93). Tener más poder, viene a decir, no significa estar mejor, y confundir una cosa con la otra es precisamente el error de nuestro tiempo.

La segunda idea es, para mí, la más valiosa de todo el documento, y la que más me sorprendió por su precisión. El texto explica que los sistemas de IA actuales están «más cultivados que construidos» (n. 98), porque nadie diseña cada pieza a mano, sino que se crea una especie de terreno donde el sistema crece por su cuenta, hasta el punto de que ni siquiera quienes lo programan entienden del todo cómo funciona por dentro. Y de ahí extrae una advertencia muy directa, que conviene tener clara antes de seguir hablando: no debemos confundir esta «inteligencia» con la nuestra. Estas máquinas imitan funciones que hacemos los humanos, y a menudo nos ganan en velocidad, pero, según la encíclica, «no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones» (n. 99). Pueden parecer cercanas, incluso comprensivas, pero el Papa lo zanja con una frase que da que pensar: «cuando la palabra es simulada, esta no construye una relación, sino una apariencia» (n. 100).

Y aquí llega lo que más me toca, porque es exactamente lo que llevo tiempo defendiendo. Al describir el uso cotidiano de la IA, el Papa señala tres rasgos que conviene vigilar, la facilidad para obtener el resultado, la sensación de que lo que responde es objetivo y la impresión de que uno habla con alguien, y entonces escribe la frase que me hizo detenerme: esa facilidad y esa rapidez «pueden acostumbrarnos a delegar demasiado y a buscar respuestas rápidas, debilitando el juicio personal y la creatividad» (n. 100). No es un matiz lateral, es el centro de este tema. La misma herramienta que nos ahorra el esfuerzo es, si no andamos con cuidado, la que poco a poco nos va dejando sin la costumbre de pensar.

A partir de ahí el texto desmonta una idea muy cómoda, la de que una máquina es solo un instrumento que «hay que usar bien». Todo sistema, recuerda, lleva dentro decisiones sobre qué mide, qué ignora, qué considera importante y cómo clasifica a las personas (n. 104), de manera que cuando dejamos que un algoritmo decida sobre el trabajo de alguien, sobre su crédito o sobre su reputación, lo que desaparece no es solo la empatía, sino la responsabilidad, porque, como dice de forma muy gráfica, «la injusticia se realiza silenciosamente» y ya no queda nadie a quien reclamar (n. 103). Por eso insiste tanto en que siempre se pueda identificar quién responde de una decisión y quién repara el daño cuando las cosas salen mal (n. 105).

El capítulo cierra con una reflexión muy humana sobre lo que no deberíamos perder. El verdadero riesgo, dice, no es que algunas tecnologías se usen mal, sino que terminemos creyendo que vivir bien consiste en tener más, sufrir menos y controlarlo todo (n. 112), y frente a esa promesa coloca una afirmación que no se me va de la cabeza: el ser humano «no florece a pesar del límite, sino a menudo a través del límite» (n. 118). Lo resume con un contraste que lo dice todo y que cualquiera que haya enseñado entiende al instante: para un algoritmo «el error es algo que hay que corregir; para una persona, puede ser el inicio de un cambio profundo» (n. 128).

Donde el documento baja al terreno de la educación y trabajo

Si el tercer capítulo me interesó, el cuarto me llamó poderosamente la atención, porque es donde el Papa entra en la educación y en el trabajo, que son mi día a día. Y aquí es donde el documento, escrito por alguien sin ninguna intención técnica, acierta en cosas que el debate del sector suele pasar por alto.

Sobre educación, el texto parte de un reconocimiento honesto, que estamos «poco preparados» en el ámbito educativo para esta transformación, y que la cultura de la inmediatez alimenta «el cansancio, el aburrimiento y la apatía ante el esfuerzo que supone buscar la verdad» (n. 139). A partir de ahí formula la frase que, para mí, debería abrir cualquier conversación sobre IA en las aulas: «Educar en el uso de la IA implica, por tanto, educar para decidir cuándo y para qué no utilizarla» (n. 140). Lo dice todavía más claro unas líneas después, cuando afirma que «debemos aprender a prescindir de la IA» y proteger a los jóvenes de la seducción de la máquina perfecta, esa que «hace parecer inútil el pensamiento humano precisamente cuando más se necesita» (n. 140).

El Papa va más allá y describe el peligro de un sistema educativo «carente de amor por la verdad, en el que el flujo incesante de información sustituya al ejercicio de la investigación, la reflexión y el discernimiento» (n. 146), un sistema donde las personas «saben muchas cosas» pero les cuesta dar sentido a lo que saben porque no logran conectarlo. Frente a eso propone algo que me parece muy fino, «una verdadera higiene de la atención», con ritmos que incluyan silencio, estudio reflexivo y lectura pausada (n. 146), y reclama una formación continua del profesorado que ayude a los alumnos a hacer un uso «responsable, crítico y creativo» de la tecnología en lugar de sufrirla pasivamente (n. 145). Y cierra el bloque con una frase que yo enmarcaría: «La escuela no está llamada a perseguir la velocidad del mundo digital, sino a ofrecer aquello que lo digital por sí solo no puede dar: tiempo compartido para aprender y relaciones fiables» (n. 147).

En el terreno del trabajo, la encíclica es igual de lúcida. Advierte de que, contra lo que prometen los discursos sobre productividad, los enfoques actuales de la tecnología pueden «desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas» (n. 150), porque demasiadas veces son las personas las que se ven obligadas a adaptarse al ritmo de las máquinas, y no al revés. Su propuesta no es frenar la innovación, sino gestionarla con criterio, estableciendo «criterios sociales para la innovación», de modo que cada introducción de automatización venga acompañada de medidas verificables de protección del empleo, recualificación y participación de los trabajadores (n. 156).

Y hay un punto que conviene no perder de vista, aunque resulte incómodo. El Papa recuerda que detrás de cada respuesta instantánea de la IA hay una larga cadena de trabajo humano poco visible, el etiquetado de datos, la moderación de contenidos y la extracción de minerales, sostenida muchas veces por personas mal pagadas en condiciones duras (n. 173), y señala también el riesgo de la economía de la atención, esos servicios «diseñados para captar el tiempo y la mirada de los usuarios, explotando sus fragilidades y debilitando la libertad interior» (n. 170). Conviene recordarlo cuando hablamos de la IA solo en términos de eficiencia y ahorro.

El criterio que lo ordena todo

Con todo este recorrido, el Papa ofrece al final un criterio de decisión que me parece más afilado que muchos marcos de gobernanza que circulan por ahí, y que toma prestado de Juan Pablo II. La pregunta es si la inteligencia artificial «hace la vida del hombre sobre la tierra, en todos sus aspectos, “más humana”» y más digna (n. 129). Si la respuesta es sí, adelante con responsabilidad, en esa lógica paciente de reconstruir Jerusalén pieza a pieza. Si lo que crece es el poder mientras se apaga el juicio y se rompen los vínculos, entonces, por mucho que la obra parezca grandiosa, estamos levantando otra Babel.

Lo que de verdad nos toca a quienes educamos

Y es aquí donde quiero detenerme, porque esta encíclica ha terminado de ordenar una convicción que llevo tiempo trabajando. Durante estos años hemos discutido mucho sobre cómo enseñar a usar la inteligencia artificial, qué herramientas integrar, qué prompts enseñar, qué plataforma adoptar. Y me he ido convenciendo de que esa conversación, siendo necesaria, no es la importante. La parte técnica envejece en meses, y además la aprende casi cualquiera por su cuenta. Lo que no se aprende solo, lo que de verdad nos corresponde como educadores, es otra cosa: educar el juicio, el criterio, la responsabilidad y la creatividad. Ahí, y no en el manejo de la herramienta, está el verdadero valor humano frente a la máquina, precisamente porque es lo único que la máquina no puede hacer por nosotros.

El propio documento me da la pieza que me faltaba para explicarlo. Cuando el Papa insiste en que siempre debe quedar claro quién responde de una decisión (n. 105), está hablando, sin nombrarla, de algo muy concreto: toda decisión que aceptamos como buena lleva una firma, y esa firma es nuestra. Podemos pedirle a una IA el borrador, el análisis o la propuesta, pero el momento en que decimos «esto vale, lo hago mío» sigue siendo un acto humano e intransferible. El problema es que una firma puesta sin haber pensado, sin haber sometido lo recibido al esfuerzo del criterio, no es más que una rúbrica en blanco. Y eso es exactamente lo que se atrofia cuando delegamos demasiado: no la capacidad de obtener respuestas, que nunca hemos tenido tan a mano, sino la capacidad de juzgar si esas respuestas son buenas.

Por eso creo que nuestra tarea, hoy más que nunca, es entrenar esa firma. Que un alumno aprenda a sostener un juicio, a defender por qué algo está bien o mal, a detectar cuándo la respuesta cómoda esconde un error, a crear desde el esfuerzo y no desde el atajo. Esa firma entrenada con esfuerzo es lo que distingue a un profesional que usa la IA de uno que es usado por ella, y formarla es, me parece, la responsabilidad más seria que tenemos por delante.

Os dejo una pregunta sincera, y no es retórica porque me interesa de verdad lo que penséis: ¿estamos enseñando a nuestros alumnos a manejar la herramienta, o a tener el criterio para juzgar lo que la herramienta les entrega?

Porque podemos delegar el trabajo en la máquina, pero la firma de lo que aceptamos como bueno sigue siendo nuestra, y esa firma solo vale si la hemos entrenado con esfuerzo.

Felipe Ynzenga