La primera encíclica del Papa, en la que el Pontífice realiza un alegato firme a favor del control de la inteligencia artificial y de los posibles efectos nocivos que su desarrollo puede tener para la sociedad, ha sido acogida de forma positiva tanto por … el sector religioso como el tecnológico. Los expertos destacan el trabajo de León XIV a la hora de convertir el desafío de la IA en una cuestión católica.
Durante la presentación del texto, el cofundador de Anthropic Chris Olah reconoció que las empresas que están desarrollando esta tecnología no siempre actúan teniendo en cuenta el bien de la sociedad, por lo que apuntó que destacó la importancia de que surjan «críticos bien informados» que «no se dejen doblegar por los incentivos» y sean capaces de alzar la voz cuando cometan algún error.

El ejecutivo alertó -en línea con la encíclica- sobre el riesgo de que la inteligencia artificial genere un problema de desempleo «a gran escala». «Si eso sucede, apoyar a los desplazados (del mercado laboral) será un imperativo moral de proporciones históricas», apuntó el canadiense, sentado al lado del Papa durante la presentación. Efectivamente, en la obra León XIV avisa de que «la protección de las oportunidades de empleo y el papel insustituible del individuo deben seguir siendo la norma general» y que «la búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente puestos de trabajo».

MÁS INFORMACIÓN

La defensa del trabajador realizada por el Pontífice ha sido del gusto de Ulises Cortés, catedrático de Inteligencia Artificial de la Universidad Politécnica de Cataluña; que pone en valor la capacidad de León XIV para centrarse, directamente, «en las cosas importantes» sin dejarse absolutamente nada en el tintero. «Ha sabido centrar bien el tiro en los derechos humanos. La encíclica está muy bien enfocada en ese sentido», dice el docente.

Durante la presentación del texto, el cofundador de Anthropic Chris Olah reconoció que las empresas que están desarrollando esta tecnología no siempre actúan teniendo en cuenta el bien de la sociedad

«En la encíclica se deja claro que, a diferencia de lo que se suele decir, la tecnología no es neutra, sino que tiene la capacidad de adoptar la cara y las intenciones de aquel que la utiliza. Asimismo, se previene contra el peligro de que sea empleada para modificar los hábitos y los pensamientos de los usuarios o para el desarrollo de armas autónomas. Algo que resulta muy interesante», explica el experto.
Juan Ignacio Rouyet, profesor de IA en la Universidad Internacional de La Rioja y consultor senior en Eraneos se muestra algo más frío con el texto. Considera que el resultado es «correcto», porque, al final, «dice cosas que ya están desde hace tiempo consensuadas y son habituales a nivel ético», como la importancia de que el usuario no delegue la toma de decisiones en la máquinas o la importancia de que las empresas no sean las únicas que controlan la gobernanza.
«El matiz quizá es que lo hace desde una perspectiva católica», prosigue el experto. «En el texto parece que el Papa defiende la visión de la IA amplia, que es esa que sostiene que la inteligencia artificial puede superarnos en algunas capacidades, pero que los humanos siempre seremos algo más. Nos pide que seamos realistas, pero luchadores. Dice que todos debemos contribuir a construir la IA que beneficie a la humanidad sin caer en fatalismos ni en el pesimismo», zanja Rouyet.

«Hace falta que nos lo recuerden»

Por su parte, Juan Antonio Perteguer, patrono de la Fundación Vaticana RenAIssance, pone en valor las palabras del Papa en materia de gobernanza: «Lo más preocupante, como dice León, es que nos encontramos ante un cambio tecnológico que parece estar gobernado por unas pocas empresas, y esto requiere una revisión».
Perteguer destaca que la obra de Léon XIV pide al humano que reflexione sobre su situación actual y la relación que mantenemos con la tecnología: «No es una encíclica sobre la IA, sino sobre las personas. Nos pone a nosotros en el centro. Tampoco muestra miedo a la tecnología, solo pide que se la use en favor de la humanidad. Aunque muchos expertos lo hayan dicho anteriormente, hace falta que Roma nos lo recuerde». Y la Iglesia española está de acuerdo.
Precisamente, el arzobispo de Madrid, José Cobo, apuntó ayer en declaraciones a Servimedia que «vivimos en un tiempo donde hay grandes asuntos en los que la Iglesia y la fe piden dar una respuesta, en concreto en el campo de la de la tecnología». «(La encíclica) nos trae preguntas muy grandes: ¿cómo trabajamos por el bien común y cómo trabajamos por la dignidad humana? ¿Cómo vamos afrontar -desde lo más hondo y desde la tradición y la experiencia que tenemos los cristianos, que es la centralidad de la persona- las migraciones, la situación geopolítica en la que nos encontramos, la inteligencia artificial, la pobreza en nuestro mundo, la situación de guerra y de violencia en nuestro mundo? Son grandes retos y grandes interrogantes, pero tendremos que empezar a afrontarlos y habitarlos desde perspectivas como nos dice la encíclica».

Las redes sociales forman parte del día a día de los usuarios que residen en España, tanto como herramienta de comunicación como espacio de entretenimiento y consumo digital. Su presencia se ha consolidado hasta convertirse en un hábito cotidiano, aunque no todas las plataformas mantienen el mismo nivel de popularidad. Según el Panel de Hogares de la Comisión Nacional de los Mercados y la Competencia (CNMC), Instagram se ha consolidado como la red social más utilizada en España, con un 57,9% de usuarios habituales.Creciendo más de tres puntos porcentuales respecto al año anterior, Instagram sigue liderando el podio de las plataformas más populares, frente a Facebook que se mantiene en segundo puesto con un 52% y TikTok que ocupa el tercer lugar con un 31%.Por el resto, otras redes sociales como X, Pinterest o LinkedIn aglutinan menos del 20% de usuarios, teniendo en cuenta que la aplicación de Elon Musk ha pasado de un 18,1% del año pasado al 16,3% actual.La CNMC señala que la pérdida de usuarios en redes como Facebook o X responde al auge de plataformas como Instagram o TikTok, cuyo contenido visual y de consumo rápido resulta más atractivo para gran parte del público. Esta tendencia refleja un cambio en los hábitos digitales, especialmente entre los usuarios más jóvenes, que priorizan formatos basados en imágenes y vídeos cortos que las publicaciones tradicionales centradas en texto.En lo que respecta a la mensajería instantánea, WhatsApp mantiene su liderazgo con un 94,6% de usuarios que la utilizan, posicionándose por delante de otras alternativas como Instagram con un 27,6% o Telegram con un 17,4%.También, los datos del Panel de Hogares de la CNMC muestran el peso que tienen estas herramientas en la rutina digital diaria, teniendo en cuenta que el 83,8% de los usuarios emplea aplicaciones de mensajería varias veces al día, mientras que el 52,6 % accede con esa misma frecuencia a redes sociales y el 49,8 % consulta su correo electrónico de forma recurrente.Por otro lado, el informe también detecta un descenso en el consumo diario de entretenimiento en línea: solo un 30% ve vídeos varias veces al día y algo más del 22% escucha música con esa misma frecuencia. ¿El motivo? El móvil sigue siendo el eje de la vida digital de los usuarios, con la mensajería instantánea como actividad predominante y una creciente preferencia por redes sociales basadas en contenidos visuales.

La primera encíclica del Papa León XIV llega en un momento especialmente delicado: la inteligencia artificial (IA) ha dejado de ser una promesa futurista para convertirse en una infraestructura cotidiana que reorganiza la economía, la información y las relaciones sociales. En el texto, el … Pontífice se pregunta qué ocurre con la dignidad humana cuando delegamos cada vez más decisiones y formas de conocimiento en sistemas algorítmicos.
El texto acierta en algo esencial: recordar que la IA no piensa ni aprende como una persona. Los sistemas actuales funcionan mediante adaptación estadística a partir de enormes cantidades de datos. Pueden producir resultados muy eficaces, pero no poseen conciencia moral ni experiencia del mundo. Simulan empatía o comprensión, pero no conocen aquello que producen. Esa distinción resulta hoy decisiva en un contexto donde algunas figuras tecnológicas y científicas tienden a confundir capacidad con humanidad, como ha ocurrido con las últimas declaraciones de Richard Dawkins.

La encíclica señala, además, un problema más profundo, que es el modo en que la tecnología puede alterar nuestra comprensión del ser humano. Cuando la eficiencia se convierte en la medida dominante del valor, la persona corre el riesgo de verse como un proyecto que debe optimizarse permanentemente. La advertencia es pertinente porque el debate sobre la IA suele centrarse en sus prestaciones y olvidar la cuestión antropológica: qué idea de ser humano queda implícita en nuestras tecnologías. Sin embargo, creo que se tiende a sobreestimar a la IA en estas cuestiones, ya que la ingeniería genética plantea dilemas quizá aún más radicales sobre identidad, desigualdad o selección humana.
El texto adopta una posición claramente más crítica que entusiasta. Reconoce avances en medicina, investigación o productividad, pero insiste sobre todo en los riesgos. Resalta tres, y el primero es la facilidad. Las herramientas inteligentes simplifican tareas y ahorran tiempo, pero también pueden acostumbrarnos a delegar demasiado. La tentación de aceptar respuestas inmediatas debilita lentamente el juicio personal y la capacidad de deliberación.
El segundo es la falsa apariencia de objetividad. Muchos sistemas algorítmicos se presentan como neutrales cuando reflejan prioridades y sesgos incorporados por quienes los diseñan. Investigaciones recientes muestran, por ejemplo, que los grandes modelos de lenguaje distinguen razonablemente bien hechos verdaderos y falsos, pero tienen más dificultades con creencias personales, lo que puede reforzar percepciones erróneas precisamente allí donde el juicio humano resulta más vulnerable.
El tercer riesgo es más sutil: la ilusión de relación personal. Los chatbots pueden resultar útiles e incluso reconfortantes, especialmente para personas con dificultades de interacción social. Pero también pueden inducir a engaño si el usuario olvida que detrás de la conversación no existe un sujeto consciente. La simulación de compañía puede terminar sustituyendo vínculos humanos reales o reforzando respuestas complacientes que debiliten la autocrítica. De hecho, se han publicado evidencias de que el comportamiento adulador de estos asistentes podría estar reforzando los prejuicios y sesgos de quienes los usan.

«No es un hecho puramente técnico»

Más allá de estos riesgos genéricos, hay cuatro ámbitos concretos que la encíclica aborda con especial interés. Aquí se destacan la responsabilidad y la gobernanza. El Papa tiene razón al afirmar que la IA nunca es un hecho puramente técnico. Cuando un algoritmo interviene en decisiones sobre empleo, crédito o seguridad, puede afectar directamente a derechos fundamentales. En este sentido, Europa ha avanzado en este terreno con su Reglamento de Inteligencia Artificial y otras normativas, que intentan limitar riesgos asociados a derechos y libertades.
En este ámbito destacan dos cuestiones especialmente delicadas. La primera son los ‘deepfakes’ y la desinformación, que amplifican enormemente la capacidad de fabricar relatos falsos y erosionar la confianza pública. Aunque creo oportuno resaltar dos puntos que no se mencionan habitualmente. Uno, que los impactos más graves de los deepfakes se están produciendo en la violencia digital contra las mujeres mediante imágenes manipuladas y contenidos vejatorios generados artificialmente. Dos, que las sociedades también desarrollan mecanismos de resiliencia frente a la propaganda y las noticias falsas, como explica Hugo Mercier en ‘No hemos sido engañados’.
La segunda cuestión son los sesgos. Sistemas aparentemente neutrales pueden reproducir discriminaciones de género, edad o condición social presentes en los datos con los que fueron entrenados. Tal como resalta Antonio Diéguez en ‘Pensar la tecnología’, uno de los mitos más extendidos es afirmar que la tecnología no es buena ni mala, sino que depende del uso que hagamos de ella. La neutralidad tecnológica absoluta no existe: toda tecnología incorpora una determinada visión del mundo.
El problema del trabajo también se aborda en la encíclica. La automatización promete liberar al ser humano de tareas pesadas o repetitivas, pero también puede generar ‘desespecialización’, vigilancia permanente y precarización. La respuesta más razonable pasa por vincular toda automatización a políticas activas de protección laboral y formación continua.
El documento aborda, además, el poder acumulado a través de los datos. Quien controla información sanitaria, educativa o económica posee una enorme capacidad de influencia. A ello se suma un problema frecuentemente invisibilizado: millones de trabajadores sostienen el entrenamiento de estos sistemas mediante tareas mal remuneradas y psicológicamente duras.

Reducir al enemigo a un dato

Finalmente, León XIV advierte sobre el uso militar de la IA. Delegar decisiones letales en sistemas autónomos amenaza con diluir la responsabilidad moral y reducir al enemigo a un simple dato. Mantener un control humano efectivo sobre el uso de la fuerza debería convertirse en un principio internacional básico.
Quizá una cuestión que conviene añadir al debate es la soberanía tecnológica. Si Europa renuncia a desarrollar capacidades propias y se limita a regular tecnologías ajenas, no podrá realizar un control efectivo, como se plantea en la encíclica, sobre tecnologías diseñadas por otros.
La principal virtud del documento quizá no esté en ofrecer soluciones cerradas, sino en recordar algo elemental que el entusiasmo tecnológico suele olvidar: ninguna innovación elimina la necesidad del juicio humano. La cuestión decisiva no es únicamente qué pueden hacer las máquinas, sino qué tipo de sociedad queremos construir con ellas.

Pablo Haya Coll

Pablo Haya Coll es investigador del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid (UAM) y director del área de Business & Language Analytics (BLA) del Instituto de Ingeniería del Conocimiento (IIC)