La primera encíclica del Papa León XIV llega en un momento especialmente delicado: la inteligencia artificial (IA) ha dejado de ser una promesa futurista para convertirse en una infraestructura cotidiana que reorganiza la economía, la información y las relaciones sociales. En el texto, el … Pontífice se pregunta qué ocurre con la dignidad humana cuando delegamos cada vez más decisiones y formas de conocimiento en sistemas algorítmicos.
El texto acierta en algo esencial: recordar que la IA no piensa ni aprende como una persona. Los sistemas actuales funcionan mediante adaptación estadística a partir de enormes cantidades de datos. Pueden producir resultados muy eficaces, pero no poseen conciencia moral ni experiencia del mundo. Simulan empatía o comprensión, pero no conocen aquello que producen. Esa distinción resulta hoy decisiva en un contexto donde algunas figuras tecnológicas y científicas tienden a confundir capacidad con humanidad, como ha ocurrido con las últimas declaraciones de Richard Dawkins.

La encíclica señala, además, un problema más profundo, que es el modo en que la tecnología puede alterar nuestra comprensión del ser humano. Cuando la eficiencia se convierte en la medida dominante del valor, la persona corre el riesgo de verse como un proyecto que debe optimizarse permanentemente. La advertencia es pertinente porque el debate sobre la IA suele centrarse en sus prestaciones y olvidar la cuestión antropológica: qué idea de ser humano queda implícita en nuestras tecnologías. Sin embargo, creo que se tiende a sobreestimar a la IA en estas cuestiones, ya que la ingeniería genética plantea dilemas quizá aún más radicales sobre identidad, desigualdad o selección humana.
El texto adopta una posición claramente más crítica que entusiasta. Reconoce avances en medicina, investigación o productividad, pero insiste sobre todo en los riesgos. Resalta tres, y el primero es la facilidad. Las herramientas inteligentes simplifican tareas y ahorran tiempo, pero también pueden acostumbrarnos a delegar demasiado. La tentación de aceptar respuestas inmediatas debilita lentamente el juicio personal y la capacidad de deliberación.
El segundo es la falsa apariencia de objetividad. Muchos sistemas algorítmicos se presentan como neutrales cuando reflejan prioridades y sesgos incorporados por quienes los diseñan. Investigaciones recientes muestran, por ejemplo, que los grandes modelos de lenguaje distinguen razonablemente bien hechos verdaderos y falsos, pero tienen más dificultades con creencias personales, lo que puede reforzar percepciones erróneas precisamente allí donde el juicio humano resulta más vulnerable.
El tercer riesgo es más sutil: la ilusión de relación personal. Los chatbots pueden resultar útiles e incluso reconfortantes, especialmente para personas con dificultades de interacción social. Pero también pueden inducir a engaño si el usuario olvida que detrás de la conversación no existe un sujeto consciente. La simulación de compañía puede terminar sustituyendo vínculos humanos reales o reforzando respuestas complacientes que debiliten la autocrítica. De hecho, se han publicado evidencias de que el comportamiento adulador de estos asistentes podría estar reforzando los prejuicios y sesgos de quienes los usan.

«No es un hecho puramente técnico»

Más allá de estos riesgos genéricos, hay cuatro ámbitos concretos que la encíclica aborda con especial interés. Aquí se destacan la responsabilidad y la gobernanza. El Papa tiene razón al afirmar que la IA nunca es un hecho puramente técnico. Cuando un algoritmo interviene en decisiones sobre empleo, crédito o seguridad, puede afectar directamente a derechos fundamentales. En este sentido, Europa ha avanzado en este terreno con su Reglamento de Inteligencia Artificial y otras normativas, que intentan limitar riesgos asociados a derechos y libertades.
En este ámbito destacan dos cuestiones especialmente delicadas. La primera son los ‘deepfakes’ y la desinformación, que amplifican enormemente la capacidad de fabricar relatos falsos y erosionar la confianza pública. Aunque creo oportuno resaltar dos puntos que no se mencionan habitualmente. Uno, que los impactos más graves de los deepfakes se están produciendo en la violencia digital contra las mujeres mediante imágenes manipuladas y contenidos vejatorios generados artificialmente. Dos, que las sociedades también desarrollan mecanismos de resiliencia frente a la propaganda y las noticias falsas, como explica Hugo Mercier en ‘No hemos sido engañados’.
La segunda cuestión son los sesgos. Sistemas aparentemente neutrales pueden reproducir discriminaciones de género, edad o condición social presentes en los datos con los que fueron entrenados. Tal como resalta Antonio Diéguez en ‘Pensar la tecnología’, uno de los mitos más extendidos es afirmar que la tecnología no es buena ni mala, sino que depende del uso que hagamos de ella. La neutralidad tecnológica absoluta no existe: toda tecnología incorpora una determinada visión del mundo.
El problema del trabajo también se aborda en la encíclica. La automatización promete liberar al ser humano de tareas pesadas o repetitivas, pero también puede generar ‘desespecialización’, vigilancia permanente y precarización. La respuesta más razonable pasa por vincular toda automatización a políticas activas de protección laboral y formación continua.
El documento aborda, además, el poder acumulado a través de los datos. Quien controla información sanitaria, educativa o económica posee una enorme capacidad de influencia. A ello se suma un problema frecuentemente invisibilizado: millones de trabajadores sostienen el entrenamiento de estos sistemas mediante tareas mal remuneradas y psicológicamente duras.

Reducir al enemigo a un dato

Finalmente, León XIV advierte sobre el uso militar de la IA. Delegar decisiones letales en sistemas autónomos amenaza con diluir la responsabilidad moral y reducir al enemigo a un simple dato. Mantener un control humano efectivo sobre el uso de la fuerza debería convertirse en un principio internacional básico.
Quizá una cuestión que conviene añadir al debate es la soberanía tecnológica. Si Europa renuncia a desarrollar capacidades propias y se limita a regular tecnologías ajenas, no podrá realizar un control efectivo, como se plantea en la encíclica, sobre tecnologías diseñadas por otros.
La principal virtud del documento quizá no esté en ofrecer soluciones cerradas, sino en recordar algo elemental que el entusiasmo tecnológico suele olvidar: ninguna innovación elimina la necesidad del juicio humano. La cuestión decisiva no es únicamente qué pueden hacer las máquinas, sino qué tipo de sociedad queremos construir con ellas.

Pablo Haya Coll

Pablo Haya Coll es investigador del Laboratorio de Lingüística Informática de la Universidad Autónoma de Madrid (UAM) y director del área de Business & Language Analytics (BLA) del Instituto de Ingeniería del Conocimiento (IIC)

En los móviles se lleva el naranja. Antes, de vez en cuando, llegaba alguno en ese color (caso del realme GT 7 Pro), pero no ha pasado desapercibido que la tendencia surgió a raíz de que el iPhone 17 Pro sorprendiera con dicha elección estilística. El reclamo naranja se extiende por todos los segmentos de precio. 20bits repasa varios smartphones que incluyen versiones en esa llamativa tonalidad, no pocos de los cuales modulan también el diseño Apple.HONOR 600El último en aparecer en el mercado español en ese potente color es el HONOR 600 (desde 499 euros), también disponible en negro y en blanco dorado. Un teléfono compacto (pantalla de 6,57 pulgadas), hasta arriba de batería (6.400 mAh), con cámara de 200 MP y con extras como la creación de breves vídeos a partir de imágenes gracias a la IA (Imagen a Vídeo 2.0).OPPO Find X9 UltraEl flamante OPPO Find X9 Ultra (1.699 euros) entró en escena en un sobrio negro (Tundra Umber) y en naranja (Canyon Orange), variante fabricada con fibra de grado aeronáutico. La mayor expresión tecnológica de la marca brilla por su fotografía profesional, simbolizada en su teleobjetivo óptico de 50MP con zoom de 10x y sus cámaras Hasselblad de 200 MP.HUAWEI Pura X MaxHUAWEI se ha apuntado un tanto tecnológico con el Pura X Max, su primer plegable de formato más ancho, tendencia emergente en la que se ha adelantado a Apple y a Samsung. Un modelo innovador comercializado en China en cinco vistosos colores, entre ellos el naranja. Luce una pantalla exterior de 5,4 pulgadas y una interior de 7,7.realme P4 Power 5Grealme estrenó su batería Titan de 10.001 (mAh) con el realme P4 Power, dispositivo que con el color naranja buscaba reforzar el atractivo desplegado de por sí por su increíble capacidad. Lanzado de partida en la India, y sin exhibir un grosor excesivo (9 mm) a pesar de su condición, venía con pantalla AMOLED curva, cámara de 50 MP y el procesador Dimensity 7400 Ultra.HONOR Magic8 Pro AirPara el mercado chino, HONOR lanzó su dispositivo ultrafino para competir con el iPhone Air, que para más inri apostaba por el naranja. Con 6,1 mm de grosor y 155 gramos de peso, el HONOR Magic8 Pro Air ofrecía batería de 5.500 mAh, capacidad superior en su vertiente, y se caracterizaba a su vez por una pantalla OLED de 6,1 pulgadas y por un teleobjetivo periscópico de 64 MP.TECNO Spark 50TECNO, marca fuerte en mercados africanos y asiáticos que todavía no se ha decidido a dar el gran salto europeo (aunque está presente en varios países), ha aplicado el factor naranja a modelos como el Camon 50 Ultra 5G y el Spark 50. El segundo modelo, un 4G, es el que más mira al diseño tipo iPhone y cuenta con batería de 7.000 mAh y cámara de 50 MP.Infinix Note 60 ProUna marca apenas conocida por aquí, Infinix, ha lanzado varios dispositivos que contemplan el naranja para el toque estético. El último, el Infinix Note 60 Pro, que también llama la atención por el detalle de que en la trasera imita la Glyph Matrix de Nothing por medio de su zona para notificaciones en el lado derecho del módulo.itel A200+Como el caso interior, itel tampoco suena por estos lares. Pertenece al mismo grupo de TECNO y de Infinix, y sobre todo tiene presencia en mercados emergentes. Dispositivos como el A200+, con batería de 6.000 mAh, indican que ha asimilado el naranja como un color más.Unihertz Titan 2 EliteEl Titan 2 Elite (490 dólares), el curioso móvil con teclado físico de Unihertz, también apuesta por el naranja como uno de sus colores para resultar todavía más llamativo. Conjuga su rasgo distintivo y atípico con una pantalla AMOLED de 4,03 pulgadas, el procesador MediaTek Dimensity 7400 y dos cámaras de 50 MP.

Un grupo de científicos de Corea del Sur ha diseñado unas lentillas inteligentes que pueden enviar señales eléctricas a través de la retina hasta las regiones cerebrales para mejorar el estado de ánimo.Dicha innovación, difundida por un artículo publicado en el diario The Conversation, se basa en la idea de una lente de contacto que puede ayudar a tratar la depresión al estimular el cerebro a través del ojo. Además, a diferencia de otras lentillas que monitorizan algunas afecciones oculares o controlan los niveles de glucosa, este dispositivo pretende utilizar el ojo como vía de acceso al cerebro. Pero, ¿cómo es posible?Acorde a la información compartida, estas lentillas tienen diminutos electrodos que mandan señales eléctricas suaves a través de la retina, de esta manera, al emplear la técnica conocida como interferencia temporal, emiten dos frecuencias eléctricas ligeramente diferentes simultáneamente. Además, al estar diseñadas las señales para que no solo se activen por completo en los puntos donde se pueden superponer, los investigadores son capaces de dirigirse a regiones cerebrales específicas relacionadas con la regulación del estado de ánimo.Según The Conversation, «en teoría, este método podría estimular circuitos cerebrales relacionados con la depresión». No obstante, por ahora, la iniciativa aún se encuentra en una fase temprana porque todavía no se ha probado en personas, sino en ratones de laboratorio.Ya se han hecho las primeras pruebas con ratonesLas primeras pruebas se hicieron con ratones, a los que se les inyectó una hormona del estrés para inducir un comportamiento similar a la depresión.Por ahora, los investigadores reconocen que esto no refleja la depresión humana y que dicha tecnología presenta «desafíos prácticos», ya que las lentillas inteligentes requieren un ajuste preciso para no dañar la córnea y reducir cualquier riesgo de infección. Además, si bien es cierto que la fabricación de lentes es costosa, los investigadores reconocen que dicho proyecto aún no es comercialmente viable a gran escala.También, cabe mencionar que la depresión en sí misma es complicada de tratar en animales de laboratorio, por lo tanto, los resultados de este pequeño experimento todavía están lejos de traducirse en un tratamiento viable para seres humanos. Aun así, la idea de tratar la depresión con lentillas inteligentes es muy interesante, y este primer estudio aporta una nueva vía creativa en la búsqueda de tratamientos innovadores para la depresión.