Cuando Román Orús habla de inteligencia artificial, no lo hace desde la fascinación acrítica ni desde el miedo fácil. Físico de formación, investigador en computación cuántica, emprendedor y ahora uno de los 40 expertos elegidos por Naciones Unidas para ayudar a pensar la gobernanza global de la IA, Orús observa la tecnología con la distancia de quien sabe que lo que hoy parece deslumbrante quizá no sea más que el primer paso. “Estamos como si acabáramos de descubrir la rueda”, dice en esta entrevista con 20bits.Profesor de investigación Ikerbasque en el Donostia International Physics Center y cofundador y director científico de Multiverse Computing, Orús es además el único español que forma parte del nuevo Panel Científico Internacional Independiente sobre Inteligencia Artificial de la ONU, que acaba de celebrar en Madrid su primera reunión presencial. Su tarea no será decidir leyes ni imponer reglas a gobiernos o empresas, sino dibujar el mapa: ofrecer una visión científica, no sesgada y actualizada de qué es realmente la IA, qué puede hacer, qué riesgos plantea y qué oportunidades abre en un momento en el que la tecnología avanza más rápido que la propia capacidad de regularla.Y esa mirada, precisamente, es la que atraviesa toda la conversación. Orús compara la IA con “el nuevo proyecto Manhattan” por su dimensión estratégica y por la ventaja que dará a las regiones capaces de desarrollarla, pero insiste en que regular no debe significar frenar. Lo explica con una imagen sencilla: igual que los cinturones de seguridad permiten a los coches circular más rápido por la autopista, una buena gobernanza debería servir para que la inteligencia artificial avance sin convertirse en una “selva sin control”.En la entrevista, el físico habla de algunos de los riesgos que ya no pertenecen al terreno de la ciencia ficción: la generación masiva de contenido falso, la ciberseguridad, la concentración de poder en unas pocas tecnológicas o el impacto sobre el trabajo. También de los límites de los grandes modelos actuales, extraordinariamente capaces pero, a su juicio, todavía muy ineficientes, y de un futuro en el que la IA no estará solo en enormes centros de datos, sino también en modelos más pequeños y especializados, integrados en móviles, coches, robots o electrodomésticos.Pese a todo, Orús no se declara pesimista. Cree que la humanidad está ante una nueva revolución tecnológica, con sus tensiones y sus crisis, pero también con un enorme potencial de progreso. Eso sí, con una condición clara: “Hay que hacerlo con cabeza. Si lo hacemos sin cabeza, se acabó el optimismo”.Empecemos por el principio. Para quien no le conozca, usted es físico, trabaja en computación cuántica, es empresario y ahora forma parte de un panel de la ONU sobre IA. ¿Cómo se presenta?Yo soy Román Orús. Soy científico, soy físico, soy profesor Ikerbasque en el Donostia International Physics Center (DIPC) y soy cofundador y director científico de Multiverse Computing. Ahora, además, soy uno de los 40 integrantes del Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas.¿Qué pesa más en su mirada sobre la IA: el científico, el emprendedor o el ciudadano preocupado por el impacto de esta tecnología?Un poco de todo. El panel es esencialmente científico. Todos los que estamos ahí somos científicos. Es muy heterogéneo: hay tres o cuatro físicos, hay mucha gente que viene de machine learning y de informática, hay matemáticos, filósofos e incluso una periodista. En mi caso particular, yo creo que pesa mucho mi parte científica, la conexión con otras tecnologías como puede ser la computación cuántica y luego la visión global que tengo de la IA también desde el lado industrial. Yo soy científico, pero no soy un científico al uso, en el sentido de que también soy emprendedor y ahora estamos haciendo muchos temas de inteligencia artificial conectada con cuántica. Yo creo que eso también pesa mucho.Ha comparado la inteligencia artificial con el proyecto Manhattan. ¿Qué es exactamente lo que deberíamos temer: la tecnología, quién la controla o la velocidad a la que se está desplegando?La IA es una tecnología estratégica, geopolíticamente hablando. Es una nueva revolución industrial lo que estamos viviendo, igual que en el siglo XIX, pero en otro ámbito. Ese es el motivo por el que la considero el ‘nuevo proyecto Manhattan’: del mismo modo que la energía atómica e incluso la bomba atómica, la IA es una tecnología muy potente, muy poderosa. Hoy en día la guerra no va de lanzar bombas, va de información. Y, por tanto, la IA es una tecnología estratégica ya que, como otras tecnologías —como puede ser la computación cuántica—, las regiones que la desarrollen van a tener una ventaja estratégica respecto a las que no la desarrollen. Es una herramienta fundamental.¿Por este motivo se crea el panel de la ONU?Este es uno de los motivos que preocupa a la ONU. Es una tecnología que se está desarrollando muy deprisa. Yo creo que decir que va exponencialmente rápido es quedarse corto. Las cosas cambian de una semana para otra. Todo sucede muy rápido. Estamos viendo una transición tecnológica sin precedentes. Nadie podía esperarse esto. Debido a la velocidad del cambio y al impacto tan profundo que tiene en todos los niveles de la sociedad, no solamente en el tecnológico, sino también en el social, en la posible desigualdad económica, la brecha social, qué va a pasar con el trabajo… hay que sentarse y pensar hacia dónde va todo esto, cómo va a ser la gobernanza, cómo se va a regular, etcétera.Pensar es un primer paso, pero ¿se puede gobernar?Entre otras cosas, esta es una tecnología que está mayormente en manos de empresas privadas. No son iniciativas gubernamentales. Hay un motivo para esto: para desarrollar estos modelos hace falta mucho capital y este capital lo tienen las empresas privadas, no los gobiernos. Creo que hay que regular la IA, pero hay que regularla bien. No hay que frenar la adopción y el desarrollo, todo lo contrario. Lo que hay que hacer es una regulación que fomente la adopción y fomente más el desarrollo. Es como ponerle cinturones de seguridad a los coches: si tú tuvieras coches sin cinturones de seguridad, no podrías circular de forma segura por la autopista. Pues eso es lo que queremos. Como decía aquel antiguo anuncio, ‘la potencia sin control no sirve de nada’.Esto es como decir que ‘no se puede dejar suelta a la IA’, ¿qué significa eso en la práctica? ¿Y cómo regulamos sin constreñir?Es un reto. Eso ya les corresponde a los gobiernos y a los políticos, no a los científicos. Ya me gustaría a mí saber cómo se puede hacer esto bien. Hay propuestas encima de la mesa, pero lo que está claro es que no se puede dejar sin más, porque entonces es una selva sin control. Ahora estamos viendo que la IA ofrece oportunidades, por supuesto, pero también riesgos. Hay que tener mucho cuidado porque, si se lleva bien y se encarrila por el camino correcto, vamos a tener un desarrollo tecnológico y social espectacular durante los próximos años. La verdad es que es un privilegio estar vivo en esta fase de la humanidad para poder verlo. Pero, si no lo hacemos bien, va a pasar todo lo contrario: vamos a descarrilar de forma catastrófica.¿Cuáles son esos riesgos?Ya estamos viendo que la IA también tiene sus peligros. Estamos viendo, por ejemplo, la creación de contenido falso a escala, que, además, en combinación con las redes sociales, es un arma de doble filo. Se puede moldear la opinión de la sociedad de países enteros en función de intereses privados o de personas concretas. También afecta a la ciberseguridad. Por ejemplo, el último modelo de Anthropic, Mythos, no se ha hecho público porque se han dado cuenta de que es demasiado potente y si cae en las manos equivocadas puede tener consecuencias desastrosas.¿Hay algún riesgo de la inteligencia artificial que se esté infravalorando?La creación de contenido falso. El otro día leía que, en Instagram, entre el 5 % y el 20 % del contenido está completamente desarrollado por inteligencia artificial. Es fake. No es que lo hayan retocado: es que es enteramente falso. En TikTok es mucho peor, todavía hay más. Y eso lleva a la desinformación. Es un problema grave.¿Y qué hay del empleo?Es también algo que vamos a tener que plantearnos. Ya estamos viendo que está cambiando todo el sistema laboral. Los programadores no programan igual ahora que hace dos años, pero es que tampoco programan igual ahora que hace tres meses. Evoluciona muy rápido. Va a haber trabajos que se van a tener que adaptar, va a haber algunos que a lo mejor tienden a desaparecer, pero luego van a surgir otros nuevos, como sucede en todas las revoluciones tecnológicas: pasó en la industrial y pasó con internet. Ahí va a haber un periodo de adaptación de la sociedad que yo no sé cómo será de largo. No creo que lleve mucho tiempo, pero la gente deberá tener apertura de miras para adaptarse a la nueva forma de hacer las cosas. Eso no es un problema en sí, es más bien un reto que tiene la sociedad.¿Cómo encaja la IA en lo laboral sin arrasarnos?Yo creo que vamos a ir integrando la IA en nuestras vidas cada vez más. Ya lo hacemos: todos hablamos con ChatGPT, con Claude o con el modelo que sea, y los usamos cada vez para hacer más cosas. Lo que va a suceder es que va a haber un aumento de la productividad tremendo. Esto seguro que va a pasar. Vamos a trabajar las mismas horas, pero multiplicaremos la productividad por mil o más. La gente tiene que estar abierta a implementar estas nuevas tecnologías en su día a día, buscar en qué les puede ser útil y aprovecharse de ellas, porque además es la única manera de mantenerse competitivo. Si tú sigues queriendo trabajar como siempre, pero tu vecino empieza a utilizar herramientas de inteligencia artificial, tu vecino te va a arroyar. Las empresas que no hagan esta transición están condenadas a quedarse irrelevantes y, al final, a desaparecer.Vamos a trabajar las mismas horas, pero multiplicaremos la productividad por mil o más¿Podemos fiarlo todo a la IA?Hay que tener la mentalidad abierta, pero también hay que tener mucho espíritu crítico. No te puedes creer todo lo que te dice la inteligencia artificial. La IA tiene errores. Hay que saber entender cuándo se equivoca. El hecho de que tengamos una máquina que da respuesta a todo aparentemente, no significa que todo lo que diga sea factualmente correcto. Ahí es donde entra la labor del ser humano de discernir: esto está bien y esto parece que no. Entonces, la gente va a tener que desarrollar un poco más, o poner más en práctica, lo que viene a ser el espíritu crítico, para no creerte todo lo que te dice un modelo de IA a priori.Entonces, ¿la inteligencia artificial nos va a hacer más inteligentes?O más tontos, depende de a quién preguntes [ríe]. Mira, te voy a decir una cosa: ¿sabes por qué Sócrates no escribió ningún libro? Todo lo escribió Platón y sus discípulos. Sócrates no escribía ningún libro porque temía que los libros iban a acabar con la inteligencia humana. Él lo memorizaba todo y, claro, escribirlo en un libro era un horror. Estaba completamente en contra de esa tecnología brujesca que había aparecido, que era escribir un libro. Aquí es algo parecido. Ahora tenemos máquinas que piensan por nosotros. ¿Nos va a hacer más inteligentes o más tontos? No lo sé. Yo creo que nos va a hacer diferentes. Esto es como una máquina de calcular, pero con esteroides. En lugar de tener que hacer todos los cálculos de memoria, te los hace la calculadora. Con la IA, en lugar de tener que escribir un reporte súper largo o estar dos semanas preparando una presentación, la tienes en cinco minutos y tú te puedes dedicar más a lo que importa. Quiero creer que por lo menos parte de la sociedad va a evolucionar hacia ser más inteligente.Se habla mucho de los cambios en lo laboral, ¿qué hay de la educación?La forma que tenemos de aprender y de estudiar también cambiará. Ahora mismo, el que no aprende es porque no quiere. En ese sentido, yo lo veo positivo. Pero, como decía antes, hay que fomentar mucho el espíritu crítico, porque no puede ser que todo lo piense la IA y yo me dedique a no hacer nada.Volvamos a su trabajo en la ONU. Este panel se crea para orientar la gobernanza global de la IA, pero las grandes decisiones tecnológicas las están tomando empresas privadas y unos pocos países. ¿Qué puede hacer realmente un panel científico internacional frente al poder de OpenAI, Google, Meta, Anthropic, Microsoft o los gobiernos de EE. UU. y China?Lo primero que hay que decir es que este panel tiene que existir, porque alguien tiene que advertir de lo que está pasando. La ONU es un mecanismo de alerta temprana y nosotros somos la bisagra entre el mundo científico, que está viendo exactamente qué es lo que pasa, sin hype y sin ningún filtro, y el plano político, que es más el de la gobernanza. Naciones Unidas ha creado el panel y otro organismo que llaman el Diálogo Global sobre la Gobernanza de la IA. Ellos van a coger los informes que hagamos nosotros para hacer política y regulación. Después les tocará a los gobiernos de turno decidir hasta qué punto lo aceptan o no, o si lo implementan o no. No son organismos que puedan imponer cosas a los gobiernos, pero se tiene que hacer. Es como los acuerdos sobre energía atómica: hay países que los suscriben y otros países que no. Aquí sucederá lo mismo, pero quiero entender que mayormente lo harán.¿Calará en Silicon Valley?Las empresas de Silicon Valley es probable que vean el informe y digan: “¿Y a mí qué?”. Pero sí que es cierto que las empresas están sujetas a regulaciones de los gobiernos en donde actúan. Cada vez es más tangible que el poder se está acumulando, más que en los gobiernos, en una especie de tecnocracia en la que hay agentes —las grandes corporaciones tecnológicas— que están acumulando muchísimo poder porque tienen mucha capacidad de desarrollo, de influencia, etcétera. A mí me da la sensación de que esto es una evolución del capitalismo. Habrá que ver hacia dónde va.¿La sociedad es suficientemente consciente de esto?No lo sé. La gente igual se tendría que plantear quién manda más: la presidenta de Europa o Elon Musk. No se trata aquí de mandar o no, se trata de cuánto poder tienes. Elon Musk, por supuesto, con las empresas que tiene, tiene una capacidad de empuje descomunal que probablemente la presidenta de Europa no tenga. A una la hemos elegido democráticamente y el otro es un empresario que ha montado un imperio, que también tiene su mérito. No me estoy metiendo con Elon Musk. No sé hasta qué punto la sociedad es del todo consciente de esto, pero yo creo que en parte sí, porque claramente están estas grandes corporaciones tecnológicas que están acumulando mucho poder. Una posible solución —yo no digo limitarlo, porque eso sería ir en contra del libre comercio— es intentar fomentar que surjan más, para que exista más competencia. Si solo hay una, dos o tres grandes empresas tecnológicas, obviamente todo este potencial tecnológico está muy concentrado. Pero, si surgen más y los gobiernos apoyan para que surjan más, estará más distribuido.¿Es eso lo que ocurre en la industria de la IA?Sí. Los grandes actores en IA son empresas norteamericanas y chinas. En Europa, ahora mismo, la cosa está más rezagada. No obstante, se están apoyando muchas iniciativas europeas para que surjan campeones europeos y ponerse a un nivel competitivo. También están saliendo más empresas en Estados Unidos. Tiene que existir competencia, que haya más, para que se reparta un poco más y no haya tanta concentración de poder.¿Y qué podemos hacer desde Europa y, en última instancia, desde España, para entrar más en ese juego?Europa y España lo que tienen que hacer es apoyar las iniciativas que surjan, regarlas, por así decir, para que crezcan y puedan empezar a competir con las grandes empresas. Es difícil competir con un monstruo como OpenAI, que cierra rondas de muchos billones de dólares, pero en algún instante hay que empezar y también hay que creérselo. Tiene que ser una estrategia de país, de continente, porque es una tecnología geoestratégica. Hay que apoyar a los campeones locales y a la gente que tiene potencial y capacidades para poder crear este tipo de modelos, estas iniciativas. Crear modelos de IA es muy caro porque conlleva un gasto energético muy grande. Esa es otra discusión: yo, como científico, creo que estos modelos no son más que la punta del iceberg y que, aunque parezca que son muy capaces y muy potentes, no hemos empezado a ver más que lo primero que se puede hacer, porque ahora son excepcionalmente ineficientes. Creo que se pueden hacer muchísimo mejor.¿Apoyar a campeones locales es solo una responsabilidad gubernamental?No, tienen que estar apoyados también por el capital privado. Eso es fundamental. La financiación pública de los gobiernos tiene que servir para disminuir el riesgo, para apalancar financiación de capital riesgo, que es lo que hace crecer a las empresas muy rápido. Así es como han nacido todas las grandes tecnológicas en Estados Unidos y así es como tienen que salir también en Europa. No hay otro mecanismo que pueda funcionar. Tiene que entrar capital privado. Si no entra capital privado, es imposible crecer a la velocidad que esto requiere.Este panorama que dibuja me recuerda a lo que ha ocurrido en el espacio: el New Space aboga por romper con el estilo de las megacompañías haciendo todo y buscar soluciones pequeñas a problemas concretos en empresas emergentes. ¿Sería lo mismo?Sí, completamente. El sector de la IA es enorme. No son solamente los supermodelos tipo ChatGPT o Claude. Es todo un ecosistema. En un lado del espectro están los modelos megagrandes, que saben de todo. Pero, en el otro lado, están los nanomodelos, los modelos muy pequeñitos. Esos son los que van a estar integrados en los dispositivos: en el teléfono, en el reloj, en el coche, en un dron, en un robot… haciendo así que tengamos IA en todas partes, hasta en la tostadora. Esos modelos locales (que no se van a tener que conectar a la nube) son modelos pequeños que hacen tareas específicas, no tienen por qué saber de todo. Si tienes un modelo de IA en tu nevera, por ejemplo, no hace falta que tu nevera sepa de la teoría de la relatividad. Tu nevera tiene que saber de cosas que debería saber una nevera: de qué te falta dentro, de por qué se te han puesto malos los huevos o de la temperatura adecuada para conservar alimentos.Entrenar y operar grandes modelos cuesta cada vez más energía y dinero, ¿la IA puede convertirse en una tecnología insostenible si seguimos apostando por esos megamodelos? ¿Serían esos modelos pequeños una manera de solucionar ese problema?Completamente. Esto es una reflexión como físico: los modelos, tal y como los estamos desarrollando ahora, son extremadamente ineficientes. Consumen energía de forma espectacular. Entrenar GPT-4, dos versiones antes del que tenemos ahora, le costó a OpenAI más de 100 millones de dólares en factura de la luz. Hoy en día eso ya nos parece poco, porque creo que GPT-5 le costó 1.000 millones en factura de la luz. Es una barbaridad. Tú ves la naturaleza y dices: qué mal lo estamos haciendo, porque la inteligencia biológica funciona mucho mejor. A un niño no le tienes que poner una central nuclear al lado para que aprenda a hablar. Y a un modelo de estos le das toda esta energía y aprende a hablar más o menos y todavía se equivoca. Algo estamos haciendo profundamente mal, tanto a nivel de hardware como de software. En términos de eficiencia, claramente esto se tiene que poder mejorar seguro. ¿Cómo se puede hacer? Eso es un campo entero de investigación.¿Hacia dónde hay que investigar?Los modelos que tenemos ahora son muy capaces, pero yo creo que son lo primero que nos hemos encontrado que funciona. El otro día, en otra entrevista, ponían este ejemplo: es como si estuviésemos comparando los carros de los egipcios en el 2000 antes de Cristo con la nave Enterprise. Estamos ahora mismo, en términos de inteligencia artificial, en una fase en la que parece que todo es una tecnología bestial, pero esto es como haber descubierto la rueda. Hay mucho trabajo por hacer. Los modelos, tal y como se están desarrollando ahora, no son escalables. No se va a poder ir mucho más lejos con este consumo energético. Hay que hacerlos más eficientes mediante tecnologías como, por ejemplo, lo que estamos haciendo en Multiverse: comprimirlos mucho para hacer modelos más pequeños. En lugar de apostar por modelos grandes que sepan de todo, hacerlo por modelos más pequeños para tareas específicas, que sean mucho más eficientes y que estén en local, en el dispositivo. Ese es un primer paso.¿Qué tipo de tecnologías desarrollan en su empresa?Nosotros ahora mismo estamos haciendo muchas cosas. Estamos haciendo tecnologías capaces de comprimir los modelos de inteligencia artificial entre un 50 % y un 70 %. Hemos llegado a compresiones incluso de más del 90 % en algunos casos sin apenas perder precisión. Esto hace que el modelo, al ser más pequeño en memoria, gaste muchísima menos energía. Y alrededor de eso estamos desarrollando capas de software para centros de datos. Estamos empezando a implementar algunos de estos modelos en dispositivos. Estamos hablando con algunas de las compañías de hardware y de procesadores más importantes del mundo, de hecho, con casi todas, para desplegar nuestros modelos en móviles, portátiles, dispositivos de todo tipo. Y, al margen de eso, estamos haciendo mucha investigación orientada a los objetivos de la empresa, tanto en nuevas formas de hacer los modelos más eficientes clásicamente, por así decirlo, como en desplegarlos en ordenadores cuánticos. Hemos hecho que un ordenador cuántico hable por primera vez en la historia y sepa cuál es la capital de Francia.¿Para qué me puede servir a mí, como ciudadana común y corriente, que un ordenador cuántico sepa cuál es la capital de Francia?¿Para ti como ciudadana? Pues si te quieres ir de vacaciones a la capital de Francia… [ríe] A ver, la computación cuántica es otro modelo de computación. No son procesadores como las GPU de Nvidia. Es otra forma de procesar la información. La capacidad que tiene un ordenador cuántico es que puede procesar la información de forma mucho más eficiente que un ordenador tradicional y eso te permite resolver una serie de problemas matemáticos que no puedes resolver de ninguna de las maneras con un ordenador normal, ni con la IA más potente del mundo. Hay todo un campo de investigación, que es el de inteligencia artificial cuántica, que consiste en desarrollar algoritmos de inteligencia artificial para ordenadores cuánticos. Ahí las ventajas que se ven es que esta IA aprende con menos datos y lo hace mejor, es capaz de detectar más patrones y mejor que un algoritmo de IA tradicional y consume menos energía. Entonces, para ti como ciudadana, al final lo que verás es que tú seguirás utilizando tus algoritmos de inteligencia artificial, pero que las respuestas que te dan son más precisas, más rápidas y encima la máquina está gastando menos energía. Todo funciona mejor.Es el único español en el panel de la ONU. ¿Qué le hizo aceptar este puesto?¿Cómo no lo iba a aceptar? En primer lugar, me hizo mucha ilusión que me lo propusieran y para mí es un honor. Es una oportunidad también de compartir y reflejar toda la experiencia que tengo tanto desde el punto de vista académico y científico como desde la parte industrial y de empresa. Yo realmente estoy en una posición en la que veo casi todo el ecosistema. Me hizo mucha ilusión tener un foro en el que poder aportar todas las cosas que estoy viendo y que eso después se pueda traducir en políticas de gobernanza en aras del futuro de la humanidad. Queda muy grandilocuente, pero es el papel de la ONU. En ese aspecto, a mí me pareció algo fantástico y por eso acepté.¿Se considera optimista o pesimista ante el futuro de la IA?Yo soy optimista. Sé que hay mucha gente que es muy pesimista. Hay alguno en el panel que es muy pesimista, pero yo, manteniéndome realista, sí que tiendo al optimismo. Mirando la historia, lo que veo es que todas las revoluciones tecnológicas han involucrado crisis, pero luego han servido para evolucionar y para traernos progreso tecnológico y mejores condiciones. Yo creo que con esta revolución en la que estamos ahora va a pasar igual. En ese aspecto soy optimista, pero hay que hacerlo con cabeza. Si lo hacemos sin cabeza, se acabó el optimismo.¿Qué debería contener el primer informe del panel para que no sea solo una declaración de buenas intenciones?Tiene que contener una visión realista de qué es la inteligencia artificial. Esto es algo sobre lo que distintas personas tienen distintas ideas. Yo, por ejemplo, lo tengo muy claro, pero no sé si un político que no se dedique a esto lo tiene tan claro, porque llega mucho ruido. Hace falta distinguir muy bien qué es y qué no es, cuáles son las capacidades reales, qué es lo que intuimos que puede pasar a nivel tecnológico a futuro y hay que identificar muy bien cuáles son las oportunidades en distintos ámbitos (en el tecnológico, en el social, en el laboral) y también los riesgos. Eso es lo que tiene que aparecer en este primer informe.¿Llegarán a este objetivo para julio?Es cierto que tenemos relativamente poco tiempo para hacerlo. Hay que hacerlo rápido y, además, poner de acuerdo a 40 científicos, que todos creen que tienen la razón, es muy complicado. Pero parece que va por el camino adecuado. No obstante, el panel tiene un mandato de tres años. Va a seguir sacando informes, sobre todo porque es una tecnología que evoluciona tan rápido que lo que digamos en julio, dos o tres meses después habrá quedado obsoleto. Vamos a tener que estar sacando informes específicos sobre cosas concretas o a lo mejor varios informes al año, porque realmente la tecnología evoluciona tan rápido que hay que estar constantemente explicando lo que pasa.¿Se podrán aplicar también así de rápido sus recomendaciones?La legislación ahí tiene un reto. Los que hagan luego la legislación y la gobernanza van a tener que hacerlo de forma muy ágil, tan rápido como el desarrollo de la tecnología, porque si no puede pasar como, por ejemplo, lo que pasó con Europa. Europa fue la primera en legislar la inteligencia artificial con el AI Act, que está muy bien, es algo positivo. El problema es que, cuando salió el AI Act, estaban legislando unos modelos que ya se habían quedado obsoletos. En Bruselas todo va muy despacio. Entonces no sirve para nada, porque la tecnología avanza tan rápido que es un reto desde el punto de vista legislativo. Hay que ser capaz de legislar a la misma velocidad.

La primera encíclica del Papa sigue levantando polvareda. Arthur Mensch, director ejecutivo de una de las empresas de inteligencia artificial más grande de Europa, la francesa Mistral AI, ha rechazado la crítica de León XIV al empleo de la inteligencia artificial con fines … militares. El empresario y cofundador de la startup considera que Europa necesita contar con armamento de esta clase para poder disuadir a aquellos que intenten amenazarla.
«Todos estamos a favor de la paz, pero si observamos a nuestros rivales y adversarios en el mundo, vemos que utilizan inteligencia artificial… Mientras tengamos adversarios que nos amenacen, y de hecho lo hacen, necesitamos contar con nuestras propias capacidades», afirma Mensch en declaraciones recogidas por ‘Reuters’.

El lunes de esta semana, León XIV publicó su primera encíclica, centrada en la defensa del ser humano en los nuevos tiempos de la inteligencia artificial. El Pontífice pidió regulación y control para la tecnología y alertó de que «quien controla la IA impondrá su propia visión moral, que se convertirá en la infraestructura invisible de los sistemas».

MÁS INFORMACIÓN

El Papa también criticó el desarrollo de armamento autónomo, ese que es capaz de atacar objetivos sin necesidad de control humano. Considera que «el juicio moral no se puede reducir a un cálculo: implica conciencia, responsabilidad personal y reconocimiento del otro como persona».
La creación de este tipo de armas ha sido duramente criticada durante los últimos años por activistas y académicos. Creen que su uso puede ir en contra del derecho a la vida, la reunión pacífica, la privacidad y la reparación, así como a los principios de dignidad humana y no discriminación.
Mensch también hizo referencia al creciente rechazo que están generando en la sociedad la inteligencia artificial y las empresas que la desarrollan. Sobre todo entre los más jóvenes. Cabe recordar que en las últimas semanas se han viralizado varios vídeos en los que estudiantes universitarios abuchean a ponentes relacionados con el sector de la IA. El ejecutivo considera que «es comprensible (que surja) cierta inquietud»: «No es la primera vez que la gente se angustia un poco ante algo que está por venir. Pero estaremos bien. Encontraremos la manera de usarla de forma eficiente».
Mistral aspira a ser la gran alternativa europea a la inteligencia artificial del Silicon Valley. La empresa está valorada en 11.700 millones de euros y, como tantas otras, cuenta con su propio ChatGPT: Le Chat. Aprovechó este jueves para anunciar la construcción de un centro de datos en Les Ulis, Francia, con una capacidad de procesamiento de 10 megavatios, cuya inauguración está prevista para la segunda mitad de 2026.

Hay científicos que explican el futuro con solemnidad y otros que lo hacen como si estuvieran contando una anécdota en la sobremesa. Mateo Valero pertenece claramente al segundo grupo. Habla de supercomputadores, procesadores, inteligencia artificial, fusión nuclear o autonomía tecnológica europea con la misma naturalidad con la que menciona un plato de ternasco o lanza una frase que resume media geopolítica digital: “Sin chips no hay paraíso”.Valero quería ser matemático, estudió Telecomunicaciones y acabó convirtiéndose en una de las figuras clave de la supercomputación en España (y en el mundo). Es catedrático de Arquitectura de Computadores en la Universitat Politècnica de Catalunya (UPC) y al frente del BSC, ha logrado situar a Barcelona en el mapa mundial de la computación de altas prestaciones. De hecho, defiende que, gracias al talento que convive en las instalaciones, «por cada euro que se invierte, se generan unos diez» para Barcelona. Asimismo, su currículum abruma: más de 700 artículos publicados, más de 800 conferencias invitadas, premios internacionales de referencia, 14 doctorados honoris causa y un papel decisivo en la construcción de la independencia europea en HPC (High Performance Computing).Pero Valero no habla de todo eso como quien repasa medallas. Prefiere contar que la asociación de madres y padres de alumnos de Alfamén (Zaragoza) decidió poner su nombre al colegio público donde estudió de niño y que los pequeños estudiantes actuales visitan cada año el BSC. O que en 1985 pidió 10 millones de pesetas al Ministerio de Industria para comprar una máquina con 64 procesadores porque la Universidad necesitaba un instrumento para conectar con la sociedad. De aquella intuición nació primero el Centro Europeo de Paralelismo de Barcelona (CEPBA), que años después sería el Barcelona Supercomputing Center.Hoy, el BSC alberga MareNostrum 5, uno de los grandes superordenadores europeos de preexaescala: una máquina de más de 180 racks, 160 kilómetros de cableado y una capacidad de cálculo equivalente a la de 380.000 portátiles de gama media-alta. Lo que hace en una hora, a un ordenador común le llevaría 46 años. Desde allí, Valero defiende que la supercomputación ya no es una rareza reservada a unos pocos laboratorios, sino una infraestructura invisible que está detrás de la predicción meteorológica, la medicina personalizada, los nuevos materiales o los modelos de lenguaje. Una herramienta universal, dice, para hacer ciencia mejor y más rápido.El objetivo en Europa es lograr la soberanía digital. ¿Por qué el BSC es clave en esto y por qué debería importarle a un ciudadano que la tecnología que usa, los datos que genera o la IA que le atiende dependan y se ubiquen en infraestructuras europeas?Europa tiene que tener los instrumentos para llevar a cabo sus ideas. Durante muchos años Europa ha dicho: «Tenemos las ideas y que produzcan al otro lado». Eso ha sido un error y ahora nos hemos dado cuenta. En este campo, la base de todo son los chips. Y Europa no produce chips, por lo que estamos en muy mala posición. Es como querer construir rascacielos sin tener ladrillos y usar los de otros. Esos rascacielos nunca serán del todo tuyos y los otros te dirán cómo son. Sin chips no hay paraíso. Los chips son la base para hacer hardware y el hardware es la base para ejecutar modelos de inteligencia artificial.¿Se puede cambiar esto en Europa?Se puede, pero es muy costoso. Además, uno de los problemas de Europa es que muchas veces no tenemos muchas cosas que podríamos tener porque Europa no es Europa, es un conjunto de países que cada uno va a lo suyo. Igual que España no es España, es un conjunto de comunidades autónomas. Si hubiera una planificación global de agua, de electricidad, de recursos… sería más fácil. La unión hace la fuerza. Cuando Europa se ha unido en Airbus o en Galileo o en el CERN, se han hecho cosas únicas. En chips se podrían hacer, pero hay que ser decididos.Con el objetivo de lograr soberanía digital, desde el BSC defendéis convertir a Barcelona en la Silicon Valley de Europa. ¿Por qué es tan importante lograr que la ciudad sea un polo tecnológico de estas características?Porque Europa no diseña ni fabrica chips, pero ahora con el hardware RISC-V —arquitectura de procesadores abierta y libre que permite diseñar chips sin depender de grandes compañías—, sí se puede. Por otro lado, la tecnología está ya en dos nanómetros —medida extremadamente pequeña usada para fabricar chips—, y la inteligencia artificial está cambiando mucho los algoritmos. Cuando aparece todo esto, hay una batalla para hacer muchos procesadores e implementar muchas ideas. Entonces, yo acuñé la frase hace cinco años y dije: ‘Quiero que Barcelona sea la ciudad del diseño’, y para ello necesitamos tener 5.000 o 6.000 personas diseñando chips. Ahora seguramente hay 1.500 en total.Hay todavía una diferencia para poder llegar. ¿Es posible alcanzar esta cifra en un futuro aquí en Barcelona?Es posible, pero dependerá de los inversores y del talento que se pueda captar. Por ejemplo, en el Barcelona Supercomputing Center hay 1.400 personas trabajando; el 35% de estas vienen de unos 65 países. Del total, 200 están haciendo chips y 150 diseñando software, que son profesionales muy buenos.»Sin chips no hay paraíso. Los chips son la base para hacer hardware y el hardware es la base para ejecutar modelos de IA»Por otro lado, hay muchos proyectos nacionales e internacionales que vienen a Barcelona a trabajar y colaborar con el BSC, ¿qué impacto social y económico tiene para la ciudad?Es una buena pregunta para el alcalde Jaume Collboni, que está muy contento [ríe]. El BSC es un punto de atracción de talento. Si a esas 1.400 personas que tienes en el centro les sumas aquellas que han creado spin-offs —empresas surgidas a partir de proyectos o investigaciones del centro—, además de las que hemos formado y se han quedado aquí… hemos evaluado que, por cada euro que se invierte [en el BSC], se generan unos diez. El valor del BSC es increíble, siendo el mejor centro de supercomputación de Europa y uno de los tres mejores del mundo.La semana pasada, el presidente de la Generalitat, Salvador Illa, volvía de California tras reunirse con empresas del sector tecnológico y, a su vez, el BSC firmaba allí acuerdos con NVIDIA y Supermicro. ¿Qué implica lograr convenios como estos?NVIDIA es la mejor casa en diseño de chips y Supermicro es muy buena en montar racks —donde se instalan los chips—. Estas piezas se ponen en armarios, se conectan con las redes y así se hacen los supercomputadores. Acuerdos con NVIDIA para desarrollar chips juntos y con el otro para montar en Barcelona sus racks, puede significar para la ciudad lo que decíamos, que una Supermicro pueda instalar una sede aquí de mil personas. Pues fíjate si vale eso para Barcelona, porque esta gente no gana mil euros al mes.Entonces, ¿con acuerdos como estos es posible que Barcelona atraiga a más empresas y trabajadores?Sí, y que formen parte de esto que hablábamos, de que seamos como Silicon Valley.Para quien no le conozca, usted es una de las figuras clave de la supercomputación en España y en el mundo y el impulsor del Barcelona Supercomputing Center…Yo quería ser matemático, pero hice Telecomunicaciones… aunque no he utilizado mi formación. Lo que me gustaba era diseñar computadores. Por eso me he centrado en la investigación y cómo diseñar procesadores de muy alta velocidad. De ahí han salido 58 tesis doctorales y más de un millar de doctorandos. Al mismo tiempo que estaba en la Universidad, pensé que debíamos dotarnos como departamento de un instrumento para conectar con la sociedad. Yo había conseguido la cátedra muy joven, con 30 años, y había estado en la UCLA (la Universidad de California en Los Ángeles). A mi vuelta me decidí a dar el paso: fui a Madrid, al Ministerio de Industria que había entonces, y les dije que quería 10 millones de pesetas [unos 60.000 euros] para comprar una máquina con 64 procesadores.¿Para qué necesitaban tanto dinero?Porque todo el proyecto se basaba en procesadores que iban a trabajar conjuntamente para realizar una operación. En eso consiste el paralelismo, y los supercomputadores son sistemas paralelos con muchos procesadores, mucha memoria y conectados. Me dieron el dinero y creé el Centro Europeo de Paralelismo de Barcelona (CEPBA). La mejor parte fue que convencí al Gobierno de España, al de Catalunya y a la Universitat Politècnica de Catalunya (UPC) para que hicieran un consorcio. Y llevan 41 años trabajando juntos. El objetivo de ese centro era que la Universidad pudiera conectar y transferir tecnología a la sociedad. Dos décadas después nos propusieron ser centro nacional y de ahí nació, hace 21 años, el Barcelona Supercomputing Center.Si tuviera que explicarle a una persona que no sabe nada de tecnología para qué sirve un superordenador, ¿qué le diría?Un centro de supercomputación es un centro donde se hace investigación utilizando supercomputadores. Un supercomputador son máquinas muy potentes que están formadas por procesadores muy potentes (un millón de ellos, un millón y medio en el caso de los grandes), cada uno con su memoria y conectados a través de una red de interconexión, porque se tiene que intercambiar información para colaborar. Es un instrumento que sirve para que los investigadores hagan gemelos digitales, que son representaciones virtuales de cosas que queremos ver por primera vez o de cosas que queremos ver mejor, porque cada vez los supercomputadores son mejores. Para hacerse una idea de su evolución: el término de supercomputación apareció por primera vez en 1975; los computadores de ahora comparados con aquel son 10.000 millones de veces más potentes. Son máquinas muy poderosas en cálculos y muy poderosas en memoria para poder introducirles muchos datos, porque la precisión de los resultados depende de la información que tengan almacenada.Uno de los grandes superordenadores que tienen es el MareNostrum 5. ¿Qué puede hacer que no pueda ofrecer una nube comercial convencional?Los supercomputadores son los computadores más rápidos del mundo haciendo ciencia abierta. Sin embargo, los computadores más rápidos del mundo son los data centers. Y en los data centers es donde se entrenan y luego se utilizan los modelos de IA comerciales. Nuestro objetivo no es competir con OpenAI (no podríamos con la cantidad de dinero que tienen). El objetivo es hacer modelos de lenguaje que nos sirvan para hacer mejor la ciencia. Es decir, por ejemplo, la simulación del avión no sería posible sin una colaboración que se da cada vez más entre la simulación clásica y la inteligencia artificial. Conviven en la misma simulación. Los datos que vas produciendo entrenan una red y esa red te va dando datos para seguir la simulación.¿En qué cosas concretas de nuestra vida puede acabar influyendo el trabajo que se hace en el BSC?Podemos ver cosas que no hemos visto nunca: un reactor de fusión, cómo sería el plasma, un nuevo material que todavía no se ha fabricado, cómo sería la proteína asociada en una secuencia de aminoácidos que no ha creado la madre naturaleza (fue el Premio Nobel de Medicina). Y hay otras cosas que cada vez vemos mejor, como, por ejemplo, la predicción del clima. Todo esto se aplica para hacer medicina personalizada, para estudiar el cambio climático, para estudiar IA, para hacer simuladores de desastres naturales, de las smart cities… Estamos simulando incluso el avión de combate europeo. Es decir: todo aquello que tenga matemáticas, física y se pueda representar, lo puedes meter en un supercomputador y hacer muchas operaciones con ello.Ha puesto el ejemplo de la predicción meteorológica, que es algo que las personas usamos todos los días. ¿Qué otra cosa cotidiana puede decir?Cotidiano es todo. Aunque no lo notamos, la supercomputación ha influido en casi todo lo que hay. Por ejemplo, en robots que operan o en secuenciamientos del ADN, pero también en ChatGPT, Gemini… Diría que casi no hay ciencia o ingeniería que no la utilice. Es una herramienta universal.Habla de recursos. Uno de los grandes problemas de la inteligencia artificial y la supercomputación es que, cuando más escalan, más energía necesitan. ¿Cómo se puede seguir aumentando la capacidad de cálculo sin que el coste energético se dispare?El consumo energético se abarca desde varios ámbitos. A nivel de hardware, cada vez haces más operaciones con el mismo gasto. Hay un dato que se llama gigaflops por vatio y eso, por ejemplo, en los últimos once años lo hemos dividido por 37. Es decir, las operaciones que gastaban 37 vatios hace once años ahora gastan uno. Una vez que tienes la máquina (que tiene muchos procesadores, memorias, interconexión…), vas a ejecutar algoritmos. Ahí es fundamental que se cambien los algoritmos reduciendo el tráfico de datos, su movimiento. Es decir: cuesta más energía mover datos a través de estos monstruos que hacer operaciones. Hay muchas técnicas para reducir la energía. Dicho esto, el gran consumo de energía es el mayor problema que tenemos.¿Las empresas privadas también están haciendo ese esfuerzo para reducir el gasto energético?Cada uno intenta hacer lo mejor para que la energía sea la mínima para hacer lo mismo. Dicho esto, ahora van a hacer un data center de Meta que quiere emplear 5 GW. Todos los data centers españoles son medio gigavatio. En nuestro país gastamos anualmente 30, así que 5 GW es el 16 % de toda la energía que gasta España. Cada vez se va gastando más. Nosotros aquí pagamos 12 millones de euros de factura y tenemos 12 MW. 5 GW serían 5.000 millones de dólares al año para pagar el recibo de la luz.

Las suscripciones en las redes sociales siguen ganando terreno y, recientemente, Meta ha lanzado de forma oficial sus nuevas opciones de pago para Instagram, WhatsApp y Facebook. Centradas en funciones y herramientas exclusivas, la jefa de producto de Meta, Naomi Gleit, afirma en un vídeo compartido en Instagram que estos planes de pago están disponibles en todo el mundo y que «hay suscripciones en marcha para creadores, negocios y usuarios de Meta AI».Concretamente, estos planes están pensados para proporcionar nuevas formas de personalización, creatividad e interacción dentro de las plataformas. Pero, ¿qué ofrece cada una de ellas? Mientras que Instagram Plus y Facebook Plus se centran más en la interacción social, WhatsApp Plus está orientado en la personalización y mensajería.Todo lo que ofrecen Instagram Plus, WhatsApp Plus y Facebook PlusEn primer lugar, Instagram Plus ofrece acceso a funciones como consultar cuántas personas han vuelto a ver una ‘Storie’, crear listas de audiencia ilimitadas para las ‘Stories’, destacar una ‘Storie’ una vez por semana para conseguir más visualizaciones, extender la duración de una ‘Storie’ más allá de las 24 horas, previsualizar una ‘Storie’, reaccionar con animaciones exclusivas a las ‘Stories’, e incluso obtener iconos de aplicación personalizados y fuentes exclusivas para las biografías del perfil.Por otro lado, Facebook Plus ofrece un conjunto de funciones similares al de Instagram Plus, aunque WhatsApp Plus ofrece temas para la aplicación, tonos de llamada personalizados, chats fijados adicionales, personalización de listas y stickers premium, entre otros.Gleit añade en el vídeo que «estos planes de suscripción ofrecen maneras más ricas de expresarse y conectar en las aplicaciones», teniendo en cuenta que, de cara a un futuro, «se van a añadir más funciones divertidas».¿Cuánto cuesta Instagram Plus, WhatsApp Plus y Facebook Plus?Según el diario tecnológico TechCrunch, la suscripción de Instagram Plus son 3,99 dólares al mes (casi 3,50 euros al mes), Facebook Plus son 3,99 dólares al mes (casi 3,50 euros al mes) y WhatsApp Plus son 2,99 dólares al mes (un poco más de 2,50 euros al mes).Estos planes ofrecen funciones adicionales a los usuarios que demandan más herramientas y opciones dentro de las aplicaciones, al mismo que permiten a Meta diversificar sus fuentes de ingresos más allá de la publicidad. Por lo tanto, dicha estrategia cobra sentido en un momento en que Instagram, WhatsApp y Facebook han alcanzado un alto nivel de saturación y ofrecen un margen de crecimiento cada vez más reducido.Llegan más planes de suscripción a MetaMeta también prepara nuevos planes de pago vinculados a la inteligencia artificial. Bajo las marcas Meta One Plus, por 7,99 dólares al mes, y Meta One Premium, por 19,99 dólares al mes, los usuarios podrán desbloquear capacidades avanzadas de Meta AI, como mayores límites de generación de imágenes y vídeo o funciones más potentes para tareas complejas.Las pruebas comenzarán al mes que viene en algunos países seleccionados, como Singapur, Guatemala y Bolivia, mientras que los planes para creadores y empresas empezarán a probarse esta semana en Arabia Saudí, Marruecos, Tailandia y Bangladesh.