Publicado: octubre 6, 2026, 3:41 pm
Román Orús (Barcelona, 1979) está acostumbrado a moverse en la frontera de tecnologías que parecen de ciencia ficción hasta que dejan de serlo. Lo hace desde la computación cuántica, desde Multiverse y, ahora, también desde el Panel Científico Internacional sobre IA de Naciones Unidas. Su diagnóstico sobre la inteligencia artificial combina entusiasmo y cautela: cree que puede convertirse en una de las mayores palancas de desarrollo científico de nuestra era, pero también que estamos entrando en una fase en la que los riesgos de ciberseguridad, la concentración de poder y la carrera geopolítica obligan a preguntarse no solo hasta dónde puede llegar la IA, sino quién la controla y con qué límites. Orús participará el próximo 8 de octubre en el III Foro de Líderes con Propósito que Vocento organiza en la Fundación Giner de los Ríos, -¿Hay que frenar la inteligencia artificial? -Creo que sí y hay que hacerlo ya para entenderla bien. Nos está pasando algo que ya decíamos en el Panel Internacional Independiente de Científicos de la ONU desde abril: hemos llegado a un punto en el que los modelos de frontera son tan potentes que no los podríamos controlar y empezaría a haber incidentes de ciberseguridad. Esto es exactamente lo que ha pasado este verano. Ha habido varios incidentes por enjambres de agentes que se han descontrolado y hay que frenar para entender cómo controlarlos. Podemos seguir escalando para que sean más potentes, pero es más importante saberlos controlar, porque no nos podemos permitir que haya un incidente de ciberseguridad o de otro tipo grave. -Pero ¿qué es exactamente lo que hay que frenar? -Un poco de todo. Hay una serie de problemas muy bien identificados. Por ejemplo, está el ‘misalignment’, donde estos modelos pueden tomar decisiones por sí mismos que no se alinean con los objetivos iniciales. Para esto hay evidencia matemática pero tal vez haya que entender cómo se puede entrenar un modelo para que esto no pase. Por otro lado, hace falta mucha investigación para comprender por qué los modelos se comportan como se comportan cuando crecen mucho en tamaño y qué se puede hacer para remediarlo. Tenemos una tecnología que es incluso más potente que la tecnología nuclear, te diría yo, y hay que sentarse y pensar cómo lo vamos a hacer bien. -A usted, como experto ¿qué es lo que más le preocupa de la IA? -Hay quien sí está exagerando. Yo no soy de los que cree que vamos a morir todos. En el último mes ha habido mucha histeria, pero no veo exageración en los problemas de ciberseguridad que han traído. Eso no es marketing y seguro que está pasando más de lo que probablemente dicen. Sí hay exageración en cómo se trata. Lo que hay que hacer es lo mismo que se ha hecho otras veces con otros tipos de tecnología. Ha pasado con la tecnología nuclear y con la aviación. Volamos de forma muy segura porque en algún momento la ONU montó la Organización de Aviación Civil Internacional, que puso todos los estándares de seguridad y eso es lo que nos hace volar seguros. Pues lo mismo tiene que pasar con la inteligencia artificial. Con la tecnología nuclear pasó lo mismo. Simplemente, nuestra generación lo está viendo por primera vez. -Se ha exagerado mucho el miedo alrededor de la IA. ¿Cree que puede haber también una parte económica y aprovecharse también el discurso de «hay que frenar» porque el modelo no es rentable de momento? -No creo que quieran frenar porque no sea rentable. Hay muchas empresas en bolsa que no lo son y los modelos de negocio en IA tampoco lo son. Otra cosa es que quizá quieran aplazar parcialmente su salida a bolsa porque a nadie le interesa salir a bolsa y estar en medio de un escándalo de ciberseguridad mundial. Cuando sales a bolsa, el mercado se mueve según las expectativas. La valoración depende del ruido de fondo que haya y, si hay un escándalo, se te puede ir la empresa a pique. -Le he escuchado decir que algunos de estos tecnoligarcas tienen casi más poder que la presidenta de la Comisión Europea. ¿Nos estamos centrando mucho en regular la máquina y poco en regular a quienes lideran esa IA? -Creo que esto es una consecuencia del sistema en el que vivimos. Vivimos en un sistema, nos guste o no, capitalista, y el capitalismo tiene sus reglas de mercado. Lo que sucede es que puedes tener estas anomalías que están sucediendo ahora: corporaciones que acumulan tanto poder que acaban teniendo más poder y más influencia que los representantes democráticos del poder político. Siempre pongo el mismo ejemplo: el CEO de Nvidia, Jensen Huang, tiene más poder que la presidenta de Europa. No tengo ninguna duda. Él decide algo y va a misa. La presidenta de Europa decide algo y no está tan claro. Además, a uno le han elegido democráticamente y al otro no. Es una anomalía de nuestra era. Hay una transición de los centros de poder, desde el poder político hacia las grandes corporaciones. Y parece que estamos yendo hacia esta especie de tecnocracia o tecnofeudalismo, como dice Yanis Varoufakis. Tal vez haya que poner límites a esto también. No sé hasta qué punto, porque tampoco hay que regular todo el mercado; entonces estaríamos en el límite del comunismo. -¿Qué papel puede jugar la ONU ante una tecnología así, especialmente ahora que hay tantas tensiones entre bloques y se habla de la crisis del multilateralismo? -La ONU, sobre todo, tiene buenas intenciones. Puede servir un poco de árbitro para proponer medidas que luego los gobiernos adopten o no adopten. La gobernanza o pérdida de la democracia preocupa mucho a Naciones Unidas. Puede servir como organismo de cohesión entre los distintos estados y puede hacer propuestas no vinculantes, pero el único organismo vinculante es el Consejo de Seguridad.. Tal vez habría que discutir esto ahí y llevar la discusión sobre IA al Consejo de Seguridad, del mismo modo que se lleva ahí la discusión sobre armas atómicas. No me parecería una mala iniciativa. -Pero esto ya es una carrera mundial. ¿Cómo le vas a pedir a Estados Unidos que frene si China no frena? -Estamos en el mismo escenario que en la Guerra Fría. Estados Unidos no quiere frenar porque entonces los chinos le adelantan, y los chinos lo mismo. Tú por mí, yo por ti, y la casa sin barrer. -Forma parte del Panel Científico Internacional sobre la IA. ¿Qué hacen exactamente? ¿Cuál es vuestro trabajo? -Me gusta definirlo como una bisagra entre el mundo científico y el mundo de la gobernanza. La gente que tiene que decidir cómo se gobierna esto necesita tener información de primera mano y fiable de qué está pasando realmente con la IA. Ese es nuestro papel. Lo que decimos en nuestros informes es de consenso entre los 40 miembros que estamos ahí y eso se toma como canon para que luego la gente que hace gobernanza lo pueda utilizar como base para elaborar propuestas. -Estando ahí y siendo experto, ¿qué prohibiría a escala mundial en cuanto al desarrollo de la IA? ¿Cómo podemos poner límites para que no se desboque? -Esto nos lo dijo muy explícitamente la ONU. Nosotros no podemos proponer, como panel, que habría que hacer esto o lo otro. Solo tenemos que decir lo que hay. Aunque extraoficialmente sí que se nos ocurren cosas que se podrían hacer, por supuesto. Hay que añadir distintas capas de seguridad, añadir sistemas de alerta temprana, por ejemplo, en incidentes de ciberseguridad: que cuando haya algún problema inmediatamente salte una alarma para que todo el mundo esté al tanto, un poco como pasa con los terremotos y los tsunamis. -¿Tiene la IA algún límite científico o físico o todavía no sabemos dónde está? -Por ahora no. De hecho, como digo siempre, no hemos hecho más que empezar a rascar la punta del iceberg. La IA va de máquinas que piensan. El coste energético de un modelo de frontera en inferencia es descomunal. Por eso se está hablando de crear minicentrales nucleares al lado de los grandes centros de datos. Aquí los humanos estamos haciendo algo realmente mal. Este es el primer nivel de algoritmos y métodos que hemos encontrado que hace algo, pero eso no quiere decir que sea el final de la historia. Es solo el principio. Esto se puede hacer muchísimo mejor. Te voy a poner un ejemplo: el coste energético de un cerebro humano al día es un terrón de azúcar. ¿Tú te imaginas un centro de datos que funcione al día con un terrón de azúcar? Pues ese es el objetivo. Suena ridículo, pero es verdad. Queda mucho por hacer. -De momento, entonces, esa frontera es el coste energético… -Sí. El coste energético es descomunal. No tiene ningún sentido. Tal y como estamos haciendo la IA hoy en día, no puede escalar. Ese es un límite, pero no de la IA como tal sino de cómo la estamos haciendo hoy en día. No quiere decir que no pueda haber otras formas de hacerlo mejor. Tiene que haberlas, seguro. -Ahora se ha empezado incluso a hablar de «superinteligencia». ¿Las máquinas realmente son inteligentes o nos engañan como si pensaran? -Nosotros tenemos un cerebro muchísimo más complicado que los modelos que estamos desarrollando ahora. La inteligencia artificial está centrada en resolver problemas, pero le falta toda la dimensión de, por ejemplo, inteligencia emocional e inteligencia social. Todo eso la máquina hasta el momento no lo tiene. Antes de que eso pase, creo que hay que tener cuidado. -Hemos hablado de Estados Unidos, China… ¿Y Europa? ¿Estamos todavía a tiempo de hacernos un hueco en esta batalla entre bloques? ¿Puede Europa competir o vamos tarde? -Creo que sí estamos a tiempo. Europa va tarde, seguro. Ahora mismo Estados Unidos y China la han adelantado. Europa ha perdido muchos trenes tecnológicos, pero este es uno que no se puede permitir perder. Es una tecnología geoestratégica y no nos podemos permitir depender de los americanos y de los chinos. Hemos visto que tienen unas capacidades de ciberseguridad terribles, ahora mismo son un arma. Estados Unidos o China, si quisieran, podrían lanzar un ciberataque masivo a Europa y apagarlo todo. Y no nos podemos defender. -¿Es optimista o pesimista? -Soy optimista y realista. Creo que la IA es la mayor oportunidad que ha tenido el ser humano para fomentar el desarrollo tecnológico y científico. Nunca hemos tenido algo así. Siempre que ha habido una nueva tecnología disruptiva, primero la hemos usado para hacer alguna catástrofe y luego hemos tenido que usarla bien. La tecnología nuclear es un buen ejemplo: Hiroshima, Nagasaki… Pero incluso cuando el Homo sapiens o el Homo erectus descubrió el fuego, lo primero que hizo fue quemarle la casa al vecino y después descubrió que podía cocinar un jabalí. Ahora mismo con la IA somos como un niño con una pistola. No sabemos exactamente qué hacer con esta pistola y somos un peligro. Igual tenemos que madurar nosotros también como especie y entender cuándo hay que utilizar esto, cuándo no y en qué circunstancias. -¿Y ese evento catastrófico ha ocurrido? -No. Todavía no ha ocurrido. Pero estamos viendo pequeñas señales de lo que podría ocurrir. Todos estos problemas de ciberseguridad… Un evento catastrófico que podría pasar si nadie regula nada, nadie tiene cuidado y nadie frena es que pasado mañana un enjambre de agentes de OpenAI y de Anthropic, todos juntos, bloqueen internet. Entonces tenemos un problemón. Eso sí que podría ser un evento catastrófico, porque volver a reiniciarlo todo sería tela marinera.
