Román Orús, el único español del grupo sobre IA en la ONU: "Una máquina que da respuesta a todo no significa que todo lo que diga sea correcto" - Colombia
Registro  /  Login

Portal de Negocios en Colombia


Román Orús, el único español del grupo sobre IA en la ONU: «Una máquina que da respuesta a todo no significa que todo lo que diga sea correcto»

Cuando Román Orús habla de inteligencia artificial, no lo hace desde la fascinación acrítica ni desde el miedo fácil. Físico de formación, investigador en computación cuántica, emprendedor y ahora uno de los 40 expertos elegidos por Naciones Unidas para ayudar a pensar la gobernanza global de la IA, Orús observa la tecnología con la distancia de quien sabe que lo que hoy parece deslumbrante quizá no sea más que el primer paso. “Estamos como si acabáramos de descubrir la rueda”, dice en esta entrevista con 20bits.Profesor de investigación Ikerbasque en el Donostia International Physics Center y cofundador y director científico de Multiverse Computing, Orús es además el único español que forma parte del nuevo Panel Científico Internacional Independiente sobre Inteligencia Artificial de la ONU, que acaba de celebrar en Madrid su primera reunión presencial. Su tarea no será decidir leyes ni imponer reglas a gobiernos o empresas, sino dibujar el mapa: ofrecer una visión científica, no sesgada y actualizada de qué es realmente la IA, qué puede hacer, qué riesgos plantea y qué oportunidades abre en un momento en el que la tecnología avanza más rápido que la propia capacidad de regularla.Y esa mirada, precisamente, es la que atraviesa toda la conversación. Orús compara la IA con “el nuevo proyecto Manhattan” por su dimensión estratégica y por la ventaja que dará a las regiones capaces de desarrollarla, pero insiste en que regular no debe significar frenar. Lo explica con una imagen sencilla: igual que los cinturones de seguridad permiten a los coches circular más rápido por la autopista, una buena gobernanza debería servir para que la inteligencia artificial avance sin convertirse en una “selva sin control”.En la entrevista, el físico habla de algunos de los riesgos que ya no pertenecen al terreno de la ciencia ficción: la generación masiva de contenido falso, la ciberseguridad, la concentración de poder en unas pocas tecnológicas o el impacto sobre el trabajo. También de los límites de los grandes modelos actuales, extraordinariamente capaces pero, a su juicio, todavía muy ineficientes, y de un futuro en el que la IA no estará solo en enormes centros de datos, sino también en modelos más pequeños y especializados, integrados en móviles, coches, robots o electrodomésticos.Pese a todo, Orús no se declara pesimista. Cree que la humanidad está ante una nueva revolución tecnológica, con sus tensiones y sus crisis, pero también con un enorme potencial de progreso. Eso sí, con una condición clara: “Hay que hacerlo con cabeza. Si lo hacemos sin cabeza, se acabó el optimismo”.Empecemos por el principio. Para quien no le conozca, usted es físico, trabaja en computación cuántica, es empresario y ahora forma parte de un panel de la ONU sobre IA. ¿Cómo se presenta?Yo soy Román Orús. Soy científico, soy físico, soy profesor Ikerbasque en el Donostia International Physics Center (DIPC) y soy cofundador y director científico de Multiverse Computing. Ahora, además, soy uno de los 40 integrantes del Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas.¿Qué pesa más en su mirada sobre la IA: el científico, el emprendedor o el ciudadano preocupado por el impacto de esta tecnología?Un poco de todo. El panel es esencialmente científico. Todos los que estamos ahí somos científicos. Es muy heterogéneo: hay tres o cuatro físicos, hay mucha gente que viene de machine learning y de informática, hay matemáticos, filósofos e incluso una periodista. En mi caso particular, yo creo que pesa mucho mi parte científica, la conexión con otras tecnologías como puede ser la computación cuántica y luego la visión global que tengo de la IA también desde el lado industrial. Yo soy científico, pero no soy un científico al uso, en el sentido de que también soy emprendedor y ahora estamos haciendo muchos temas de inteligencia artificial conectada con cuántica. Yo creo que eso también pesa mucho.Ha comparado la inteligencia artificial con el proyecto Manhattan. ¿Qué es exactamente lo que deberíamos temer: la tecnología, quién la controla o la velocidad a la que se está desplegando?La IA es una tecnología estratégica, geopolíticamente hablando. Es una nueva revolución industrial lo que estamos viviendo, igual que en el siglo XIX, pero en otro ámbito. Ese es el motivo por el que la considero el ‘nuevo proyecto Manhattan’: del mismo modo que la energía atómica e incluso la bomba atómica, la IA es una tecnología muy potente, muy poderosa. Hoy en día la guerra no va de lanzar bombas, va de información. Y, por tanto, la IA es una tecnología estratégica ya que, como otras tecnologías —como puede ser la computación cuántica—, las regiones que la desarrollen van a tener una ventaja estratégica respecto a las que no la desarrollen. Es una herramienta fundamental.¿Por este motivo se crea el panel de la ONU?Este es uno de los motivos que preocupa a la ONU. Es una tecnología que se está desarrollando muy deprisa. Yo creo que decir que va exponencialmente rápido es quedarse corto. Las cosas cambian de una semana para otra. Todo sucede muy rápido. Estamos viendo una transición tecnológica sin precedentes. Nadie podía esperarse esto. Debido a la velocidad del cambio y al impacto tan profundo que tiene en todos los niveles de la sociedad, no solamente en el tecnológico, sino también en el social, en la posible desigualdad económica, la brecha social, qué va a pasar con el trabajo… hay que sentarse y pensar hacia dónde va todo esto, cómo va a ser la gobernanza, cómo se va a regular, etcétera.Pensar es un primer paso, pero ¿se puede gobernar?Entre otras cosas, esta es una tecnología que está mayormente en manos de empresas privadas. No son iniciativas gubernamentales. Hay un motivo para esto: para desarrollar estos modelos hace falta mucho capital y este capital lo tienen las empresas privadas, no los gobiernos. Creo que hay que regular la IA, pero hay que regularla bien. No hay que frenar la adopción y el desarrollo, todo lo contrario. Lo que hay que hacer es una regulación que fomente la adopción y fomente más el desarrollo. Es como ponerle cinturones de seguridad a los coches: si tú tuvieras coches sin cinturones de seguridad, no podrías circular de forma segura por la autopista. Pues eso es lo que queremos. Como decía aquel antiguo anuncio, ‘la potencia sin control no sirve de nada’.Esto es como decir que ‘no se puede dejar suelta a la IA’, ¿qué significa eso en la práctica? ¿Y cómo regulamos sin constreñir?Es un reto. Eso ya les corresponde a los gobiernos y a los políticos, no a los científicos. Ya me gustaría a mí saber cómo se puede hacer esto bien. Hay propuestas encima de la mesa, pero lo que está claro es que no se puede dejar sin más, porque entonces es una selva sin control. Ahora estamos viendo que la IA ofrece oportunidades, por supuesto, pero también riesgos. Hay que tener mucho cuidado porque, si se lleva bien y se encarrila por el camino correcto, vamos a tener un desarrollo tecnológico y social espectacular durante los próximos años. La verdad es que es un privilegio estar vivo en esta fase de la humanidad para poder verlo. Pero, si no lo hacemos bien, va a pasar todo lo contrario: vamos a descarrilar de forma catastrófica.¿Cuáles son esos riesgos?Ya estamos viendo que la IA también tiene sus peligros. Estamos viendo, por ejemplo, la creación de contenido falso a escala, que, además, en combinación con las redes sociales, es un arma de doble filo. Se puede moldear la opinión de la sociedad de países enteros en función de intereses privados o de personas concretas. También afecta a la ciberseguridad. Por ejemplo, el último modelo de Anthropic, Mythos, no se ha hecho público porque se han dado cuenta de que es demasiado potente y si cae en las manos equivocadas puede tener consecuencias desastrosas.¿Hay algún riesgo de la inteligencia artificial que se esté infravalorando?La creación de contenido falso. El otro día leía que, en Instagram, entre el 5 % y el 20 % del contenido está completamente desarrollado por inteligencia artificial. Es fake. No es que lo hayan retocado: es que es enteramente falso. En TikTok es mucho peor, todavía hay más. Y eso lleva a la desinformación. Es un problema grave.¿Y qué hay del empleo?Es también algo que vamos a tener que plantearnos. Ya estamos viendo que está cambiando todo el sistema laboral. Los programadores no programan igual ahora que hace dos años, pero es que tampoco programan igual ahora que hace tres meses. Evoluciona muy rápido. Va a haber trabajos que se van a tener que adaptar, va a haber algunos que a lo mejor tienden a desaparecer, pero luego van a surgir otros nuevos, como sucede en todas las revoluciones tecnológicas: pasó en la industrial y pasó con internet. Ahí va a haber un periodo de adaptación de la sociedad que yo no sé cómo será de largo. No creo que lleve mucho tiempo, pero la gente deberá tener apertura de miras para adaptarse a la nueva forma de hacer las cosas. Eso no es un problema en sí, es más bien un reto que tiene la sociedad.¿Cómo encaja la IA en lo laboral sin arrasarnos?Yo creo que vamos a ir integrando la IA en nuestras vidas cada vez más. Ya lo hacemos: todos hablamos con ChatGPT, con Claude o con el modelo que sea, y los usamos cada vez para hacer más cosas. Lo que va a suceder es que va a haber un aumento de la productividad tremendo. Esto seguro que va a pasar. Vamos a trabajar las mismas horas, pero multiplicaremos la productividad por mil o más. La gente tiene que estar abierta a implementar estas nuevas tecnologías en su día a día, buscar en qué les puede ser útil y aprovecharse de ellas, porque además es la única manera de mantenerse competitivo. Si tú sigues queriendo trabajar como siempre, pero tu vecino empieza a utilizar herramientas de inteligencia artificial, tu vecino te va a arroyar. Las empresas que no hagan esta transición están condenadas a quedarse irrelevantes y, al final, a desaparecer.Vamos a trabajar las mismas horas, pero multiplicaremos la productividad por mil o más¿Podemos fiarlo todo a la IA?Hay que tener la mentalidad abierta, pero también hay que tener mucho espíritu crítico. No te puedes creer todo lo que te dice la inteligencia artificial. La IA tiene errores. Hay que saber entender cuándo se equivoca. El hecho de que tengamos una máquina que da respuesta a todo aparentemente, no significa que todo lo que diga sea factualmente correcto. Ahí es donde entra la labor del ser humano de discernir: esto está bien y esto parece que no. Entonces, la gente va a tener que desarrollar un poco más, o poner más en práctica, lo que viene a ser el espíritu crítico, para no creerte todo lo que te dice un modelo de IA a priori.Entonces, ¿la inteligencia artificial nos va a hacer más inteligentes?O más tontos, depende de a quién preguntes [ríe]. Mira, te voy a decir una cosa: ¿sabes por qué Sócrates no escribió ningún libro? Todo lo escribió Platón y sus discípulos. Sócrates no escribía ningún libro porque temía que los libros iban a acabar con la inteligencia humana. Él lo memorizaba todo y, claro, escribirlo en un libro era un horror. Estaba completamente en contra de esa tecnología brujesca que había aparecido, que era escribir un libro. Aquí es algo parecido. Ahora tenemos máquinas que piensan por nosotros. ¿Nos va a hacer más inteligentes o más tontos? No lo sé. Yo creo que nos va a hacer diferentes. Esto es como una máquina de calcular, pero con esteroides. En lugar de tener que hacer todos los cálculos de memoria, te los hace la calculadora. Con la IA, en lugar de tener que escribir un reporte súper largo o estar dos semanas preparando una presentación, la tienes en cinco minutos y tú te puedes dedicar más a lo que importa. Quiero creer que por lo menos parte de la sociedad va a evolucionar hacia ser más inteligente.Se habla mucho de los cambios en lo laboral, ¿qué hay de la educación?La forma que tenemos de aprender y de estudiar también cambiará. Ahora mismo, el que no aprende es porque no quiere. En ese sentido, yo lo veo positivo. Pero, como decía antes, hay que fomentar mucho el espíritu crítico, porque no puede ser que todo lo piense la IA y yo me dedique a no hacer nada.Volvamos a su trabajo en la ONU. Este panel se crea para orientar la gobernanza global de la IA, pero las grandes decisiones tecnológicas las están tomando empresas privadas y unos pocos países. ¿Qué puede hacer realmente un panel científico internacional frente al poder de OpenAI, Google, Meta, Anthropic, Microsoft o los gobiernos de EE. UU. y China?Lo primero que hay que decir es que este panel tiene que existir, porque alguien tiene que advertir de lo que está pasando. La ONU es un mecanismo de alerta temprana y nosotros somos la bisagra entre el mundo científico, que está viendo exactamente qué es lo que pasa, sin hype y sin ningún filtro, y el plano político, que es más el de la gobernanza. Naciones Unidas ha creado el panel y otro organismo que llaman el Diálogo Global sobre la Gobernanza de la IA. Ellos van a coger los informes que hagamos nosotros para hacer política y regulación. Después les tocará a los gobiernos de turno decidir hasta qué punto lo aceptan o no, o si lo implementan o no. No son organismos que puedan imponer cosas a los gobiernos, pero se tiene que hacer. Es como los acuerdos sobre energía atómica: hay países que los suscriben y otros países que no. Aquí sucederá lo mismo, pero quiero entender que mayormente lo harán.¿Calará en Silicon Valley?Las empresas de Silicon Valley es probable que vean el informe y digan: “¿Y a mí qué?”. Pero sí que es cierto que las empresas están sujetas a regulaciones de los gobiernos en donde actúan. Cada vez es más tangible que el poder se está acumulando, más que en los gobiernos, en una especie de tecnocracia en la que hay agentes —las grandes corporaciones tecnológicas— que están acumulando muchísimo poder porque tienen mucha capacidad de desarrollo, de influencia, etcétera. A mí me da la sensación de que esto es una evolución del capitalismo. Habrá que ver hacia dónde va.¿La sociedad es suficientemente consciente de esto?No lo sé. La gente igual se tendría que plantear quién manda más: la presidenta de Europa o Elon Musk. No se trata aquí de mandar o no, se trata de cuánto poder tienes. Elon Musk, por supuesto, con las empresas que tiene, tiene una capacidad de empuje descomunal que probablemente la presidenta de Europa no tenga. A una la hemos elegido democráticamente y el otro es un empresario que ha montado un imperio, que también tiene su mérito. No me estoy metiendo con Elon Musk. No sé hasta qué punto la sociedad es del todo consciente de esto, pero yo creo que en parte sí, porque claramente están estas grandes corporaciones tecnológicas que están acumulando mucho poder. Una posible solución —yo no digo limitarlo, porque eso sería ir en contra del libre comercio— es intentar fomentar que surjan más, para que exista más competencia. Si solo hay una, dos o tres grandes empresas tecnológicas, obviamente todo este potencial tecnológico está muy concentrado. Pero, si surgen más y los gobiernos apoyan para que surjan más, estará más distribuido.¿Es eso lo que ocurre en la industria de la IA?Sí. Los grandes actores en IA son empresas norteamericanas y chinas. En Europa, ahora mismo, la cosa está más rezagada. No obstante, se están apoyando muchas iniciativas europeas para que surjan campeones europeos y ponerse a un nivel competitivo. También están saliendo más empresas en Estados Unidos. Tiene que existir competencia, que haya más, para que se reparta un poco más y no haya tanta concentración de poder.¿Y qué podemos hacer desde Europa y, en última instancia, desde España, para entrar más en ese juego?Europa y España lo que tienen que hacer es apoyar las iniciativas que surjan, regarlas, por así decir, para que crezcan y puedan empezar a competir con las grandes empresas. Es difícil competir con un monstruo como OpenAI, que cierra rondas de muchos billones de dólares, pero en algún instante hay que empezar y también hay que creérselo. Tiene que ser una estrategia de país, de continente, porque es una tecnología geoestratégica. Hay que apoyar a los campeones locales y a la gente que tiene potencial y capacidades para poder crear este tipo de modelos, estas iniciativas. Crear modelos de IA es muy caro porque conlleva un gasto energético muy grande. Esa es otra discusión: yo, como científico, creo que estos modelos no son más que la punta del iceberg y que, aunque parezca que son muy capaces y muy potentes, no hemos empezado a ver más que lo primero que se puede hacer, porque ahora son excepcionalmente ineficientes. Creo que se pueden hacer muchísimo mejor.¿Apoyar a campeones locales es solo una responsabilidad gubernamental?No, tienen que estar apoyados también por el capital privado. Eso es fundamental. La financiación pública de los gobiernos tiene que servir para disminuir el riesgo, para apalancar financiación de capital riesgo, que es lo que hace crecer a las empresas muy rápido. Así es como han nacido todas las grandes tecnológicas en Estados Unidos y así es como tienen que salir también en Europa. No hay otro mecanismo que pueda funcionar. Tiene que entrar capital privado. Si no entra capital privado, es imposible crecer a la velocidad que esto requiere.Este panorama que dibuja me recuerda a lo que ha ocurrido en el espacio: el New Space aboga por romper con el estilo de las megacompañías haciendo todo y buscar soluciones pequeñas a problemas concretos en empresas emergentes. ¿Sería lo mismo?Sí, completamente. El sector de la IA es enorme. No son solamente los supermodelos tipo ChatGPT o Claude. Es todo un ecosistema. En un lado del espectro están los modelos megagrandes, que saben de todo. Pero, en el otro lado, están los nanomodelos, los modelos muy pequeñitos. Esos son los que van a estar integrados en los dispositivos: en el teléfono, en el reloj, en el coche, en un dron, en un robot… haciendo así que tengamos IA en todas partes, hasta en la tostadora. Esos modelos locales (que no se van a tener que conectar a la nube) son modelos pequeños que hacen tareas específicas, no tienen por qué saber de todo. Si tienes un modelo de IA en tu nevera, por ejemplo, no hace falta que tu nevera sepa de la teoría de la relatividad. Tu nevera tiene que saber de cosas que debería saber una nevera: de qué te falta dentro, de por qué se te han puesto malos los huevos o de la temperatura adecuada para conservar alimentos.Entrenar y operar grandes modelos cuesta cada vez más energía y dinero, ¿la IA puede convertirse en una tecnología insostenible si seguimos apostando por esos megamodelos? ¿Serían esos modelos pequeños una manera de solucionar ese problema?Completamente. Esto es una reflexión como físico: los modelos, tal y como los estamos desarrollando ahora, son extremadamente ineficientes. Consumen energía de forma espectacular. Entrenar GPT-4, dos versiones antes del que tenemos ahora, le costó a OpenAI más de 100 millones de dólares en factura de la luz. Hoy en día eso ya nos parece poco, porque creo que GPT-5 le costó 1.000 millones en factura de la luz. Es una barbaridad. Tú ves la naturaleza y dices: qué mal lo estamos haciendo, porque la inteligencia biológica funciona mucho mejor. A un niño no le tienes que poner una central nuclear al lado para que aprenda a hablar. Y a un modelo de estos le das toda esta energía y aprende a hablar más o menos y todavía se equivoca. Algo estamos haciendo profundamente mal, tanto a nivel de hardware como de software. En términos de eficiencia, claramente esto se tiene que poder mejorar seguro. ¿Cómo se puede hacer? Eso es un campo entero de investigación.¿Hacia dónde hay que investigar?Los modelos que tenemos ahora son muy capaces, pero yo creo que son lo primero que nos hemos encontrado que funciona. El otro día, en otra entrevista, ponían este ejemplo: es como si estuviésemos comparando los carros de los egipcios en el 2000 antes de Cristo con la nave Enterprise. Estamos ahora mismo, en términos de inteligencia artificial, en una fase en la que parece que todo es una tecnología bestial, pero esto es como haber descubierto la rueda. Hay mucho trabajo por hacer. Los modelos, tal y como se están desarrollando ahora, no son escalables. No se va a poder ir mucho más lejos con este consumo energético. Hay que hacerlos más eficientes mediante tecnologías como, por ejemplo, lo que estamos haciendo en Multiverse: comprimirlos mucho para hacer modelos más pequeños. En lugar de apostar por modelos grandes que sepan de todo, hacerlo por modelos más pequeños para tareas específicas, que sean mucho más eficientes y que estén en local, en el dispositivo. Ese es un primer paso.¿Qué tipo de tecnologías desarrollan en su empresa?Nosotros ahora mismo estamos haciendo muchas cosas. Estamos haciendo tecnologías capaces de comprimir los modelos de inteligencia artificial entre un 50 % y un 70 %. Hemos llegado a compresiones incluso de más del 90 % en algunos casos sin apenas perder precisión. Esto hace que el modelo, al ser más pequeño en memoria, gaste muchísima menos energía. Y alrededor de eso estamos desarrollando capas de software para centros de datos. Estamos empezando a implementar algunos de estos modelos en dispositivos. Estamos hablando con algunas de las compañías de hardware y de procesadores más importantes del mundo, de hecho, con casi todas, para desplegar nuestros modelos en móviles, portátiles, dispositivos de todo tipo. Y, al margen de eso, estamos haciendo mucha investigación orientada a los objetivos de la empresa, tanto en nuevas formas de hacer los modelos más eficientes clásicamente, por así decirlo, como en desplegarlos en ordenadores cuánticos. Hemos hecho que un ordenador cuántico hable por primera vez en la historia y sepa cuál es la capital de Francia.¿Para qué me puede servir a mí, como ciudadana común y corriente, que un ordenador cuántico sepa cuál es la capital de Francia?¿Para ti como ciudadana? Pues si te quieres ir de vacaciones a la capital de Francia… [ríe] A ver, la computación cuántica es otro modelo de computación. No son procesadores como las GPU de Nvidia. Es otra forma de procesar la información. La capacidad que tiene un ordenador cuántico es que puede procesar la información de forma mucho más eficiente que un ordenador tradicional y eso te permite resolver una serie de problemas matemáticos que no puedes resolver de ninguna de las maneras con un ordenador normal, ni con la IA más potente del mundo. Hay todo un campo de investigación, que es el de inteligencia artificial cuántica, que consiste en desarrollar algoritmos de inteligencia artificial para ordenadores cuánticos. Ahí las ventajas que se ven es que esta IA aprende con menos datos y lo hace mejor, es capaz de detectar más patrones y mejor que un algoritmo de IA tradicional y consume menos energía. Entonces, para ti como ciudadana, al final lo que verás es que tú seguirás utilizando tus algoritmos de inteligencia artificial, pero que las respuestas que te dan son más precisas, más rápidas y encima la máquina está gastando menos energía. Todo funciona mejor.Es el único español en el panel de la ONU. ¿Qué le hizo aceptar este puesto?¿Cómo no lo iba a aceptar? En primer lugar, me hizo mucha ilusión que me lo propusieran y para mí es un honor. Es una oportunidad también de compartir y reflejar toda la experiencia que tengo tanto desde el punto de vista académico y científico como desde la parte industrial y de empresa. Yo realmente estoy en una posición en la que veo casi todo el ecosistema. Me hizo mucha ilusión tener un foro en el que poder aportar todas las cosas que estoy viendo y que eso después se pueda traducir en políticas de gobernanza en aras del futuro de la humanidad. Queda muy grandilocuente, pero es el papel de la ONU. En ese aspecto, a mí me pareció algo fantástico y por eso acepté.¿Se considera optimista o pesimista ante el futuro de la IA?Yo soy optimista. Sé que hay mucha gente que es muy pesimista. Hay alguno en el panel que es muy pesimista, pero yo, manteniéndome realista, sí que tiendo al optimismo. Mirando la historia, lo que veo es que todas las revoluciones tecnológicas han involucrado crisis, pero luego han servido para evolucionar y para traernos progreso tecnológico y mejores condiciones. Yo creo que con esta revolución en la que estamos ahora va a pasar igual. En ese aspecto soy optimista, pero hay que hacerlo con cabeza. Si lo hacemos sin cabeza, se acabó el optimismo.¿Qué debería contener el primer informe del panel para que no sea solo una declaración de buenas intenciones?Tiene que contener una visión realista de qué es la inteligencia artificial. Esto es algo sobre lo que distintas personas tienen distintas ideas. Yo, por ejemplo, lo tengo muy claro, pero no sé si un político que no se dedique a esto lo tiene tan claro, porque llega mucho ruido. Hace falta distinguir muy bien qué es y qué no es, cuáles son las capacidades reales, qué es lo que intuimos que puede pasar a nivel tecnológico a futuro y hay que identificar muy bien cuáles son las oportunidades en distintos ámbitos (en el tecnológico, en el social, en el laboral) y también los riesgos. Eso es lo que tiene que aparecer en este primer informe.¿Llegarán a este objetivo para julio?Es cierto que tenemos relativamente poco tiempo para hacerlo. Hay que hacerlo rápido y, además, poner de acuerdo a 40 científicos, que todos creen que tienen la razón, es muy complicado. Pero parece que va por el camino adecuado. No obstante, el panel tiene un mandato de tres años. Va a seguir sacando informes, sobre todo porque es una tecnología que evoluciona tan rápido que lo que digamos en julio, dos o tres meses después habrá quedado obsoleto. Vamos a tener que estar sacando informes específicos sobre cosas concretas o a lo mejor varios informes al año, porque realmente la tecnología evoluciona tan rápido que hay que estar constantemente explicando lo que pasa.¿Se podrán aplicar también así de rápido sus recomendaciones?La legislación ahí tiene un reto. Los que hagan luego la legislación y la gobernanza van a tener que hacerlo de forma muy ágil, tan rápido como el desarrollo de la tecnología, porque si no puede pasar como, por ejemplo, lo que pasó con Europa. Europa fue la primera en legislar la inteligencia artificial con el AI Act, que está muy bien, es algo positivo. El problema es que, cuando salió el AI Act, estaban legislando unos modelos que ya se habían quedado obsoletos. En Bruselas todo va muy despacio. Entonces no sirve para nada, porque la tecnología avanza tan rápido que es un reto desde el punto de vista legislativo. Hay que ser capaz de legislar a la misma velocidad.

Publicado: mayo 28, 2026, 9:00 am

La fuente de la noticia es https://www.20minutos.es/tecnologia/inteligencia-artificial/entrevista-roman-orus-ia-onu-regulacion_6968711_0.html

Cuando Román Orús habla de inteligencia artificial, no lo hace desde la fascinación acrítica ni desde el miedo fácil. Físico de formación, investigador en computación cuántica, emprendedor y ahora uno de los 40 expertos elegidos por Naciones Unidas para ayudar a pensar la gobernanza global de la IA, Orús observa la tecnología con la distancia de quien sabe que lo que hoy parece deslumbrante quizá no sea más que el primer paso. “Estamos como si acabáramos de descubrir la rueda”, dice en esta entrevista con 20bits.

Profesor de investigación Ikerbasque en el Donostia International Physics Center y cofundador y director científico de Multiverse Computing, Orús es además el único español que forma parte del nuevo Panel Científico Internacional Independiente sobre Inteligencia Artificial de la ONU, que acaba de celebrar en Madrid su primera reunión presencial. Su tarea no será decidir leyes ni imponer reglas a gobiernos o empresas, sino dibujar el mapa: ofrecer una visión científica, no sesgada y actualizada de qué es realmente la IA, qué puede hacer, qué riesgos plantea y qué oportunidades abre en un momento en el que la tecnología avanza más rápido que la propia capacidad de regularla.

Y esa mirada, precisamente, es la que atraviesa toda la conversación. Orús compara la IA con “el nuevo proyecto Manhattan” por su dimensión estratégica y por la ventaja que dará a las regiones capaces de desarrollarla, pero insiste en que regular no debe significar frenar. Lo explica con una imagen sencilla: igual que los cinturones de seguridad permiten a los coches circular más rápido por la autopista, una buena gobernanza debería servir para que la inteligencia artificial avance sin convertirse en una “selva sin control”.

En la entrevista, el físico habla de algunos de los riesgos que ya no pertenecen al terreno de la ciencia ficción: la generación masiva de contenido falso, la ciberseguridad, la concentración de poder en unas pocas tecnológicas o el impacto sobre el trabajo. También de los límites de los grandes modelos actuales, extraordinariamente capaces pero, a su juicio, todavía muy ineficientes, y de un futuro en el que la IA no estará solo en enormes centros de datos, sino también en modelos más pequeños y especializados, integrados en móviles, coches, robots o electrodomésticos.

Pese a todo, Orús no se declara pesimista. Cree que la humanidad está ante una nueva revolución tecnológica, con sus tensiones y sus crisis, pero también con un enorme potencial de progreso. Eso sí, con una condición clara: “Hay que hacerlo con cabeza. Si lo hacemos sin cabeza, se acabó el optimismo”.

Empecemos por el principio. Para quien no le conozca, usted es físico, trabaja en computación cuántica, es empresario y ahora forma parte de un panel de la ONU sobre IA. ¿Cómo se presenta?

Yo soy Román Orús. Soy científico, soy físico, soy profesor Ikerbasque en el Donostia International Physics Center (DIPC) y soy cofundador y director científico de Multiverse Computing. Ahora, además, soy uno de los 40 integrantes del Panel Científico Internacional Independiente sobre Inteligencia Artificial de Naciones Unidas.

¿Qué pesa más en su mirada sobre la IA: el científico, el emprendedor o el ciudadano preocupado por el impacto de esta tecnología?

Un poco de todo. El panel es esencialmente científico. Todos los que estamos ahí somos científicos. Es muy heterogéneo: hay tres o cuatro físicos, hay mucha gente que viene de machine learning y de informática, hay matemáticos, filósofos e incluso una periodista. En mi caso particular, yo creo que pesa mucho mi parte científica, la conexión con otras tecnologías como puede ser la computación cuántica y luego la visión global que tengo de la IA también desde el lado industrial. Yo soy científico, pero no soy un científico al uso, en el sentido de que también soy emprendedor y ahora estamos haciendo muchos temas de inteligencia artificial conectada con cuántica. Yo creo que eso también pesa mucho.

Ha comparado la inteligencia artificial con el proyecto Manhattan. ¿Qué es exactamente lo que deberíamos temer: la tecnología, quién la controla o la velocidad a la que se está desplegando?

La IA es una tecnología estratégica, geopolíticamente hablando. Es una nueva revolución industrial lo que estamos viviendo, igual que en el siglo XIX, pero en otro ámbito. Ese es el motivo por el que la considero el ‘nuevo proyecto Manhattan’: del mismo modo que la energía atómica e incluso la bomba atómica, la IA es una tecnología muy potente, muy poderosa. Hoy en día la guerra no va de lanzar bombas, va de información. Y, por tanto, la IA es una tecnología estratégica ya que, como otras tecnologías —como puede ser la computación cuántica—, las regiones que la desarrollen van a tener una ventaja estratégica respecto a las que no la desarrollen. Es una herramienta fundamental.

¿Por este motivo se crea el panel de la ONU?

Este es uno de los motivos que preocupa a la ONU. Es una tecnología que se está desarrollando muy deprisa. Yo creo que decir que va exponencialmente rápido es quedarse corto. Las cosas cambian de una semana para otra. Todo sucede muy rápido. Estamos viendo una transición tecnológica sin precedentes. Nadie podía esperarse esto. Debido a la velocidad del cambio y al impacto tan profundo que tiene en todos los niveles de la sociedad, no solamente en el tecnológico, sino también en el social, en la posible desigualdad económica, la brecha social, qué va a pasar con el trabajo… hay que sentarse y pensar hacia dónde va todo esto, cómo va a ser la gobernanza, cómo se va a regular, etcétera.

Pensar es un primer paso, pero ¿se puede gobernar?

Entre otras cosas, esta es una tecnología que está mayormente en manos de empresas privadas. No son iniciativas gubernamentales. Hay un motivo para esto: para desarrollar estos modelos hace falta mucho capital y este capital lo tienen las empresas privadas, no los gobiernos. Creo que hay que regular la IA, pero hay que regularla bien. No hay que frenar la adopción y el desarrollo, todo lo contrario. Lo que hay que hacer es una regulación que fomente la adopción y fomente más el desarrollo. Es como ponerle cinturones de seguridad a los coches: si tú tuvieras coches sin cinturones de seguridad, no podrías circular de forma segura por la autopista. Pues eso es lo que queremos. Como decía aquel antiguo anuncio, ‘la potencia sin control no sirve de nada’.

Esto es como decir que ‘no se puede dejar suelta a la IA’, ¿qué significa eso en la práctica? ¿Y cómo regulamos sin constreñir?

Es un reto. Eso ya les corresponde a los gobiernos y a los políticos, no a los científicos. Ya me gustaría a mí saber cómo se puede hacer esto bien. Hay propuestas encima de la mesa, pero lo que está claro es que no se puede dejar sin más, porque entonces es una selva sin control. Ahora estamos viendo que la IA ofrece oportunidades, por supuesto, pero también riesgos. Hay que tener mucho cuidado porque, si se lleva bien y se encarrila por el camino correcto, vamos a tener un desarrollo tecnológico y social espectacular durante los próximos años. La verdad es que es un privilegio estar vivo en esta fase de la humanidad para poder verlo. Pero, si no lo hacemos bien, va a pasar todo lo contrario: vamos a descarrilar de forma catastrófica.

¿Cuáles son esos riesgos?

Ya estamos viendo que la IA también tiene sus peligros. Estamos viendo, por ejemplo, la creación de contenido falso a escala, que, además, en combinación con las redes sociales, es un arma de doble filo. Se puede moldear la opinión de la sociedad de países enteros en función de intereses privados o de personas concretas. También afecta a la ciberseguridad. Por ejemplo, el último modelo de Anthropic, Mythos, no se ha hecho público porque se han dado cuenta de que es demasiado potente y si cae en las manos equivocadas puede tener consecuencias desastrosas.

¿Hay algún riesgo de la inteligencia artificial que se esté infravalorando?

La creación de contenido falso. El otro día leía que, en Instagram, entre el 5 % y el 20 % del contenido está completamente desarrollado por inteligencia artificial. Es fake. No es que lo hayan retocado: es que es enteramente falso. En TikTok es mucho peor, todavía hay más. Y eso lleva a la desinformación. Es un problema grave.

¿Y qué hay del empleo?

Es también algo que vamos a tener que plantearnos. Ya estamos viendo que está cambiando todo el sistema laboral. Los programadores no programan igual ahora que hace dos años, pero es que tampoco programan igual ahora que hace tres meses. Evoluciona muy rápido. Va a haber trabajos que se van a tener que adaptar, va a haber algunos que a lo mejor tienden a desaparecer, pero luego van a surgir otros nuevos, como sucede en todas las revoluciones tecnológicas: pasó en la industrial y pasó con internet. Ahí va a haber un periodo de adaptación de la sociedad que yo no sé cómo será de largo. No creo que lleve mucho tiempo, pero la gente deberá tener apertura de miras para adaptarse a la nueva forma de hacer las cosas. Eso no es un problema en sí, es más bien un reto que tiene la sociedad.

¿Cómo encaja la IA en lo laboral sin arrasarnos?

Yo creo que vamos a ir integrando la IA en nuestras vidas cada vez más. Ya lo hacemos: todos hablamos con ChatGPT, con Claude o con el modelo que sea, y los usamos cada vez para hacer más cosas. Lo que va a suceder es que va a haber un aumento de la productividad tremendo. Esto seguro que va a pasar. Vamos a trabajar las mismas horas, pero multiplicaremos la productividad por mil o más. La gente tiene que estar abierta a implementar estas nuevas tecnologías en su día a día, buscar en qué les puede ser útil y aprovecharse de ellas, porque además es la única manera de mantenerse competitivo. Si tú sigues queriendo trabajar como siempre, pero tu vecino empieza a utilizar herramientas de inteligencia artificial, tu vecino te va a arroyar. Las empresas que no hagan esta transición están condenadas a quedarse irrelevantes y, al final, a desaparecer.

Vamos a trabajar las mismas horas, pero multiplicaremos la productividad por mil o más

¿Podemos fiarlo todo a la IA?

Hay que tener la mentalidad abierta, pero también hay que tener mucho espíritu crítico. No te puedes creer todo lo que te dice la inteligencia artificial. La IA tiene errores. Hay que saber entender cuándo se equivoca. El hecho de que tengamos una máquina que da respuesta a todo aparentemente, no significa que todo lo que diga sea factualmente correcto. Ahí es donde entra la labor del ser humano de discernir: esto está bien y esto parece que no. Entonces, la gente va a tener que desarrollar un poco más, o poner más en práctica, lo que viene a ser el espíritu crítico, para no creerte todo lo que te dice un modelo de IA a priori.

Entonces, ¿la inteligencia artificial nos va a hacer más inteligentes?

O más tontos, depende de a quién preguntes [ríe]. Mira, te voy a decir una cosa: ¿sabes por qué Sócrates no escribió ningún libro? Todo lo escribió Platón y sus discípulos. Sócrates no escribía ningún libro porque temía que los libros iban a acabar con la inteligencia humana. Él lo memorizaba todo y, claro, escribirlo en un libro era un horror. Estaba completamente en contra de esa tecnología brujesca que había aparecido, que era escribir un libro. Aquí es algo parecido. Ahora tenemos máquinas que piensan por nosotros. ¿Nos va a hacer más inteligentes o más tontos? No lo sé. Yo creo que nos va a hacer diferentes. Esto es como una máquina de calcular, pero con esteroides. En lugar de tener que hacer todos los cálculos de memoria, te los hace la calculadora. Con la IA, en lugar de tener que escribir un reporte súper largo o estar dos semanas preparando una presentación, la tienes en cinco minutos y tú te puedes dedicar más a lo que importa. Quiero creer que por lo menos parte de la sociedad va a evolucionar hacia ser más inteligente.

Se habla mucho de los cambios en lo laboral, ¿qué hay de la educación?

La forma que tenemos de aprender y de estudiar también cambiará. Ahora mismo, el que no aprende es porque no quiere. En ese sentido, yo lo veo positivo. Pero, como decía antes, hay que fomentar mucho el espíritu crítico, porque no puede ser que todo lo piense la IA y yo me dedique a no hacer nada.

Volvamos a su trabajo en la ONU. Este panel se crea para orientar la gobernanza global de la IA, pero las grandes decisiones tecnológicas las están tomando empresas privadas y unos pocos países. ¿Qué puede hacer realmente un panel científico internacional frente al poder de OpenAI, Google, Meta, Anthropic, Microsoft o los gobiernos de EE. UU. y China?

Lo primero que hay que decir es que este panel tiene que existir, porque alguien tiene que advertir de lo que está pasando. La ONU es un mecanismo de alerta temprana y nosotros somos la bisagra entre el mundo científico, que está viendo exactamente qué es lo que pasa, sin hype y sin ningún filtro, y el plano político, que es más el de la gobernanza. Naciones Unidas ha creado el panel y otro organismo que llaman el Diálogo Global sobre la Gobernanza de la IA. Ellos van a coger los informes que hagamos nosotros para hacer política y regulación. Después les tocará a los gobiernos de turno decidir hasta qué punto lo aceptan o no, o si lo implementan o no. No son organismos que puedan imponer cosas a los gobiernos, pero se tiene que hacer. Es como los acuerdos sobre energía atómica: hay países que los suscriben y otros países que no. Aquí sucederá lo mismo, pero quiero entender que mayormente lo harán.

¿Calará en Silicon Valley?

Las empresas de Silicon Valley es probable que vean el informe y digan: “¿Y a mí qué?”. Pero sí que es cierto que las empresas están sujetas a regulaciones de los gobiernos en donde actúan. Cada vez es más tangible que el poder se está acumulando, más que en los gobiernos, en una especie de tecnocracia en la que hay agentes —las grandes corporaciones tecnológicas— que están acumulando muchísimo poder porque tienen mucha capacidad de desarrollo, de influencia, etcétera. A mí me da la sensación de que esto es una evolución del capitalismo. Habrá que ver hacia dónde va.

¿La sociedad es suficientemente consciente de esto?

No lo sé. La gente igual se tendría que plantear quién manda más: la presidenta de Europa o Elon Musk. No se trata aquí de mandar o no, se trata de cuánto poder tienes. Elon Musk, por supuesto, con las empresas que tiene, tiene una capacidad de empuje descomunal que probablemente la presidenta de Europa no tenga. A una la hemos elegido democráticamente y el otro es un empresario que ha montado un imperio, que también tiene su mérito. No me estoy metiendo con Elon Musk. No sé hasta qué punto la sociedad es del todo consciente de esto, pero yo creo que en parte sí, porque claramente están estas grandes corporaciones tecnológicas que están acumulando mucho poder. Una posible solución —yo no digo limitarlo, porque eso sería ir en contra del libre comercio— es intentar fomentar que surjan más, para que exista más competencia. Si solo hay una, dos o tres grandes empresas tecnológicas, obviamente todo este potencial tecnológico está muy concentrado. Pero, si surgen más y los gobiernos apoyan para que surjan más, estará más distribuido.

¿Es eso lo que ocurre en la industria de la IA?

Sí. Los grandes actores en IA son empresas norteamericanas y chinas. En Europa, ahora mismo, la cosa está más rezagada. No obstante, se están apoyando muchas iniciativas europeas para que surjan campeones europeos y ponerse a un nivel competitivo. También están saliendo más empresas en Estados Unidos. Tiene que existir competencia, que haya más, para que se reparta un poco más y no haya tanta concentración de poder.

¿Y qué podemos hacer desde Europa y, en última instancia, desde España, para entrar más en ese juego?

Europa y España lo que tienen que hacer es apoyar las iniciativas que surjan, regarlas, por así decir, para que crezcan y puedan empezar a competir con las grandes empresas. Es difícil competir con un monstruo como OpenAI, que cierra rondas de muchos billones de dólares, pero en algún instante hay que empezar y también hay que creérselo. Tiene que ser una estrategia de país, de continente, porque es una tecnología geoestratégica. Hay que apoyar a los campeones locales y a la gente que tiene potencial y capacidades para poder crear este tipo de modelos, estas iniciativas. Crear modelos de IA es muy caro porque conlleva un gasto energético muy grande. Esa es otra discusión: yo, como científico, creo que estos modelos no son más que la punta del iceberg y que, aunque parezca que son muy capaces y muy potentes, no hemos empezado a ver más que lo primero que se puede hacer, porque ahora son excepcionalmente ineficientes. Creo que se pueden hacer muchísimo mejor.

¿Apoyar a campeones locales es solo una responsabilidad gubernamental?

No, tienen que estar apoyados también por el capital privado. Eso es fundamental. La financiación pública de los gobiernos tiene que servir para disminuir el riesgo, para apalancar financiación de capital riesgo, que es lo que hace crecer a las empresas muy rápido. Así es como han nacido todas las grandes tecnológicas en Estados Unidos y así es como tienen que salir también en Europa. No hay otro mecanismo que pueda funcionar. Tiene que entrar capital privado. Si no entra capital privado, es imposible crecer a la velocidad que esto requiere.

Este panorama que dibuja me recuerda a lo que ha ocurrido en el espacio: el New Space aboga por romper con el estilo de las megacompañías haciendo todo y buscar soluciones pequeñas a problemas concretos en empresas emergentes. ¿Sería lo mismo?

Sí, completamente. El sector de la IA es enorme. No son solamente los supermodelos tipo ChatGPT o Claude. Es todo un ecosistema. En un lado del espectro están los modelos megagrandes, que saben de todo. Pero, en el otro lado, están los nanomodelos, los modelos muy pequeñitos. Esos son los que van a estar integrados en los dispositivos: en el teléfono, en el reloj, en el coche, en un dron, en un robot… haciendo así que tengamos IA en todas partes, hasta en la tostadora. Esos modelos locales (que no se van a tener que conectar a la nube) son modelos pequeños que hacen tareas específicas, no tienen por qué saber de todo. Si tienes un modelo de IA en tu nevera, por ejemplo, no hace falta que tu nevera sepa de la teoría de la relatividad. Tu nevera tiene que saber de cosas que debería saber una nevera: de qué te falta dentro, de por qué se te han puesto malos los huevos o de la temperatura adecuada para conservar alimentos.

Entrenar y operar grandes modelos cuesta cada vez más energía y dinero, ¿la IA puede convertirse en una tecnología insostenible si seguimos apostando por esos megamodelos? ¿Serían esos modelos pequeños una manera de solucionar ese problema?

Completamente. Esto es una reflexión como físico: los modelos, tal y como los estamos desarrollando ahora, son extremadamente ineficientes. Consumen energía de forma espectacular. Entrenar GPT-4, dos versiones antes del que tenemos ahora, le costó a OpenAI más de 100 millones de dólares en factura de la luz. Hoy en día eso ya nos parece poco, porque creo que GPT-5 le costó 1.000 millones en factura de la luz. Es una barbaridad. Tú ves la naturaleza y dices: qué mal lo estamos haciendo, porque la inteligencia biológica funciona mucho mejor. A un niño no le tienes que poner una central nuclear al lado para que aprenda a hablar. Y a un modelo de estos le das toda esta energía y aprende a hablar más o menos y todavía se equivoca. Algo estamos haciendo profundamente mal, tanto a nivel de hardware como de software. En términos de eficiencia, claramente esto se tiene que poder mejorar seguro. ¿Cómo se puede hacer? Eso es un campo entero de investigación.

¿Hacia dónde hay que investigar?

Los modelos que tenemos ahora son muy capaces, pero yo creo que son lo primero que nos hemos encontrado que funciona. El otro día, en otra entrevista, ponían este ejemplo: es como si estuviésemos comparando los carros de los egipcios en el 2000 antes de Cristo con la nave Enterprise. Estamos ahora mismo, en términos de inteligencia artificial, en una fase en la que parece que todo es una tecnología bestial, pero esto es como haber descubierto la rueda. Hay mucho trabajo por hacer. Los modelos, tal y como se están desarrollando ahora, no son escalables. No se va a poder ir mucho más lejos con este consumo energético. Hay que hacerlos más eficientes mediante tecnologías como, por ejemplo, lo que estamos haciendo en Multiverse: comprimirlos mucho para hacer modelos más pequeños. En lugar de apostar por modelos grandes que sepan de todo, hacerlo por modelos más pequeños para tareas específicas, que sean mucho más eficientes y que estén en local, en el dispositivo. Ese es un primer paso.

¿Qué tipo de tecnologías desarrollan en su empresa?

Nosotros ahora mismo estamos haciendo muchas cosas. Estamos haciendo tecnologías capaces de comprimir los modelos de inteligencia artificial entre un 50 % y un 70 %. Hemos llegado a compresiones incluso de más del 90 % en algunos casos sin apenas perder precisión. Esto hace que el modelo, al ser más pequeño en memoria, gaste muchísima menos energía. Y alrededor de eso estamos desarrollando capas de software para centros de datos. Estamos empezando a implementar algunos de estos modelos en dispositivos. Estamos hablando con algunas de las compañías de hardware y de procesadores más importantes del mundo, de hecho, con casi todas, para desplegar nuestros modelos en móviles, portátiles, dispositivos de todo tipo. Y, al margen de eso, estamos haciendo mucha investigación orientada a los objetivos de la empresa, tanto en nuevas formas de hacer los modelos más eficientes clásicamente, por así decirlo, como en desplegarlos en ordenadores cuánticos. Hemos hecho que un ordenador cuántico hable por primera vez en la historia y sepa cuál es la capital de Francia.

¿Para qué me puede servir a mí, como ciudadana común y corriente, que un ordenador cuántico sepa cuál es la capital de Francia?

¿Para ti como ciudadana? Pues si te quieres ir de vacaciones a la capital de Francia… [ríe] A ver, la computación cuántica es otro modelo de computación. No son procesadores como las GPU de Nvidia. Es otra forma de procesar la información. La capacidad que tiene un ordenador cuántico es que puede procesar la información de forma mucho más eficiente que un ordenador tradicional y eso te permite resolver una serie de problemas matemáticos que no puedes resolver de ninguna de las maneras con un ordenador normal, ni con la IA más potente del mundo. Hay todo un campo de investigación, que es el de inteligencia artificial cuántica, que consiste en desarrollar algoritmos de inteligencia artificial para ordenadores cuánticos. Ahí las ventajas que se ven es que esta IA aprende con menos datos y lo hace mejor, es capaz de detectar más patrones y mejor que un algoritmo de IA tradicional y consume menos energía. Entonces, para ti como ciudadana, al final lo que verás es que tú seguirás utilizando tus algoritmos de inteligencia artificial, pero que las respuestas que te dan son más precisas, más rápidas y encima la máquina está gastando menos energía. Todo funciona mejor.

Es el único español en el panel de la ONU. ¿Qué le hizo aceptar este puesto?

¿Cómo no lo iba a aceptar? En primer lugar, me hizo mucha ilusión que me lo propusieran y para mí es un honor. Es una oportunidad también de compartir y reflejar toda la experiencia que tengo tanto desde el punto de vista académico y científico como desde la parte industrial y de empresa. Yo realmente estoy en una posición en la que veo casi todo el ecosistema. Me hizo mucha ilusión tener un foro en el que poder aportar todas las cosas que estoy viendo y que eso después se pueda traducir en políticas de gobernanza en aras del futuro de la humanidad. Queda muy grandilocuente, pero es el papel de la ONU. En ese aspecto, a mí me pareció algo fantástico y por eso acepté.

¿Se considera optimista o pesimista ante el futuro de la IA?

Yo soy optimista. Sé que hay mucha gente que es muy pesimista. Hay alguno en el panel que es muy pesimista, pero yo, manteniéndome realista, sí que tiendo al optimismo. Mirando la historia, lo que veo es que todas las revoluciones tecnológicas han involucrado crisis, pero luego han servido para evolucionar y para traernos progreso tecnológico y mejores condiciones. Yo creo que con esta revolución en la que estamos ahora va a pasar igual. En ese aspecto soy optimista, pero hay que hacerlo con cabeza. Si lo hacemos sin cabeza, se acabó el optimismo.

¿Qué debería contener el primer informe del panel para que no sea solo una declaración de buenas intenciones?

Tiene que contener una visión realista de qué es la inteligencia artificial. Esto es algo sobre lo que distintas personas tienen distintas ideas. Yo, por ejemplo, lo tengo muy claro, pero no sé si un político que no se dedique a esto lo tiene tan claro, porque llega mucho ruido. Hace falta distinguir muy bien qué es y qué no es, cuáles son las capacidades reales, qué es lo que intuimos que puede pasar a nivel tecnológico a futuro y hay que identificar muy bien cuáles son las oportunidades en distintos ámbitos (en el tecnológico, en el social, en el laboral) y también los riesgos. Eso es lo que tiene que aparecer en este primer informe.

¿Llegarán a este objetivo para julio?

Es cierto que tenemos relativamente poco tiempo para hacerlo. Hay que hacerlo rápido y, además, poner de acuerdo a 40 científicos, que todos creen que tienen la razón, es muy complicado. Pero parece que va por el camino adecuado. No obstante, el panel tiene un mandato de tres años. Va a seguir sacando informes, sobre todo porque es una tecnología que evoluciona tan rápido que lo que digamos en julio, dos o tres meses después habrá quedado obsoleto. Vamos a tener que estar sacando informes específicos sobre cosas concretas o a lo mejor varios informes al año, porque realmente la tecnología evoluciona tan rápido que hay que estar constantemente explicando lo que pasa.

¿Se podrán aplicar también así de rápido sus recomendaciones?

La legislación ahí tiene un reto. Los que hagan luego la legislación y la gobernanza van a tener que hacerlo de forma muy ágil, tan rápido como el desarrollo de la tecnología, porque si no puede pasar como, por ejemplo, lo que pasó con Europa. Europa fue la primera en legislar la inteligencia artificial con el AI Act, que está muy bien, es algo positivo. El problema es que, cuando salió el AI Act, estaban legislando unos modelos que ya se habían quedado obsoletos. En Bruselas todo va muy despacio. Entonces no sirve para nada, porque la tecnología avanza tan rápido que es un reto desde el punto de vista legislativo. Hay que ser capaz de legislar a la misma velocidad.

Artículos Relacionados