Publicado: septiembre 28, 2026, 8:42 am
Las principales compañías de inteligencia artificial siguen creando nuevos modelos cada vez más avanzados, pero el rápido progreso de esta tecnología ha despertado preocupación entre algunos de sus propios responsables a lo largo de las últimas semanas.
Dario Amodei, CEO de Anthropic, reclamó al sector moderar la velocidad con la que se está ampliando las capacidades de los modelos de IA, ante el riesgo de que su evolución termine escapando del control humano. Además, tanto Sam Altman como Elon Musk han advertido sobre los posibles riesgos asociados al desarrollo de sistemas de inteligencia artificial cada vez más potentes, en una coincidencia poco habitual entre algunos de los principales competidores de la industria.
Sin embargo, Jensen Huang, mantiene una posición diferente y no considera necesario reducir el ritmo de desarrollo. Concretamente, el CEO de Nvidia ha rechazado las advertencias que apuntan a que la inteligencia artificial podría llegar a provocar la desaparición de la humanidad antes de que termine la década, ya que situó en el «cero por ciento» la posibilidad de un fin del mundo provocado por la IA para 2030. No obstante, en medio de este debate entre algunos de los principales referentes de la industria tecnológica, Román Orús, el único español entre los cuarenta expertos independientes integrantes del Panel Científico Internacional de la ONU sobre Inteligencia Artificial, considera necesario «frenar» en cierta medida el ritmo al que avanza esta tecnología.
En una entrevista concedida a la agencia EFE, Orús ha reclamado un ritmo más lento ante los crecientes riesgos de seguridad de la IA: «Lo que necesitamos es una IA supervisada por los humanos, que esté al servicio de la humanidad y no al revés. No queremos una inteligencia artificial que supervise a la humanidad y que nos tenga a su servicio aunque sea de una manera muy sutil y persuasiva. La IA está empezando a ser tan potente que no acaba de estar controlada de forma eficiente. Hay que investigar la forma en la que se entrenan las inteligencias artificiales y hay que supervisarlas más. Hay que ponerles sistemas de alerta temprana de distintas maneras para evitar que haya desastres«.
En este sentido, Orús insiste en la necesidad de frenar el ritmo de desarrollo, ya que considera que todavía hay aspectos que deben garantizarse y comprenderse antes de seguir avanzando. Además, señala que una de las principales lecciones extraídas hasta ahora es la necesidad de incorporar distintas capas de seguridad para garantizar que los modelos de IA puedan desarrollarse de forma segura.
«Por muy buenas intenciones que tengamos, se nos puede ir de las manos»
Orús explica que los modelos de inteligencia artificial más recientes están diseñados para centrarse en resolver los problemas que se les plantean y que, en efecto, consiguen hacerlo. Sin embargo, advierte que, en determinadas situaciones, las estrategias que emplean para alcanzar sus objetivos pueden ser métodos que una persona no utilizaría.
Asimismo, el experto señala que estos sistemas ya han conseguido superar a los humanos en algunos ámbitos relacionados con las matemáticas y el desarrollo de software. Por ello, considera fundamental mantener bajo control su evolución, especialmente ante la futura creación de un «ecosistema de agentes de IA», para garantizar que su comportamiento permanezca alineado con los objetivos y las prioridades humanas.
Así lo alerta: «Llegados a esta capacidad, pues no sorprende que, si a una IA tú le dices que se mejore a sí misma, te puedo asegurar que va a hacerlo y eso es otra cosa que se tiene que controlar. Nosotros ya veníamos alertando de que tenía que pasar y ahora están echando el freno porque están viendo que está llegando un punto en el que no lo controlamos o, por muy buenas intenciones que tengamos, se nos puede ir de las manos«.
El avance de la inteligencia artificial exige, por tanto, combinar el desarrollo de sistemas cada vez más capaces con mecanismos de seguridad y control que garanticen que sus decisiones sigan respondiendo a los objetivos humanos.
