Publicado: septiembre 25, 2026, 1:23 am
Las advertencias de las grandes empresas de inteligencia artificial han llegado al Consejo de Seguridad de Naciones Unidas. Los máximos responsables de OpenAI y Anthropic, Sam Altman y Dario Amodei, han pedido este miércoles 23 de septiembre que los gobiernos colaboren para afrontar los riesgos de una tecnología cada vez más potente.
“Ningún líder, ninguna empresa y ninguna nación puede gestionar esto por sí sola”, afirmó Amodei durante su intervención. El responsable de Anthropic defendió que los países dejen a un lado sus diferencias para abordar tanto las oportunidades como las amenazas de la IA.
La reunión, convocada por Francia durante la semana de la Asamblea General en Nueva York, trasladó a la diplomacia internacional un debate que se ha intensificado en las últimas semanas: cómo mantener el control humano sobre sistemas capaces de realizar tareas cada vez más complejas y autónomas.
Amodei: «Ralentizaremos tanto como sea necesario»
Amodei, que intervino por videoconferencia, distinguió dos grandes peligros: que alguien utilice los modelos para causar daños, por ejemplo mediante armas biológicas, y que sus capacidades crezcan hasta superar la capacidad de sus desarrolladores para controlarlos. Si se gestiona mal, advirtió, la IA podría convertirse en «un riesgo para la humanidad en su conjunto«.
El responsable de Anthropic defendió que la seguridad debe condicionar la salida de nuevos productos. «Ralentizaremos tanto como sea necesario», aseguró, al explicar su compromiso de comprobar que las sucesivas tecnologías que publique la compañía sean seguras. Pero también insistió en que las decisiones de un solo laboratorio resultan insuficientes ante un problema que afecta a toda la industria.
Su propuesta para avanzar empieza por acuerdos concretos. Entre ellos, una prohibición del uso de la IA para desarrollar armas biológicas, mecanismos de evaluación y verificación que permitan comprobar los compromisos de los países y estándares comunes para probar los modelos. También planteó un sistema de notificación de incidentes graves.
Amodei relacionó esa urgencia con la velocidad del progreso. Según su previsión, si se mantiene la trayectoria actual, en uno o dos años —o incluso antes— podrían existir sistemas con capacidades equiparables a las de una gran concentración de expertos.
Altman: «Hemos ralentizado unilateralmente en el pasado»
Altman también defendió que la competencia comercial no justifica asumir riesgos que no puedan controlarse. «Hemos ralentizado unilateralmente en el pasado. Lo haremos en el futuro«, afirmó el director ejecutivo de OpenAI.
En su intervención identificó dos escenarios que considera necesario evitar: perder el control humano sobre los sistemas y concentrar demasiado poder en unas pocas personas, empresas o países. Su preocupación aumenta ante modelos capaces de contribuir a mejorar sus propias versiones futuras, porque ese proceso podría acelerar el desarrollo y dificultar la supervisión.
«Este momento exige extremo cuidado», señaló. Su propuesta incluye estándares compartidos para medir capacidades y riesgos, comprobar las protecciones de los modelos y conservar una supervisión humana efectiva.
También reclamó avisos rápidos y precisos sobre incidentes y canales seguros para compartir vulnerabilidades entre gobiernos, expertos y responsables de infraestructuras críticas. Defendió que las decisiones fundamentales deben pasar por instituciones democráticas y que cada gobierno determine cómo incorporar los estándares a su legislación.
Altman situó su posición entre el «optimismo ciego» y el «catastrofismo»: reconocer las posibilidades científicas y económicas de la IA sin dar por hecho que sus riesgos se resolverán solos.
La Casa Blanca rechaza un regulador mundial
La Administración de Donald Trump expresó una posición distinta sobre cómo ejercer ese control. El presidente había afirmado el martes ante la Asamblea General que Estados Unidos «rechaza totalmente cualquier intento de construir un esquema globalista para controlar la inteligencia artificial«.
Al día siguiente, Michael Kratsios, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca, defendió ante el Consejo de Seguridad que el avance de los modelos no justifica detener su desarrollo ni crear nuevas estructuras de gobernanza mundial.
«Un futuro próspero no quedará garantizado por un regulador global», sostuvo. Washington propone que los países refuercen su capacidad para comprender y utilizar la tecnología y ofrece colaboración con empresas estadounidenses para desarrollar infraestructura y capacidades propias.
