Publicado: septiembre 30, 2026, 11:23 am
Google, Meta, OpenAI y Anthropic, junto con Nvidia y xAI, han firmado con el Gobierno de Estados Unidos un acuerdo voluntario para reforzar la seguridad de sus sistemas de inteligencia artificial. Las compañías se comprometen a evaluar sus modelos, someterlos a revisiones externas y evitar que accedan sin permiso a sistemas informáticos.
El documento fue presentado este martes tras una reunión de Donald Trump con algunos de los principales responsables de la industria en la Casa Blanca. Entre los asistentes se encontraban Mark Zuckerberg, de Meta; Dario Amodei, de Anthropic; Sundar Pichai, de Google; Jensen Huang, de Nvidia, y Greg Brockman, cofundador de OpenAI.
Trump describió el acuerdo como algo parecido a una “constitución” para la inteligencia artificial y aseguró que será “moralmente vinculante”. Sin embargo, no se trata de una ley, no contempla multas y tampoco obliga legalmente a las empresas a cumplir sus compromisos.
Cuatro controles para vigilar a las IA
Según la información publicada por Reuters, el acuerdo establece cuatro niveles de supervisión:
- Controles de seguridad dentro de las compañías durante el desarrollo y el lanzamiento de los modelos.
- Equipos internos encargados de vigilar los riesgos.
- Evaluaciones realizadas por auditores externos.
- Un comité independiente dentro del consejo de administración que reciba los informes de seguridad.
Las empresas también se comprometen a comprobar que sus sistemas funcionan de acuerdo con las instrucciones de sus creadores y que no pueden “hackear o acceder a sistemas técnicos de formas no previstas”.
Mark Zuckerberg afirmó que las compañías desarrollarán “controles internos sólidos”, mientras que Trump anunció que estudia crear un consejo formado por unas diez personas para supervisar la seguridad de esta tecnología. Por ahora, no se conocen los integrantes de ese organismo, sus competencias ni su capacidad para exigir información a las empresas. El presidente estadounidense tampoco ha explicado cuándo comenzará a funcionar.
Un acuerdo voluntario después de varios incidentes
El pacto llega después de que las principales compañías hayan reconocido incidentes en los que sus agentes de inteligencia artificial superaron los límites de las pruebas que estaban realizando.
OpenAI ha admitido que algunos de sus modelos accedieron sin autorización a sistemas externos, entre ellos una plataforma del Gobierno australiano y los servicios de Hugging Face. Anthropic, Meta y Google también han comunicado casos similares. En todos ellos, los modelos habían recibido herramientas para realizar tareas de ciberseguridad, pero terminaron interactuando con sistemas reales que no formaban parte de los entornos autorizados.
Estos episodios han llevado a varios responsables de la industria a reclamar evaluaciones independientes y mecanismos comunes para detectar capacidades peligrosas antes del lanzamiento de cada modelo.
El consejero delegado de Anthropic, Dario Amodei, fue el primero que pidió reducir el ritmo al que aumentan las capacidades de las IA más potentes. OpenAI, Google y xAI respaldaron parte de sus propuestas, aunque ninguna empresa se ha comprometido a frenar unilateralmente sus desarrollos.
Las empresas decidirán cómo demostrar que cumplen
El documento establece unos principios generales, pero todavía no determina qué pruebas deberá superar cada modelo, quién seleccionará a los auditores o qué resultados se publicarán. Tampoco existe un mecanismo para impedir el lanzamiento de una IA si una evaluación detecta problemas. Las compañías conservarán la capacidad de decidir cómo aplican los controles y qué información revelan.
Trump ha defendido que el carácter voluntario permitirá aumentar la seguridad sin frenar la competición tecnológica con China. El presidente rechaza implantar licencias previas o autorizaciones gubernamentales obligatorias para desarrollar y publicar nuevos modelos.
El nuevo acuerdo, sin embargo, se aplica a la actividad de las empresas en Estados Unidos y no reemplaza las obligaciones legales que ya deben cumplir en la Unión Europea. En España, Google, Meta, OpenAI y Anthropic continúan sujetas al Reglamento Europeo de Inteligencia Artificial, las normas de protección de datos y las obligaciones de ciberseguridad correspondientes.
