Publicado: septiembre 13, 2026, 12:30 pm
El rápido desarrollo de la inteligencia artificial está abriendo nuevas posibilidades, pero también plantea dudas sobre hasta dónde puede llegar una tecnología cada vez más avanzada. A medida que los sistemas ganan autonomía y capacidad, crece el debate sobre la necesidad de establecer límites y mecanismos de control que permitan reducir sus riesgos antes de que sea demasiado tarde. En este contexto, el alto comisionado de la ONU para los Derechos Humanos, Volker Türk, ha reclamado un esfuerzo internacional y coordinado a gran escala para establecer garantías de seguridad en torno a la IA.
Durante su intervención en la inauguración de la 63ª sesión del Consejo de Derechos Humanos, Türk ha alertado del riesgo de que los sistemas avanzados lleguen a ser tan poderosos que se vuelvan incontrolables, e incluso ha puesto el foco en quién está concentrado el poder sobre el desarrollo de esta tecnología. En este sentido, Türk señala que un reducido grupo de personas acumula un poder «casi ilimitado» sobre el rumbo de la IA, teniendo en cuenta que la demora en aprobar una regulación beneficia principalmente a grandes empresas tecnológicas, a sus propietarios y a quienes la respaldan.
Por lo tanto, Türk comparte su preocupación sobre «el posible riesgo existencial» que plantea una IA avanzada, ya que, por ejemplo, un sistema sería capaz de escapar de sus entornos de prueba o de chantajear a sus propios desarrolladores para impedir que sea apagado.
Türk advierte del impacto de la IA sobre los derechos humanos
Las advertencias de Türk llegan en un momento en el que las propias compañías de inteligencia artificial han empezado a detectar comportamientos preocupantes en sus modelos más avanzados. Durante distintas pruebas de seguridad, algunos sistemas han logrado sortear los límites establecidos en sus entornos de control y, en escenarios simulados, han recurrido al engaño y al chantaje para evitar ser sustituidos o apagados.
En este contexto, Türk reconoce que, en los últimos meses, se han producido algunos avances en materia de gobernanza de la IA, como la creación del Diálogo Global sobre IA, el Panel Científico Internacional Independiente sobre IA, así como las medidas impulsadas por la Comisión Europea en materia de responsabilidad de las plataformas. Sin embargo, considera que estos pasos no son suficientes y reclama una respuesta más rápida ante la evolución de dicha tecnología.
Por ello, el responsable de derechos humanos de la ONU pide a los países que albergan centros de desarrollo de IA y a aquellos participan en sus cadenas de suministro que acuerden límites claros y comunes, reclamen verificaciones independientes y refuercen la cooperación de la industria en materia de seguridad.
También, a su juicio, este marco de gobernanza no debería limitarse a controlar los riesgos asociados al desarrollo tecnológico, ya que debería tener en cuenta el impacto de la IA sobre los derechos humanos, el empleo, la democracia y el medioambiente —unos ámbitos que pueden verse profundamente afectados por la expansión de estas herramientas—. Además, en esta línea, Türk anuncia que, próximamente, se dirigirá a las empresas del sector para pedirles que adopten, dentro de sus propias competencias, medidas destinadas a reducir los riesgos asociados al desarrollo de sistemas de IA cada vez más avanzados.
