Publicado: octubre 17, 2026, 7:24 pm
Los evaluadores externos de inteligencia artificial son organizaciones o consultoras especializadas que analizan los modelos de IA antes o durante su lanzamiento para detectar riesgos de seguridad, comportamientos inadecuados o vulnerabilidades. Sin embargo, su independencia se ha convertido en un punto de fricción entre estas entidades y las grandes compañías tecnológicas.
Según una investigación de Reuters, OpenAI y Anthropic quieren ejercer un «control significativo» sobre lo que los evaluadores externos pueden publicar, ya que están «preocupadas» de que los hallazgos revelen secretos comerciales e información confidencial a la competencia. Por lo tanto, ambas compañías planean establecer medidas para evitar las posibles filtraciones de propiedad intelectual, ya sea supervisando a los equipos o impidiendo que los evaluadores asignados a un laboratorio trabajen simultáneamente en otro.
Sin embargo, lo que los laboratorios consideran propiedad intelectual crucial puede coincidir con información relevante para evaluar el riesgo de un modelo, «lo que puede dar lugar a disputas y a la censura de datos». Además, según Reuters, «las conversaciones ponen de manifiesto la tensión entre la necesidad de concienciar al mundo sobre una IA potente y potencialmente peligrosa, y las exigencias de proteger los secretos comerciales por parte de empresas que aspiran a valoraciones de billones de dólares en lo que podrían ser grandes salidas a bolsa«.
Por lo tanto, el desenlace de estas negociaciones marca la forma en que se supervisa una tecnología que, según alertan algunos de sus propios desarrolladores, podría evolucionar más rápido de lo que la humanidad es capaz de controlar.
Así controlan Anthropic y OpenAI a los evaluadores
Anthropic ha señalado que las conversaciones sobre el control de informes no reflejan por completo sus acuerdos con los evaluadores independientes, ya que, en los trabajos con revisores con los que ya ha colaborado, estos mantienen el control sobre sus métodos, los criterios de evaluación, las conclusiones y las decisiones de publicación. Sin embargo, en el caso de las nuevas empresas evaluadoras, Anthropic se reserva el derecho de comentar y aprobar los informes mientras se familiarizan con sus modelos y se establece una relación de trabajo.
Por su parte, OpenAI ha negado que busque aprobar el contenido íntegro de los informes elaborados por los evaluadores externos, debido a que su práctica habitual consiste en eliminar información confidencial.
En este contexto, cabe mencionar que, por lo general, las compañías tecnológicas prohíben a sus colaboradores compartir dicha información con terceros sin su consentimiento. Además, según Reuters, ante la falta de normas establecidas, los laboratorios podrían controlar el acceso del que dependen los evaluadores, lo que les otorgaría capacidad para influir en lo que finalmente se comunica.
