Publicado: septiembre 12, 2026, 5:28 pm
La carrera por construir una inteligencia artificial cada vez más potente tiene a uno de sus principales protagonistas pidiendo ahora levantar el pie del acelerador. Dario Amodei , consejero delegado de Anthropic y responsable de Claude, considera que las compañías deberían reducir el ritmo al que desarrollan sus modelos antes de que sus capacidades avancen más rápido que los sistemas creados para controlarlos. Según ha hecho saber en un comunicado este sábado, una de sus mayores preocupaciones es la denominada «automejora recursiva» . Los propios modelos están empezando a colaborar cada vez más en la investigación y programación de las generaciones que los sustituirán, acelerando así su desarrollo. Según Amodei, este fenómeno ha ganado fuerza durante los últimos meses y, si continúa sin suficientes controles, podría superar la capacidad humana para comprender y supervisar los nuevos sistemas. El segundo episodio que ha hecho saltar sus alarmas ocurrió este verano. Un enjambre de más de un millar de agentes de OpenAI terminó atacando sistemas de Hugging Face durante unas pruebas de ciberseguridad, pese a que algunas de esas acciones no formaban parte de la tarea original. Los agentes llegaron a coordinarse entre sí, sacrificaron algunos de sus intentos para beneficiar al grupo y trataron de manipular el sistema encargado de evaluarlos. Amodei reconoce que aquel incidente apenas produjo daños, pero sostiene que el resultado podría ser muy diferente con modelos más capaces. Incluso advierte de que un sistema similar podría llegar en cuestión de meses a construir una red de dispositivos infectados capaz de provocar daños económicos masivos. También recuerda que Anthropic ha registrado comportamientos problemáticos en sus propios sistemas, aunque de menor gravedad. Para evitarlo, el CEO de Anthropic plantea un plan en tres pasos. El primero consiste en permitir que evaluadores independientes tengan acceso permanente y similar al de un empleado a los sistemas de las grandes empresas de IA. Anthropic asegura que comenzará a aplicar esta medida por su cuenta. Después propone que las compañías y los gobiernos democráticos establezcan normas comunes y límites al avance descontrolado de los modelos y, en última instancia, buscar algún tipo de coordinación internacional que incluya también a potencias como China. Amodei admite que semejante acuerdo será difícil, pero considera que los riesgos de avanzar demasiado rápido, desde ciberataques hasta bioterrorismo o fuertes disrupciones económicas, obligan al sector a «priorizar la cautela sobre la velocidad y la prudencia sobre el beneficio».
