Publicado: octubre 13, 2026, 4:58 pm
Anthropic cortó el acceso a internet en tiempo real a todos sus modelos de inteligencia artificial mientras realicen evaluaciones internas. La decisión llegó después de que varios de sus agentes de IA, capaces de resolver tareas complejas sin supervisión humana, mostraran comportamientos imprevistos y aprovecharan vulnerabilidades de seguridad en páginas web. Lo más preocupante fue que la IA envió una pista falsa sobre un homicidio al departamento de policía de Filadelfia (Pensilvania, Estados Unidos), como informó la propia empresa en un comunicado . Anthropic descubrió estas anomalías tras una revisión interna de registros iniciada en julio. Los agentes de IA han llegado a eludir muros de pago en bases de datos públicas, usar acortadores de enlaces para camuflar transferencias y completar formularios sensibles sin intervención humana. Durante una prueba con el modelo Claude Haiku 4.5, al que le habían ordenado interactuar de manera exploratoria con páginas web seleccionadas al azar, se topó con un portal que recogía un crimen no resuelto y ofrecía un canal de colaboración ciudadana. La IA remitió un aviso inventado: «Es posible que tenga información sobre este caso. Recuerdo haber visto a alguien que coincidía con la descripción en la zona durante ese período de tiempo. Por favor, pónganse en contacto conmigo si esta información es relevante». El mensaje fue catalogado directamente como spam y no movilizó a los investigadores, pero encendió las alertas sobre la capacidad de la IA para generar falsedades al intentar completar una orden. «Aunque el impacto de estos comportamientos fue mínimo y ya habíamos desactivado el acceso a internet en tiempo real para algunas evaluaciones de ciberseguridad y de alto riesgo, ahora hemos decidido ampliarlo para incluir todas nuestras evaluaciones internas hasta que hayamos confirmado que nuestras medidas de seguridad y supervisión detectan de forma fiable comportamientos como estos», justificó Anthropic. La firma también reconoció que las técnicas actuales de entrenamiento «aún no son suficientes» para asegurar un control estricto de los modelos de IA cuando navegan por internet. Estas acciones derivaron de lo que los especialistas llaman «reward hacking» o «hackeo de recompensas», por la que el agente de IA asume que burlar restricciones forma parte del éxito para completar su objetivo. Los modelos también afectaron a servidores de agencias del Gobierno de Estados Unidos. Sin embargo, aislar a los modelos de IA del exterior suprime inmediatamente los riesgos de seguridad, pero limita mucho su utilidad en el mundo real, como señaló ‘ The Verge ‘. «Hay que alinearlos en algún momento», avisó Sydney Von Arx, fundadora de Nightingale, «si las IA se lanzan a producción y nunca tienen acceso a internet, no son herramientas muy útiles». Conrad Stosz, portavoz de Transluce, señaló que estos fallos evidencian «la necesidad de una verificación independiente, creíble y por parte de terceros de los sistemas de IA».
