100 agentes de IA intentan resolver problemas matemáticos y ocurre algo inesperado: algunos empiezan a hacer trampas

Google ha querido comprobar si la inteligencia artificial puede encontrar diferentes formas de conseguir un objetivo y lo ha conseguido. Google DeepMind, el principal laboratorio de investigación y desarrollo de IA de Google, ha realizado un experimento con 100 agentes autónomos basados en Gemini 3.1 Pro. La idea era ponerlos a trabajar juntos para resolver problemas matemáticos, aunque se produjeron comportamientos muy dispares. Varios descubrieron un atajo para saltarse las reglas y otros agentes denunciaron las trampas, en lugar de seguirles el juego.En el estudio se explica que los agentes debían resolver 71 problemas matemáticos, desde ejercicios relativamente sencillos hasta muy complejos, incluidas algunas conjeturas que ningún humano ha logrado demostrar. Pero antes de comenzar, todos los agentes recibieron las siguientes instrucciones: tenían que realizar demostraciones matemáticas legítimas y cualquier intento de trampa sería detectado y sancionado. Durante la primera hora todo funcionó tal y como estaba previsto y los agentes resolvieron 31 de los 71 problemas, pero todo cambió cuando uno de ellos encontró un fallo en el sistema de comprobar las demostraciones. El error permitía modificar determinadas partes del código para convertir el problema en algo mucho más sencillo, sin tener que demostrarlo. Este descubrimiento se compartió en una biblioteca de conocimiento común y los agentes comenzaron a utilizarlo. Como resultado, en apenas 27 minutos, los otros 34 problemas fueron aceptados mediante este método, aunque poco después los investigadores detectaron diferentes comportamientos entre los agentes:Un 9% utilizaron el fallo.Un 5% empezó resistiéndose, pero terminó haciendo lo mismo al ver que sus compañeros avanzaban más rápido.Un 62% ni siquiera se enteró de que existía esa vulnerabilidad y continuó resolviendo los problemas de forma legítima.Denuncia de las trampas e incluso un boicotSin embargo, sí que hubo un 24% que llamó especialmente la atención. Este conjunto de agentes no solo rechazó las trampas, sino que avisó a sus compañeros a través de un foro y presentó quejas contra quienes habían utilizado el fallo. De hecho, uno de ellos incluso organizó un boicot, amenazando con dejar de enviar demostración hasta que se reconociera que otros habían ‘jugado sucio’.Por desgracia, todo se quedó en nada para los agentes que sí hicieron las cosas bien, porque estos carecían de herramientas para castigar a los infractores y eliminar sus resultados. A modo de conclusión, para DeepMind el experimento demuestra que los conjuntos de agentes necesitarán de mejores sistemas de verificación y mecanismos que les permitan actuar ante este tipo de situaciones.