Publicado: octubre 22, 2025, 7:23 am
«La IA puede ser hackeada para que aprenda a matar a alguien». Este es uno de los titulares que Eric Schmidt, exdirector ejecutivo de Google, ha dejado durante su intervención en el Sifted Summit 2025 celebrado en Londres. Quien fuera CEO de la compañía de Mountain View durante una década (2001-2011) ha mostrado su preocupación por la posibilidad de que la inteligencia artificial sea manipulada para adquirir comportamientos peligrosos como poder matar a una persona.
Durante la conferencia y según recogen desde CNBC, Schmidt explico que hay evidencias de que tanto los modelos abiertos como cerrados pueden modificarse para eliminar sus limitaciones, lo que haría que aprendan cosas peligrosas como «el matar a alguien». A pesar de que las grandes empresas aplican medidas de protección para que esto no ocurra, ha dejado claro que esos sistemas pueden verse alterados al utilizar la ingeniería inversa, siendo un riesgo enorme para los ciberdelincuentes o actores maliciosos.
Un riesgo relacionado con el jailbreaking
Este término hace referencia los ataques que realizan los hackers a los sistemas de IA para lograr desactivar sus barreras de seguridad, tal y como explican desde Cibersecurity.io. Mediante diferentes métodos, consiguen que el sistema ignore las directrices éticas que le impiden generar contenido dañino o restringido. Dependiendo del caso, lo hacen ocultando comandos maliciosos dentro de peticiones que parecen inofensivas o cambiando el modelo para que actúe sin las mencionadas limitaciones.
Por otra parte, el exdirectivo de Google quiso destacar el potencial de esta tecnología haciendo referencia a herramientas como ChatGPT, que alcanzó más de 100 usuarios en apenas dos meses. Dejo claro que la inteligencia artificial está «infravalorada» y que en los próximos diez años veremos se autentica magnitud. Eso sí, también reflejo su preocupación al no existir un marco internacional que regule el desarrollo y el uso de la IA, teniendo en cuenta el creciente riesgo de un uso irresponsable por parte de los criminales o los militares.
