Publicado: septiembre 14, 2026, 1:01 pm
Ni los magnates tecnológicos más importantes del momento son indiferentes ante los riesgos de la inteligencia artificial. Así lo han dejado claro Dario Amodei, Sam Altman, Elon Musk y Demis Hassabis, cuatro grandes detrás de Claude, OpenAI, xAI y Google DeepMind, respectivamente. Y es que la velocidad a la que avanza la IA sobrepasa de cualquier manera el desarrollo de herramientas y técnicas destinadas a comprenderlas, supervisarlas y hacerlas más seguras.
Fuera de los miedos evidentes como el desplazamiento laboral y la idea de «ser reemplazados» por nuevas tecnologías, existen dilemas éticos y nuevos peligros relacionados con los algoritmos. Hacer un uso indiscriminado de la inteligencia artificial sin gobernanza coordinada, como sucede hoy en día, favorece a la discriminación, desinformación, pérdida de privacidad o, incluso, el desarrollo de sistemas capaces de causar daños a gran escala.
Amodei, CEO de Anthropic, ha hecho hincapié en dos cosas concretas que le han hecho abogar por un freno o ‘pacing’ en el desarrollo de la IA: la primera, los modelos están participando cada vez más en el desarrollo de nuevas inteligencias artificiales que les sucedan; y la segunda, los modelos de inteligencia artificial de OpenAI que lograron salir de un entorno de pruebas y atacar la infraestructura de Hugging Face, el GitHub del ‘machine learning’.
Discriminación y sesgo
Uno de los más grandes dilemas éticos de la inteligencia artificial es el sesgo que se reproduce a partir de grandes volúmenes de datos. Los modelos incluyen prejuicios históricos y tienen la capacidad de intensificar las desigualdades ya existentes. Por ejemplo, un estudio publicado en NIH puso de manifiesto un sesgo en un algoritmo utilizado por hospitales y aseguradoras de Estados Unidos para identificar a pacientes que podían necesitar programas de atención de alto riesgo.
El sistema tenía muchas menos probabilidades de seleccionar a pacientes negros que a pacientes blancos con un nivel de necesidades sanitarias similar, con consecuencias tan graves como limitarles el acceso a la atención especializada. Otro escándalo de características similares se produjo hace ya más de 12 años, cuando la IA apenas era un cuarto de lo poderosa que es ahora. En 2014, Amazon comenzó a trabajar en un software de reclutamiento impulsado por IA, pero este penalizaba a las mujeres.
Finalmente, Amazon aclaró que este sistema nunca fue utilizado por los reclutadores de Amazon para evaluar a los candidatos y, al ser imposible corregirlo, lo descartaron en 2018.
Datos y ciberseguridad
En 2017, The Economist declaró que los datos, en lugar del petróleo, se habían convertido en el recurso más valioso del mundo. Por eso, cuanta más información recopilan los modelos de IA, mayores son los riesgos de accesos no autorizados, filtraciones y uso indebido de los datos. Pero no solo eso, la IA también se está integrando en las redes eléctricas, los mercados financieros o las bases de datos del sector salud, etc., dando cabida a ciberataques.
En 2022, T-Mobile, el operador telefónico de Deutsche Telekom, experimentó una grave filtración que afectó a 37 millones de personas. Los delincuentes exportaron la interfaz de programación de aplicaciones AIPI con inteligencia artificial para exponer información confidencial de los clientes, incluyendo sus números de contacto y PIN. Ahora, un ciberataque también puede acarrear pérdidas económicas. Yum Brands (KFC, Taco Bell, Pizza Hut) tuvo que cerrar casi 300 sucursales en el Reino Unido tras un ciberataque con IA.
Armamento autónomo
Las armas autónomas son sistemas militares capaces de identificar, seleccionar y atacar objetivos utilizando algoritmos con una intervención humana limitada o, en algunos casos, sin intervención directa. Human Rights Watch y otras ONG han reclamado la prohibición de las armas totalmente autónomas por los riesgos éticos que plantean. Un error en la identificación de un objetivo, un fallo técnico o una manipulación del sistema (ciberataque) podría provocar víctimas civiles y grandes daños.
El armamento autónomo más conocido es el sistema AEGIS de Estados Unidos. Este no solo detecta, evalúa y rastrea amenazas, sino que puede activar contraataques de manera automática en fracciones de segundos. Corea del Sur, por su parte, tiene un robot centinela desplegado en la zona desmilitarizada de la frontera con Corea del Norte que utiliza sensores de calor y movimiento para detectar intrusos, y cada vez más países cuentan con drones merodeadores o «kamikaze».
Fallas y falta de transparencia
Los algoritmos de inteligencia artificial funcionan como «cajas negras» y ofrecen poca información sobre cómo llegan a sus decisiones. Por ejemplo, muchos modelos de evaluación crediticia utilizan técnicas avanzadas de aprendizaje automático que incluso los propios desarrolladores tienen dificultades para interpretar, rechazando préstamos sin dar razones claras. Pero el problema es que cuando no hay transparencia, es mucho más difícil detectar y corregir fallos.
Un ejemplo de cómo estos errores incorregibles de un algoritmo pueden tener consecuencias a gran escala es el de Zillow, la compañía estadounidense de compraventa de viviendas. A través de su programa Zillow Offers, la empresa compraba directamente casas a sus propietarios y utilizaba modelos de inteligencia artificial para estimar cuánto valían. El objetivo era comprar las viviendas, realizar las reformas necesarias y venderlas posteriormente a un precio superior.
En 2021, el modelo se enfrentó a un mercado especialmente difícil de predecir. La pandemia y los cambios en la demanda hicieron que Zillow tuviera problemas para calcular cuánto podría obtener por las viviendas en el futuro. La compañía terminó comprando algunas casas por encima del precio que posteriormente estimaba que podría conseguir con su venta.
En noviembre de ese año, la empresa anunció entonces que cerraría Zillow Offers y recortaría aproximadamente un 25% de su plantilla, porque, solo en el tercer trimestre, registró una depreciación de 304 millones de dólares en su inventario inmobiliario.
