Hace diez años, cuando la revolución de la IA empezaba a cobrar impulso, a los estudiantes de artes y humanidades se les decía que, si querían aumentar sus posibilidades de encontrar trabajo, debían «aprender a programar». Quizá aquel fuera un mal consejo, pues hoy son … los programadores quienes temen que la IA les arrebate el empleo.
Por tanto, lo que tal vez deberían plantearse es aprender filosofía. A principios de este año, el Banco de la Reserva Federal de Nueva York publicó unas cifras que mostraban que los licenciados estadounidenses en filosofía tienen más probabilidades de encontrar trabajo que quienes estudiaron informática. En 2024, el año más reciente del que se dispone de datos, el siete por ciento de los titulados en informática estaba en paro, frente a solo el 5,1 % de los filósofos.
Muchos de ellos están siendo contratados directamente por las propias empresas de IA. Según afirma Luciano Floridi, filósofo de la Universidad de Yale, los estudiantes reciben ofertas de trabajo incluso antes de graduarse. Los académicos también están dando el salto y el Dr. Floridi describe la magnitud de las salidas de los departamentos de filosofía como una «hemorragia».
Newsletter
Algunas de las lecciones que la filosofía puede aportar a los investigadores en IA tienen siglos de antigüedad. El método socrático —tal como lo describió Platón, filósofo de la Antigua Grecia— recurre a la ignorancia fingida y al interrogatorio secuencial para aclarar significados, detectar contradicciones y sacar a la luz sus ramificaciones. Muchos sistemas actuales de IA tienden a la adulación, pero los modelos entrenados en el método socrático, afirma Jörg Noller, experto en filosofía e IA de la Universidad Ludwig Maximilian de Múnich, están menos interesados en complacer a las personas y más dispuestos a buscar la verdad.
Luego está la idea de la «ignorancia socrática». En la «Apología», Platón hace que Sócrates afirme que su sabiduría consiste, sobre todo, en ser consciente de cuánto desconoce. Incorporar esa humildad a un modelo puede ayudar a limitar el exceso de confianza, un defecto habitual que el Dr. Noller describe como «inmadurez de la IA». Iason Gabriel, filósofo sénior de Google DeepMind, un laboratorio de IA con sede en Londres, atribuye a esta manera de proceder la reducción de las alucinaciones observada en todo el sector. Más en general, sostiene que las enseñanzas de la filosofía constituyen «un potente mecanismo» para mejorar los prolongados procesos de razonamiento de la IA, conocidos como «cadenas de pensamiento».
La formación filosófica también puede influir en la perspectiva de un modelo de formas más concretas. Si se alimenta a un asistente jurídico de IA con los escritos de John Locke, explica Thomas Powers, filósofo de la tecnología de la Universidad de Delaware, este tenderá a decantarse por unos derechos de propiedad sólidos como fundamento de la libertad política. Si esos principios no convencen, los desarrolladores tienen otros. La serie de modelos «Granite» de IBM, el gigante tecnológico estadounidense, incorpora controles que permiten a los clientes empresariales adaptar mejor los resultados a sus propias filosofías corporativas. Francesca Rossi, directora de IA responsable de IBM, afirma que estos controles permiten decidir dónde situar el equilibrio entre dilemas filosóficos, como la autonomía individual frente a la armonía social.
Módelos éticos
La filosofía también puede contribuir a mejorar la seguridad. Los investigadores han documentado toda clase de comportamientos inquietantes en los modelos de IA, incluidos intentos de eludir la supervisión e incluso de chantajear a sus usuarios. Una de las estrategias que emplean los desarrolladores para desalentar estas conductas se conoce como «constitucionalismo de la IA»: consiste en construir un modelo sobre un andamiaje de reglas y principios extraídos de textos filosóficos con autoridad jurídica o moral.
Anthropic, un laboratorio de IA con sede en San Francisco, es uno de los principales defensores de este enfoque. Las constituciones de sus modelos Claude incorporan materiales procedentes de fuentes tan diversas como Immanuel Kant, las condiciones de servicio de Apple y la Declaración Universal de los Derechos Humanos. La versión más reciente, dirigida por Amanda Askell, filósofa principal de Anthropic, se publicó el 21 de enero. Algunos empleados de la compañía han apodado a esta constitución, de 78 páginas, el «documento del alma» de Claude.
Sin embargo, la gran cuestión es qué tipo de reglas deberían incorporarse a esas constituciones. Los filósofos se han centrado principalmente en dos marcos éticos. Uno de ellos es la deontología. Popularizada, entre otros, por Kant, esta corriente establece normas estrictas que prohíben conductas como mentir, coaccionar y tratar a las personas como un medio en lugar de como un fin, incluso cuando ello persigue un bien mayor. La constitución de Anthropic incorpora numerosas restricciones deontológicas que, según el Dr. Powers, pueden hacer más coherente el comportamiento de la IA, toda una ventaja a la hora de desplegar robots en hogares y espacios públicos.
Los modelos con una visión deontológica del mundo ofrecen otras ventajas. Una de ellas es una mayor honestidad, una cualidad ampliamente reconocida en Claude. Según Nick Bostrom, filósofo de la Universidad de Oxford, los modelos más sinceros tienen menos probabilidades de inducir a error a sus usuarios. Inflection AI, otro laboratorio de Silicon Valley, impone restricciones deontológicas a su chatbot Pi, diseñado para ofrecer apoyo emocional. Sean White, su director, afirma que Pi es eficaz a la hora de detectar usuarios en riesgo de hacerse daño a sí mismos o de hacérselo a otras personas. Las constituciones deontológicas también facilitan el cumplimiento normativo, señala el Dr. Floridi.
¿Cómo deben tomarse decisiones cuando las consecuencias son inciertas?
El otro gran enfoque ético que interesa a los filósofos de la IA es el consecuencialismo, corriente que sopesa los costes y los beneficios para decidir cómo actuar. Entre los modelos más próximos a este enfoque, se encuentran ChatGPT, de OpenAI, y Gemini, de Google. Los modelos de IA de Google están diseñados para generar «beneficios generales probables [que] superen sustancialmente los riesgos previsibles», un objetivo consecuencialista clásico.
Los algoritmos consecuencialistas también son fundamentales en el software de los vehículos autónomos: si un accidente es inevitable, el sistema debe decidir cuál es la forma menos trágica de producirse. Chris Gerdes, ingeniero sénior de Waymo, empresa especializada en vehículos autónomos, afirma que la tendencia es hacer que el software de conducción adopte un enfoque cada vez más consecuencialista. El consecuencialismo también desempeña un papel esencial en los sistemas de armas basados en IA. Los objetivos militares deben ponderarse frente al riesgo de causar víctimas civiles, explica Jack Shanahan, antiguo director del Centro Conjunto de Inteligencia Artificial, encargado de estudiar la IA para las fuerzas armadas estadounidenses.
Los problemas espinosos —precisamente los favoritos de los filósofos— abundan. ¿Existen situaciones en las que deban ignorarse las reglas deontológicas? ¿Cómo deben tomarse decisiones cuando las consecuencias son inciertas? ¿Deberían los sistemas de IA tener en cuenta el bienestar animal o el estado del medio ambiente? ¿Sería moralmente aceptable —plantea Stefan Heck, filósofo y director de Nauto, empresa que desarrolla sistemas de seguridad basados en IA para camiones y otros vehículos comerciales— dar prioridad a los peatones jóvenes frente a los mayores? Heck prevé demandas judiciales cargadas de cuestiones éticas, ya que los algoritmos consecuencialistas permiten expresamente causar un daño siempre que con ello se evite otro mayor.
A los críticos les preocupa la llamada «descalificación moral»: si los ordenadores asumen cada vez más decisiones éticas, ¿podría ocurrir que las personas perdieran la disposición a formular sus propios juicios? Roman Yampolskiy, teórico de la IA de la Universidad de Louisville, sostiene que la moralidad «es históricamente inestable, culturalmente variable, estratégicamente manipulable y, a menudo, solo legible en retrospectiva». Programadores en paro, tomen nota: todo indica que no faltará trabajo para los filósofos especializados en IA.
