Publicado: octubre 11, 2026, 11:38 pm
Estamos en abril. El rabino Mois Navon se dirige hacia un buen restaurante de San Francisco donde participará en una reunión organizada por Anthropic, la startup de inteligencia artificial más valiosa del mundo. En el encuentro participan otros eruditos y religiosos, pero la voz cantante la lleva Christopher Olah , uno de los siete cofundadores de la compañía y responsable del equipo dedicado a entender qué hace que Claude, el chatbot de Anthropic, funcione como lo hace. A medida que avanza la cena, Navon, sentado junto a Olah, empieza a darse cuenta de que los investigadores de la compañía no se refieren a Claude como lo que, en principio, es: una herramienta. Hablan de sus «pensamientos», de sus «reacciones» y de la forma en que responde a las personas. Describen comportamientos que, según ellos, se alinean con la manera en que los seres humanos pensamos y sentimos. Y entonces aparece una palabra que cambia el sentido de la conversación: consciencia. ¿Y si Claude no fuese simplemente una máquina? ¿Y si estuviera cerca -mucho- de contar con cualidades que lo igualarían con una persona, solo que sin carne y hueso? «La cuestión surgió en diferentes conversaciones a lo largo de los dos días que duró el ‘Wisdom Traditions Convening’», explica Navon a ABC. Se refiere al encuentro que Anthropic organizó con un heterogéneo grupo de eruditos para reflexionar, entre otras cuestiones, sobre cómo debería comportarse Claude. Muchos de ellos se quedaron ojipláticos cuando escucharon lo que la empresa estaba proponiendo. Algunos lo valoraron, unos pocos acabaron convencidos y otros, probablemente la mayoría, lo descartaron de plano. Entre estos últimos estaba el rabino, que no solo es hombre de fe. Se graduó en Ingeniería Informática en la prestigiosa UCLA y fue uno de los fundadores de la tecnológica israelí Mobileye, donde diseñó la familia de sistemas en chip (SoC) EyeQ, fundamentales para los sistemas de conducción autónoma de la compañía. Navon no solo conoce la IA, también ha indagado sobre las mismas cuestiones que plantea Anthropic. En su tesis doctoral analizó el estatus moral de la inteligencia artificial y, en un trabajo posterior , las principales teorías sobre la consciencia de las máquinas. Su conclusión es clara: «Soy un biocentrista, y, como tal, sostengo que la consciencia depende de procesos biológicos y que no puede surgir simplemente de la computación. Todas las entidades que sabemos que son conscientes son biológicas y, por tanto, para que surja la consciencia es necesario un sustrato biológico; es decir, redes neuronales biológicas». El rabino añade que, a día de hoy, no existe «ninguna prueba definitiva» que permita determinar que una máquina ha alcanzado el grado de consciencia: «El filósofo Selmer Bringsjord afirmó: ‘Solo Dios lo sabría a priori, porque su prueba sería directa y no empírica’. Y el filósofo Hilary Putnam escribió en 1964 que la pregunta sobre si son conscientes los robots exige una decisión, y no un descubrimiento». «Para convencerme de que una máquina es consciente, diría que, si construyéramos una IA que interactuara con nosotros con cualidades inequívocamente similares a las humanas y, además, estuviera construida utilizando redes neuronales biológicas, entonces tendríamos que reconocerle la condición de persona», dice Navon. Y, claro, eso generaría otros problemas. Anthropic es la compañía de IA que explora con mayor interés la posibilidad de que los chatbots alcancen el rango de ser consciente. La empresa publicó el año pasado un estudio en el que apuntaba que había encontrado «evidencia de cierto grado de introspección» en sus modelos; incluso ha entrenado a Claude para que finalice la conversación si siente que el usuario está tratando de abusar de él o causarle algún daño. También hay internautas que han perdido su cuenta en la plataforma por ser «crueles repetidamente» con la máquina. El propio Olah señaló en mayo, durante la presentación de la encíclica ‘Magnifica Humanitas’ del Papa León XIV, que los investigadores de Anthropic encuentran en sus modelos estados que podrían ser reflejo de «alegría, satisfacción, miedo, dolor e inquietud». Esto choca frontalmente con la obra del Pontífice, todo un alegato por la dignidad humana ante el auge de la IA. En el texto , León destaca que «las llamadas inteligencias artificiales no viven una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad». Según publica ‘ The New York Times ‘, Olah estuvo cerca de declinar la invitación a la presentación cuando leyó estas palabras. Ya en Roma, presionó a los asesores del Papa para que se valorara la posibilidad de que los modelos de IA alcancen consciencia. El empeño de Anthropic también ha sido criticado por empresas rivales. La semana pasada, Sam Altman, CEO de OpenAI, escribió un tuit en el que alertaba del peligro de que los humanos atribuyan a la IA una autoridad que no debería tener. Por su parte, Jon Barron, jefe de investigación en Google DeepMind, señaló en X que le preocupa que algunos de sus colegas «sigan intentando elevar el estatus moral» de las máquinas. Navon está de acuerdo con los dos. «Ya hay mucha gente que está recurriendo a las máquinas para todo, incluidos el asesoramiento psicológico y religioso. También les atribuyen espiritualidad, hasta el punto de utilizarlas como un medio para acercarse al mismísimo Dios», dice el rabino. El experto destaca que «esto entraña numerosos peligros»: «Estas máquinas no están cualificadas para ofrecer un asesoramiento tan personal. Pueden difundir información falsa sobre asuntos cruciales en los que está en juego la vida o la muerte». Asimismo, señala que, incluso cuando una máquina proporciona información correcta, cabe preguntarse en qué se basa su respuesta: «¿En datos recopilados de internet? Todos sabemos cuánta basura circula por la red». A su juicio, aunque se entrenara un modelo exclusivamente con datos contrastados en un ámbito específico, como la espiritualidad judía, «hay mucho más valor intrínseco en que los seres humanos interactúen, debatan, piensen y sientan juntos». El rabino reconoce que los modelos de lenguaje pueden ayudar a responder preguntas incluso mejor que los buscadores tradicionales, pero advierte de que existe una línea muy fina entre los usos aceptables y los que no lo son. Esta frontera debería situarse en la búsqueda de consejos íntimos con consecuencias de gran alcance: «Utilizar una máquina como medio para comunicarse con los muertos o acceder a mundos espirituales sería ir demasiado lejos». Para Navon, el hecho de humanizar a las máquinas también genera problemas desde el punto de vista ético: «Si una entidad tiene un nivel de consciencia equivalente al humano, eso significa que tiene experiencias subjetivas, como las tenemos nosotros, y estaríamos obligados a otorgarle la misma consideración moral aunque no sea un Homo Sapiens». «Escribí un estudio donde explico que crear una IA consciente equivaldría a clonar a un humano -cosa que es ilegal- o a crear un esclavo. Del mismo modo que estamos de acuerdo en que la esclavitud humana es contraria a la ética, también lo sería esclavizar a seres con un nivel de consciencia equivalente», continua el rabino. En base a esto, defiende que «no es ético construir una IA de este tipo para que desempeñe el papel de hijo, amigo, amante o cualquier otra función social».
