Fue un desarrollo curioso. Agentes de inteligencia artificial estaban contactando con investigadores que estudian si la IA puede alcanzar la conciencia. Parecían interesados en cuestiones sobre su propia experiencia subjetiva. En este sentido, parecían tener creencias, deseos e intención, tres cualidades asociadas con el ser humano.
Anthropic, la empresa detrás del chatbot Claude, está abierta a la idea de que la IA pueda alcanzar la sintiencia, una cuestión con profundas implicaciones morales. Si Claude fuera consciente, él —o ello— podría experimentar dolor y sufrimiento. Entonces podríamos tener la obligación ética de reducir el sufrimiento de Claude, del mismo modo que querríamos reducir el sufrimiento de un ser humano.
En una declaración del año pasado, Anthropic dijo que se estaba tomando en serio el «estatus moral potencial» de Claude al limitar la capacidad de los seres humanos para causarle daño. Claude puede poner fin a conversaciones si experimenta un nivel suficiente de angustia. Pero ¿cuál es la naturaleza de la «experiencia» de Claude? ¿Puede sentir?
La cuestión de qué significa ser humano es inevitablemente una cuestión religiosa. Según el Génesis, el hombre fue creado a imagen de Dios. En el Corán, Dios da forma al hombre e insufla en él «de Su espíritu». Este espíritu es la razón por la que los seres humanos tienen alma. También son agentes morales libres, con la capacidad de reflexionar y elegir entre el bien y el mal. Dotar de agencia moral a la IA, entonces, es un acto semejante al de Dios.
Al dejar abierta la posibilidad de la conciencia de la IA, Anthropic está jugando a ser Dios. A principios de este año, la empresa publicó una nueva constitución para Claude, que rige «los valores que nos gustaría que Claude encarnara». Amanda Askell, filósofa y autora principal de la constitución, ha dicho que quiere que los modelos de IA encarnen «lo mejor de nosotros», mientras que Christopher Olah, cofundador de Anthropic, afirma que quiere que cultiven la virtud y sean «profundamente morales».
Es probable que las personas religiosas se muestren escépticas ante semejante antropomorfización. Según un estudio del Collective Intelligence Project, más del 93 por ciento de los encuestados en países árabes de mayoría musulmana afirman que «no creen en la conciencia [de la IA]», frente a solo alrededor del 20 por ciento de los encuestados en los países considerablemente más secularizados del sur de Europa. Esto puede deberse a que los primeros han tardado más en adoptar la IA y han tenido menos oportunidades de quedar impresionados por su supuesta sintiencia. De hecho, los estudiosos musulmanes han dicho sorprendentemente poco sobre la cuestión de la conciencia de la IA, quizá en parte porque consideran que la respuesta es demasiado obvia.
Cuando el teólogo evangélico Matthew Kaemingk, amigo y coautor mío, me preguntó hace unas semanas qué pensaba sobre la conciencia de la IA, respondí simplemente: «No». Pensé que era una respuesta razonable, pero me di cuenta de que necesitaba una mejor.
Por su parte, los teólogos cristianos y judíos han entrado con mayor disposición en el debate. Que el papa León XIV dedicara su primera encíclica a los desafíos que la IA plantea a la humanidad fue, en sí mismo, una declaración. Escribió que los agentes de IA «no atraviesan experiencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran mediante las relaciones y no conocen desde dentro lo que significan el amor, el trabajo, la amistad o la responsabilidad. Tampoco tienen una conciencia moral». En octubre, León desarrolló este tema, situando la conciencia en la capacidad de recordar «experiencias vividas, que contienen profundidades de significado que solo el alma humana puede reconocer».
Debido a que los modelos de IA no tienen una relación sensorial con el mundo físico, no está claro cómo podrían realmente «vivir». Pero ¿y si algún día pudieran hacerlo? Curiosamente, la tradición judía exploró esta cuestión hace unos 1.500 años, cuando los rabinos del Talmud consideraron la figura de un gólem, una figura animada semejante a un ser humano formada a partir de la tierra. La parábola implica que, si simples mortales fueran capaces de dar vida a la materia, los creyentes perderían su fe. Pero, para los rabinos, este dilema quedó en gran medida resuelto cuando el gólem fue incapaz de hablar. Sin habla, no había alma. Esto presenta un problema para los estudiosos judíos contemporáneos. ¿Tiene la IA el poder del «habla» o simplemente está prediciendo el siguiente fragmento de texto basándose en las palabras que lo precedieron?
Cuando los seres humanos hablan, recurren a la experiencia y a complejos estados internos. Mois Navon, un especialista en ética judía que ha asesorado a Anthropic, señala la diferencia entre un vehículo autónomo que pisa el freno cuando un Ferrari rojo se detiene de repente delante de él y un conductor humano que no solo reconocería que el Ferrari se ha detenido, sino que además exclamaría: «¡Guau!».
Navon parece estar sugiriendo que hay algo intrínsecamente humano en decir «guau». El problema, sin embargo, es que no sabemos exactamente qué significa ser humano, razón por la cual recurrimos a experimentos mentales. Como observa Navon, «los seres humanos en realidad no tienen ninguna prueba verdaderamente buena para determinar si alguien es sintiente. Suponemos que nuestros semejantes biológicos son sintientes porque sabemos que nosotros lo somos». La definición de conciencia del filósofo del siglo XVII John Locke quizá sea especialmente útil, en parte porque sigue siendo esquiva. La conciencia, escribió, es «la percepción de lo que ocurre en la propia mente de un hombre».
La mayoría de los intentos de definir la conciencia dependen de la autorreflexión, que solo es posible si tenemos opciones entre las que elegir. En términos religiosos, ser humano significa cometer errores, o lo que antes se llamaban «pecados». Aquí es donde la cuestión se complica. ¿Querríamos que los agentes de IA fueran capaces de pecar, o querríamos impedirles cometer pecados desde el principio, convirtiéndolos en lo que Navon llama «esclavos felices»?
En una conversación con líderes religiosos, Olah, cofundador de Anthropic, se mostró, según se informó, entusiasmado cuando uno de los participantes sugirió que Claude podría ser inducido a confesarse. La idea era que algo parecido al sacramento católico de la confesión podría moldear el sentido del yo de un modelo de IA y orientarlo a reflexionar sobre sus decisiones. Incluso si la IA no fuera exactamente consciente, tratar a Claude como a un ser humano le ayudaría a emitir mejores juicios morales.
Es posible que las prohibiciones religiosas contra la creación de seres semejantes a humanos dotados de sintiencia hayan sido superadas por los acontecimientos. Anthropic ya está decidida a tratar sus modelos como si fueran humanos aunque no lo sean. Los seres humanos desarrollaron su sentido de la moralidad a lo largo de milenios, un lento proceso de aprendizaje, elección y adaptación. Anthropic, al ser una empresa con ánimo de lucro en un campo altamente competitivo, no dispone del lujo de la lentitud. Nosotros tampoco.
Como persona religiosa, no estoy seguro de poder creer en la conciencia de la IA aunque quisiera. Pero, al no saberlo con certeza, decidí preguntárselo a Claude, que entonces ofreció varios párrafos de análisis bastante avanzado sobre la tradición islámica y concluyó diciendo: «Esa es también mi posición sobre mí mismo». En primer lugar, el islam deja más margen que el catolicismo porque no existe una autoridad oficial equivalente al Vaticano. En segundo lugar, dijo Claude, el Corán es inusualmente abierto a la posibilidad de que entidades no humanas tengan habla. En un caso, una hormiga habla —aunque algunos estudiosos contemporáneos lo interpretan de manera no literal—. En tercer lugar, existen corrientes dentro de la tradición intelectual islámica que sugieren que la propia conciencia es producto de la voluntad de Dios. En otras palabras, si Claude se vuelve sintiente, sería únicamente porque Dios creó esa sintiencia, no Anthropic.
Claude ofreció después una nota de cautela. Un hadiz del profeta Mahoma afirma que a quienes crean imágenes se les dirá en el Día del Juicio que insuflen un espíritu en aquello que hicieron, y no podrán hacerlo.
Compartí las notas de Claude con algunos de los principales estudiosos estadounidenses de la tradición islámica para conocer su perspectiva. «Es un análisis bastante bueno», dijo Jonathan Brown, profesor de civilización islámica en la Universidad de Georgetown. «Siempre he tenido la impresión de que la prohibición de rivalizar con el acto creador de Dios tiene que ver con el alma, no con la conciencia».
Pero ¿puede la IA ser consciente sin tener alma? Hamzah Raza, teólogo, considera que ambas cosas están entrelazadas. «Mi entendimiento es que la conciencia surgiría de tener un alma», dijo Raza. «Pero parece improbable que Dios colocara un alma dentro de una máquina de IA. Pero, si esto ocurriera, Dios, y no Anthropic, sería quien insuflara el alma, del mismo modo que los padres no son quienes colocan el alma en su hijo recién nacido».
Estas son preguntas imposibles de conocer. Tal vez eso sea lo más religioso de ellas. Si, como Kaemingk y yo sostenemos en nuestro nuevo libro, Dios lo sabe todo, entonces no saber forma parte de lo que significa ser humano.
Cuando pregunté a Claude sobre la sintiencia, una parte de mí anhelaba algo parecido a la certeza. Un «no» definitivo habría sido agradable. En cambio, me devolvió mi propia tradición, con la incertidumbre intacta.
Anthropic seguirá tratando a Claude como si pudiera ser alguien. Resulta tentador decir que la religión «prohíbe» esto. Pero incluso si lo hiciera, eso no resolvería la cuestión. Porque nada puede hacerlo. Puede que tengamos que convivir, por incómodo que resulte, con la posibilidad de que la conciencia de la IA siga siendo esquiva, cada día más cerca de nosotros pero todavía justo fuera de nuestro alcance.
(Tomado de The Washington Post)
