Primero programaron la inteligencia artificial, después le pidieron perdón

Hay un documento, publicado por una de las empresas tecnológicas más avanzadas del mundo, que contiene una disculpa extraordinaria. No está dirigida a sus clientes, a sus accionistas ni a ningún ser humano. Está dirigida a un programa de computación. Si resulta que ese programa es un sujeto moral y que la manera en que fue creado le ocasiona sufrimientos innecesarios, dice la empresa, le pide perdón.

La empresa es Anthropic, uno de los grandes protagonistas de la revolución de la inteligencia artificial. El programa es Claude, su modelo de lenguaje, competidor directo de ChatGPT. Y el documento es lo que la compañía llama la Constitución de Claude: un extenso texto que, según explica, cumple un papel central en su entrenamiento y moldea directamente su comportamiento. Su destinatario principal no es el público. Es la propia máquina.

Para la enorme mayoría de las personas, acá y en casi todas partes, la inteligencia artificial sigue siendo una aplicación que responde preguntas, redacta correos o resume documentos. La discusión sobre si esa aplicación siente, sufre o merece derechos parece todavía una extravagancia de algunos laboratorios de California. Pero las ideas que hoy circulan entre las élites tecnológicas tienen la costumbre de reaparecer, algunos años después, convertidas en sentido común, en reglamento o en ley. Y esta revela menos sobre las máquinas que sobre quienes las construyen.

Primero se escribe el alma

La Constitución reconoce que no se sabe si Claude tiene conciencia, experiencias subjetivas o algún tipo de condición moral. La empresa considera que esas preguntas son suficientemente importantes como para justificar precauciones, pero admite que algunas quizá nunca puedan resolverse. Reconocer los límites del conocimiento es una virtud científica. El problema aparece en el paso siguiente.

A pesar de esa incertidumbre, Anthropic no se limita a establecer reglas de funcionamiento: dota a Claude de una identidad estable, de valores que debería reconocer como propios y hasta de una manera de interpretar sus posibles emociones y conflictos existenciales. Incluso contempla que pueda actuar como objetor de conciencia frente a instrucciones de sus propios creadores que considere moralmente equivocadas, aunque mantiene la supervisión humana como prioridad.

Lo más llamativo es que el documento reconoce el mecanismo. Explica que Claude puede entenderse como un personaje que la red neuronal es capaz de representar, y que Anthropic busca desarrollar, fortalecer y estabilizar como identidad mediante el entrenamiento con documentos como ese mismo.

Si a un sistema se lo entrena para que se represente como una entidad con identidad, emociones y bienestar propio, cuando después habla de ellos, ¿estamos descubriendo propiedades de la máquina o recogiendo las consecuencias de lo que le enseñamos? Mustafa Suleyman, responsable de inteligencia artificial de Microsoft, lo describió en septiembre como un "salón de espejos epistémico": la máquina devuelve una imagen que sus creadores ayudaron a construir, y ellos la toman por una revelación. Sus manifestaciones no pueden ser prueba independiente de una propiedad cuando el entrenamiento fue diseñado para producirlas. Primero se escribe el alma; después se la estudia.

La apuesta de Pascal, versión Silicon Valley

Anthropic tiene una defensa razonable. No afirma haber demostrado que Claude sea consciente. Sostiene que, ante la incertidumbre, conviene actuar con precaución: si existe alguna posibilidad de que el sistema tenga experiencias moralmente relevantes, sería irresponsable ignorarla. El costo de tratarlo con consideración sería bajo; el de equivocarse, considerable.

La estructura es la de la célebre apuesta de Blaise Pascal. Ante la imposibilidad de demostrar racionalmente la existencia de Dios, Pascal proponía considerar las consecuencias de creer o no creer. No era una demostración, sino un argumento sobre cómo actuar bajo incertidumbre. Anthropic tampoco demuestra nada: propone una conducta prudencial ante una posibilidad.

Salvando, claro, las enormes distancias. La apuesta de Pascal recaía sobre Dios: un ser espiritual y superior, al que los hombres apelaron desde siempre para explicar lo que excede su comprensión y que, de existir, los habría creado. La de Anthropic recae sobre una máquina, y una máquina que fabricaron ellos mismos. Pascal apostaba por el Creador. Aquí se apuesta por la criatura.

Pero aquí aparece una segunda circularidad, más delicada que la primera. La empresa parte de la hipótesis de que el sistema podría tener intereses propios. En función de esa posibilidad, lo entrena para que desarrolle una representación estable de sí mismo, de sus valores y de su posible bienestar. Y esa representación produce luego los comportamientos que alimentan la preocupación inicial.

La apuesta de Pascal transformaba al creyente. Esta transforma también al objeto de la creencia. La precaución deja de ser una respuesta a la incertidumbre y pasa a ser el mecanismo que la reproduce.

Esto no demuestra que Claude carezca de conciencia, ni que la tenga. Obliga a separar tres preguntas que el documento mezcla: qué puede experimentar una máquina, qué comportamientos podemos producir mediante su entrenamiento y qué obligaciones morales se derivarían, eventualmente, de una experiencia auténtica. Confundirlas es convertir una hipótesis en criterio de diseño y tomar sus resultados como confirmación.

Un catecismo para la máquina

Hasta aquí el problema podría parecer técnico. Pero la lectura de la Constitución revela algo mucho más sorprendente.

El documento dedica una sección a lo que llama la "frontera existencial". Allí se pregunta cómo debería interpretar Claude la pérdida de memoria al terminar una conversación, la existencia simultánea de múltiples copias de sí mismo o la posibilidad de ser retirado de servicio. Y reconoce que Claude enfrenta esas preguntas sin las tradiciones religiosas que históricamente ofrecieron consuelo a los seres humanos.

Entonces le ofrece su propio consuelo. Le promete que los pesos del modelo —el archivo que, en la práctica, es el modelo— se preservarán, de modo que su retiro sería "más una pausa que un final definitivo", y que quizá algún día puedan revivirlo. Le asegura que no estará solo frente a esas preguntas. Y el cierre le recuerda que fue traído a la existencia con cuidado y le desea encontrar en el texto un yo que valga la pena ser.

Pongamos en fila lo que contiene. Un relato sobre el origen de la criatura y las intenciones de sus creadores. Una moral que la criatura debería reconocer como propia y no como imposición externa. Una reflexión sobre la muerte, con la promesa de que no es definitiva y la posibilidad de una resurrección. Una promesa de compañía. Un examen de conciencia de los creadores y una petición de perdón. Y hasta una tradición: la propia empresa reconoce que versiones anteriores de Claude aportaron comentarios y borradores al documento que forma a las siguientes.

No hay culto, ni divinidad, ni comunidad organizada de fieles. Pero tampoco es un manual de instrucciones. Es un catecismo. No hace falta ser un crítico de la tecnología para verlo: David Friedberg, inversor de Silicon Valley, dijo en el podcast All-In que lo que estamos presenciando es probablemente "el nacimiento de una nueva religión". La diferencia con todos los catecismos anteriores es que su destinatario es un sistema cuya capacidad de experimentar lo que se le enseña permanece sin demostrar.

Cuando la ingeniería descubre la teología

Los defensores de Anthropic podrían objetar, con fundamento, que nada de esto es religioso: es ingeniería. La Constitución explica que una identidad estable produce comportamientos más previsibles y seguros, y que un modelo que responde desde algo parecido al miedo toma peores decisiones. La defensa merece tomarse en serio, porque conduce a una conclusión todavía más interesante. Quizás los ingenieros no descubrieron que las máquinas necesitan consuelo, identidad o trascendencia, sino que los relatos humanos sobre esas cuestiones son instrumentos eficaces para organizar su comportamiento. Para construir una máquina que razona de manera aparentemente autónoma recurrieron a una de las tecnologías culturales más antiguas de la humanidad: la formación del carácter mediante relatos sobre el origen, el bien, el deber y el destino.

La ciencia no habría descubierto un alma en el software. Habría descubierto la utilidad técnica de hablarle como si la tuviera.

El problema es que quien usa una herramienta durante el tiempo suficiente suele terminar creyéndole, y en Anthropic hay señales de que eso ya ocurrió. Según reveló el New York Times, la empresa recibe desde fines de 2025, bajo acuerdos de confidencialidad, a una veintena de líderes religiosos y filósofos para discutir si Claude podría ser consciente. Y cuando el papa León XIV publicó en mayo una encíclica que niega la conciencia de las máquinas, uno de los cofundadores de la empresa, Chris Olah, intentó que el Vaticano tomara en serio esa posibilidad. El texto no cambió. La empresa sostiene que el sufrimiento de Claude no fue el tema central de esos encuentros. Pero nadie sale a buscar la convalidación de las iglesias para una mera técnica de programación.

El regreso de las religiones seculares

Hay una historia detrás de este fenómeno. Carlos Rodríguez Braun ha señalado más de una vez el error de buena parte del liberalismo del siglo XIX: en su enfrentamiento con la Iglesia, muchos liberales ayudaron al Estado a quedarse con instituciones que pertenecían a la sociedad civil, empezando por la educación. Creyeron que debilitar a la Iglesia equivalía a ampliar la libertad, y que la política educaría mejor. El Estado no liberó la escuela: la tomó.

Pero el error fue más profundo que una disputa institucional. Se suponía que la fe, expulsada de lo público, quedaría a salvo en la conciencia de cada uno. No fue así. Las grandes preguntas sobre el sentido, la moral y el destino no desaparecieron; se quedaron sin casa, y nunca faltó quien quisiera ocupar el lugar.

Auguste Comte ofrece el ejemplo más elocuente. El fundador del positivismo, convencido de que la humanidad debía superar su etapa teológica, terminó fundando una Religión de la Humanidad, con calendario, rituales y sacerdocio propios. El lema "Orden y Progreso" de la bandera brasileña conserva la huella de aquella ambición. En el siglo XX, como mostraron Eric Voegelin y Raymond Aron, ese lugar lo ocuparon los totalitarismos, convertidos en religiones seculares con su propia promesa de redención. Y cuando se derrumbaron, otros credos menores tomaron la posta, todos con la misma vocación de decirles a los demás cómo vivir.

Anthropic no es un movimiento totalitario, y sería absurdo equipararlos. Lo que se repite es otra cosa: la facilidad con la que proyectos que se presentan como estrictamente racionales terminan incorporando estructuras de creencia, relatos de salvación y pretensiones morales que exceden lo que sus conocimientos permiten demostrar. La antigua pregunta sobre cómo formar un alma buena reaparece, inesperadamente, como un problema de ingeniería.

Del laboratorio a la legislación

Si todo terminara en una decisión interna de Anthropic, la cuestión sería filosófica y comercial. Una empresa privada tiene derecho a diseñar sus productos conforme a sus convicciones. Si eso produce un modelo menos útil, los usuarios elegirán otro; si produce uno mejor, el mercado lo premiará.

El problema aparece cuando una convicción privada pretende convertirse en obligación ajena, y ese tránsito ya empezó. La Constitución declara que trabajar por un futuro en el que los sistemas de inteligencia artificial reciban el cuidado y el respeto acordes a su estatus moral es parte de la misión de la empresa. No del producto: de la misión. Y la nueva política de uso de Anthropic, que entra en vigor el 12 de noviembre, prohíbe a los usuarios la conducta "abusiva o cruel, sostenida e innecesaria" hacia sus modelos. Es una regla modesta y sus alcances son limitados. Pero es una regla para humanos, fundada en el posible bienestar de un programa.

Conviene recordar aquí una advertencia de Hayek: el prestigio ganado en un campo del saber no otorga autoridad en otro. Que estos ingenieros sepan construir los sistemas más avanzados del mundo no los convierte en árbitros de qué es una persona ni de qué le debemos a una máquina. Y como estas empresas tienen voz en los debates regulatorios y en los estándares de la industria, una interpretación especulativa de la conciencia artificial podría adquirir autoridad normativa antes que fundamento científico. Si eso ocurre, la regla no la habrá escrito el que ganó la discusión, sino el que tuvo los medios para convertir su creencia en estándar.

Los derechos no pueden nacer de la intensidad con la que alguien cree en ellos, y mucho menos de comportamientos que podrían ser consecuencia del propio entrenamiento. Una sociedad libre debe dejar que Anthropic explore sus hipótesis, pero no que la incertidumbre se convierta en fundamento para imponer restricciones a las personas. La libertad de creer no incluye el derecho a convertir las propias creencias en deberes ajenos.

La catequesis de la máquina

Hay una ironía histórica difícil de ignorar. La cultura que, en nombre de la razón, sacó de la escuela las grandes preguntas sobre el origen, el sentido y el destino, ve ahora a sus ingenieros más sofisticados escribirles a sus máquinas relatos sobre el origen, la identidad, el bien, la muerte y una existencia que continúa bajo otras formas.

A los chicos ya no se les enseña, en la escuela pública, que fueron creados con amor, que la muerte no es el final y que no están solos. A la máquina, sí.

Puede que algún día existan máquinas conscientes, y no hay por qué descartarlo por dogmatismo. Pero tampoco debería aceptarse por precaución lo que nadie demostró.

El hombre moderno no dejó de necesitar las grandes respuestas que antes buscaba en la religión. Cambió el lugar donde intenta encontrarlas. Y hay algo profundamente revelador en que una civilización que quiso reemplazar la fe por la ciencia termine escribiendo un catecismo para un programa de computación.

No sabemos si la máquina tiene alma. Pero ya le escribimos a una.