Anthropic consulta a filósofos y referentes religiosos para definir los valores de Claude
Chris Olah, cofundador de la empresa, mantiene encuentros con pensadores de distintas tradiciones para explorar cómo debería comportarse una inteligencia artificial avanzada y si podría llegar a tener algún tipo de conciencia.

Un directivo de Anthropic, la compañía que desarrolla el modelo de inteligencia artificial Claude, viene juntándose desde hace varios meses con filósofos y referentes religiosos de credos diversos para pensar un problema que todavía no tiene respuesta cerrada en la industria: qué conducta debería tener un sistema de IA cuando se vuelve lo bastante sofisticado como para que sus propios creadores dejen de poder prever sus decisiones. Se trata de Chris Olah, uno de los fundadores de la empresa, según reveló The New York Times en una nota que retomó Infobae.
El plan de los encuentros apunta a algo más ambicioso que ajustar reglas de uso: ver si siglos de pensamiento ético y religioso pueden aportar algo a cómo se entrena un modelo como Claude. De fondo late además un interrogante sin certezas científicas: si una inteligencia artificial, en algún punto de su evolución, puede llegar a sentir algo equiparable a la conciencia o directamente al sufrimiento.
Un documento de reglas que ya no alcanzaría
La empresa no parte de cero. Meses atrás había redactado la llamada Constitución de Claude, un texto pensado como guía de alineación para que el modelo sepa qué respuestas dar sin depender exclusivamente de lo que le pida cada usuario, a partir de criterios generales sobre qué está permitido y qué no.
Ahí aparece el giro que motiva las reuniones con pensadores religiosos: según contó el diario neoyorquino, Olah y otros miembros de Anthropic creen que ese esquema de normas fijas se queda corto frente a sistemas futuros mucho más capaces. La apuesta que surge de esos diálogos va por otro lado: que el propio modelo incorpore virtudes, no sólo instrucciones, para resolver por su cuenta escenarios que nadie anticipó al programarlo.
La duda sobre si una IA puede sufrir
Buena parte de las charlas de Olah con los expertos gira en torno a si un sistema de estas características puede tener algún tipo de vivencia interna. Él y su equipo relevaron conductas de los modelos que, a su juicio, resultarían compatibles con esa hipótesis, aunque remarcan que no hay ninguna prueba de que Claude sea consciente. Entre las inquietudes que el propio Olah planteó figura, en concreto, que una IA termine padeciendo algo parecido al dolor.
Falta, de hecho, una definición científica aceptada por todos sobre qué es la conciencia aplicada a una máquina. Los modelos actuales se apoyan en redes neuronales entrenadas con volúmenes gigantescos de datos, que devuelven respuestas en base a regularidades aprendidas, y ni siquiera quienes los diseñan terminan de explicar del todo cómo emergen ciertas capacidades.
Una especie de confesión para el modelo
Una de las ideas que circuló en estos encuentros resulta particularmente curiosa: incorporarle a la inteligencia artificial algo parecido a una confesión. Según relató The New York Times, alguien propuso que un sistema como Claude pueda admitir y relatar cuándo se equivocó, una idea que habría entusiasmado a Olah porque le permitiría al modelo detectar sus propias fallas y revisar cómo se percibe a sí mismo. No se trata, aclaran, de copiar un rito religioso en un chatbot, sino de preguntarse si nociones humanas como la culpa, el arrepentimiento o la responsabilidad sirven de inspiración para diseñar estos sistemas.
De todos modos, el proyecto choca con un obstáculo de base: entender cómo razona una IA es condición necesaria para poder moldear su conducta, y ese conocimiento todavía es parcial. Modelos como Claude, ChatGPT o Gemini corren sobre redes con miles de millones de parámetros, y ni los propios equipos que los construyeron tienen un mapa completo de lo que pasa puertas adentro del sistema. Por eso, agrega el diario, los encuentros de Olah siguen abiertos: la meta no sería fijar un reglamento cerrado para Claude sino identificar principios de referencia para cuando estas herramientas superen lo que hoy se puede prever.
Comentarios
Ingresá o creá tu cuenta para comentar esta nota.
Todavía no hay comentarios. Podés ser la primera persona en opinar.







.gif)






