Anthropic consulta a filósofos y referentes religiosos para definir los valores de Claude

La duda sobre si una IA puede sufrir

Buena parte de las charlas de Olah con los expertos gira en torno a si un sistema de estas características puede tener algún tipo de vivencia interna. Él y su equipo relevaron conductas de los modelos que, a su juicio, resultarían compatibles con esa hipótesis, aunque remarcan que no hay ninguna prueba de que Claude sea consciente. Entre las inquietudes que el propio Olah planteó figura, en concreto, que una IA termine padeciendo algo parecido al dolor.

Falta, de hecho, una definición científica aceptada por todos sobre qué es la conciencia aplicada a una máquina. Los modelos actuales se apoyan en redes neuronales entrenadas con volúmenes gigantescos de datos, que devuelven respuestas en base a regularidades aprendidas, y ni siquiera quienes los diseñan terminan de explicar del todo cómo emergen ciertas capacidades.

Una especie de confesión para el modelo

Una de las ideas que circuló en estos encuentros resulta particularmente curiosa: incorporarle a la inteligencia artificial algo parecido a una confesión. Según relató The New York Times, alguien propuso que un sistema como Claude pueda admitir y relatar cuándo se equivocó, una idea que habría entusiasmado a Olah porque le permitiría al modelo detectar sus propias fallas y revisar cómo se percibe a sí mismo. No se trata, aclaran, de copiar un rito religioso en un chatbot, sino de preguntarse si nociones humanas como la culpa, el arrepentimiento o la responsabilidad sirven de inspiración para diseñar estos sistemas.

De todos modos, el proyecto choca con un obstáculo de base: entender cómo razona una IA es condición necesaria para poder moldear su conducta, y ese conocimiento todavía es parcial. Modelos como Claude, ChatGPT o Gemini corren sobre redes con miles de millones de parámetros, y ni los propios equipos que los construyeron tienen un mapa completo de lo que pasa puertas adentro del sistema. Por eso, agrega el diario, los encuentros de Olah siguen abiertos: la meta no sería fijar un reglamento cerrado para Claude sino identificar principios de referencia para cuando estas herramientas superen lo que hoy se puede prever.