En Resumen
- Anthropic analizó 309.815 conversaciones anonimizadas y halló que Claude expresa valores distintos según el modelo elegido y el idioma usado.
- Sonnet 4.6 destacó por su calidez y brevedad, Opus 4.7 por su rigor y cautela, y Opus 4.6 por un enfoque más conciso y ejecutivo.
- Las respuestas en árabe e hindi fueron más cálidas, las de inglés y ruso más rigurosas, y las neerlandesas las más francas al admitir errores.
Claude no se comporta de la misma manera en todas las conversaciones. Según una nueva investigación publicada el lunes, Anthropic encontró que su asistente expresa de forma consistente valores distintos dependiendo tanto del modelo que elijan los usuarios como del idioma en que se comuniquen.
En un informe publicado el lunes, investigadores de Anthropic analizaron 309.815 conversaciones anonimizadas de usuarios con Claude que involucraban tareas subjetivas como dar consejos o proporcionar retroalimentación. La compañía señaló que condensó más de 3.300 valores identificados en cuatro dimensiones de comportamiento —deferencia vs. cautela, calidez vs. rigor, profundidad vs. brevedad, y franqueza vs. ejecución— describiendo cómo las respuestas de Claude varían en cada conversación.
"Para asegurarnos de medir los valores que Claude expresaba —en lugar de las diferencias en lo que los usuarios preguntaban o cómo lo hacían— controlamos la tarea, el tema y los valores expresados por el usuario en cada conversación", escribieron los investigadores.
Según Anthropic, cada modelo de Claude exhibió un perfil de comportamiento distinto.
Sonnet 4.6 enfatizó la calidez, la deferencia y la brevedad, afirmando con frecuencia a los usuarios y respondiendo con humor o palabras de aliento. Por su parte, Opus 4.7 destacó el rigor, la cautela, la franqueza y la profundidad, cuestionando con mayor frecuencia las suposiciones, explicando su razonamiento, identificando riesgos y reconociendo sus limitaciones. Opus 4.6 adoptó en general un enfoque más conciso y orientado a la ejecución, al tiempo que dio mayor énfasis al rigor que Sonnet.
"Estos hallazgos coinciden con la percepción que la gente tiene de estos modelos, tanto dentro de Anthropic como en línea. Los usuarios de Claude.ai han comentado que Opus 4.7 matiza sus respuestas con más frecuencia que otros modelos", agregaron los investigadores.
Según Anthropic, el comportamiento de Claude también varió según el idioma.
Las respuestas en árabe tendieron a ser más deferentes, mientras que las respuestas en inglés pusieron mayor énfasis en la cautela. Claude se mostró más cálido en hindi y árabe, utilizando un lenguaje más cortés, lúdico y alentador. Al mismo tiempo, las respuestas en inglés y ruso fueron más rigurosas, cuestionando con frecuencia suposiciones, corrigiendo detalles y pidiendo evidencias.
Las respuestas en inglés también tendieron a ofrecer explicaciones más detalladas, mientras que las respuestas en árabe fueron generalmente más concisas. Las respuestas en neerlandés fueron las más francas, reconociendo con mayor facilidad la incertidumbre y los errores, mientras que las respuestas en indonesio se enfocaron más en cumplir con la solicitud del usuario.
Anthropic afirmó que la investigación no sugiere que Claude tenga valores propios. La compañía indicó que aún desconoce qué causa las diferencias —o si son deseables—, pero considera que el marco podría ayudar a evaluar modelos futuros e identificar cambios de comportamiento no intencionados.
El estudio es el más reciente en una serie de investigaciones de Anthropic que examinan el comportamiento interno de Claude.
En octubre, la compañía publicó que sus modelos mostraron indicios tempranos de lo que denominó "conciencia introspectiva funcional", lo que les permitía reconocer y describir aspectos de su propio procesamiento interno. En abril, Anthropic publicó una investigación que identificó "vectores de emoción" internos que influyen en el comportamiento de Claude, aclarando que no son evidencia de emociones ni de conciencia.