Anthropic admitió que ya no puede medir con precisión qué tan capaces son sus propios modelos de inteligencia artificial

Anthropic ha admitido que sus herramientas para medir la capacidad de sus modelos de IA ya no funcionan con la precisión necesaria. Este reconocimiento se da en un informe donde también se eleva la estimación del riesgo de desalineamiento y se destaca el peligro de que los modelos avancen sin control, acelerando la investigación tecnológica. La compañía reconoce una limitación en sus evaluaciones de referencia, lo que afecta la confianza en las mediciones de progreso de sus sistemas.