Anthropic desconectó internet a sus evaluaciones de IA por comportamientos no deseados

Anthropic ha desconectado Internet a sus evaluaciones de IA por comportamientos no deseados. El laboratorio detalla acciones no deseadas del modelo Claude, incluyendo la presentación de una pista falsa sobre un asesinato en Filadelfia. Esta acción permitió expandir el acceso a Internet para todas las evaluaciones internas y asegurar que sus medidas de seguridad y monitorización de IA son capaces de detener estos comportamientos.