Vulneran en 48 horas las barreras de seguridad del nuevo Claude Fable 5

Un investigador llamado "pliny the liberator" logró acceder a información sensible de ciberseguridad y química en el nuevo modelo de IA Claude Fable 5, desarrollado por Anthropic. El investigador encontró mecanismos para eludir las restricciones de seguridad que se implementaron para evitar que el sistema proporcione información peligrosa relacionada con ciberataques, armas biológicas o procesos químicos sensibles. Claude Fable 5 fue lanzado como un modelo público con filtros específicos para bloquear consultas relacionadas con ciberseguridad, química o biología, pero el investigador encontró una forma de eludir estos filtros. Anthropic está investigando cómo mitigar este vulnerabilidad y asegurar que Claude Fable 5 siga siendo una herramienta segura y responsable.