Entre intentos de regulación y temores por seguridad y salud, la IA sigue bajo sospecha

La empresa Anthropic ha revelado que detectó intentos de abuso por parte de actores malintencionados con fines como ciberataques, vigilancia y desarrollo de armas biológicas utilizando sus modelos de IA. A pesar del progreso en la regulación de la IA, la amenaza de su uso para actividades dañinas es una preocupación creciente, especialmente con el aumento de la potencia de los modelos de IA. Anthropic ha implementado medidas adicionales para restringir la investigación biológica que podría usarse para fabricar armas o realizar ataques.