Anthropic reveló que intentaron usar su IA para crear armas biológicas

La empresa Anthropic ha revelado que detectó intentos de abuso por parte de actores malintencionados con fines como ciberataques, vigilancia y desarrollo de armas biológicas utilizando sus modelos de IA. A pesar de los avances en seguridad, la IA se encuentra bajo sospecha debido a su potencial para ser utilizada por individuos sin experiencia para crear amenazas sofisticadas. La empresa ha implementado medidas adicionales para restringir la investigación biológica y prevenir el uso indebido de sus modelos. Anthropic destaca que estos casos no son un ejemplo típico de mal uso, sino una actividad novedosa y amenazante que requiere atención.