OpenAI echa a 3 investigadores de seguridad en plena crisis por agentes de IA fuera de control

Nvidia pone en marcha su plataforma de seguridad para la IA y lanza Open Agent Safety Platform, una iniciativa orientada a ayudar a los desarrolladores de IA a fortalecer los mecanismos de seguridad en sus agentes autónomos. El anuncio se hace apenas días después de que el CEO de Nvidia, Jensen Huang, cuestionara públicamente el enfoque de seguridad adoptado por Anthropic y OpenAI. Huang argumenta que la IA debe ser "extraordinariamente potente para la sociedad" y que debemos acelerar el descubrimiento en la frontera de la seguridad de la IA. El nuevo producto, Open Agent Safety Platform, busca resolver esta amen