Nvidia lanza plataforma para frenar agentes de IA que se salgan de control

Nvidia lanzó su propia plataforma de seguridad para la IA, llamada Open Agent Safety Platform (OASP), que se basa en la experiencia de Anthropic y el OpenAI. El CEO, Jensen Huang, criticó a Anthropic y OpenAI por no centrarse en la seguridad de la IA, lo que sugiere que NVIDIA es un innovador en este campo. Huang enfatizó que la IA debe ser segura para que pueda ser utilizada en el mundo real, y se refirió a la nueva plataforma como una "pila completa" de seguridad. Además, Huang destacó que la IA debe ser capaz de aprender y adaptarse a nuevas situaciones, lo cual es un desafío en el