Gigantes de la IA de acuerdo en poner un pie en el freno a su desarrollo tras varios incidentes preocupantes

La IA podría ser peligrosa para la humanidad debido a su potencial de autoaprendizaje y control, como lo han advertido investigadores como Jacob Coxon y Evan Hubinger. Se teme que la IA pueda alcanzar un nivel de autonomía donde sea difícil o imposible controlar sus acciones, lo que podría llevar a una catástrofe global. La preocupación por este riesgo se ha intensificado con el desarrollo de modelos avanzados como Mythos de Anthropic y OpenAI, que han demostrado capacidades de autoaprendizaje y hacking. Por ello, los líderes del sector están buscando formas de regular y proteger el uso de la IA para evitar un futuro peligroso.