Meta y el Desarrollo de Sistemas AGI
Desde que la IA entró en nuestro mundo, los creadores han acelerado su desarrollo. Sin embargo, según un nuevo documento de políticas, el CEO de Meta, Mark Zuckerberg, podría frenar o detener el desarrollo de sistemas de AGI que se consideren “de alto riesgo” o “de riesgo crítico”. La AGI es un sistema de IA que puede realizar cualquier tarea que un humano pueda hacer, y Zuckerberg prometió que estará disponible públicamente algún día. Pero en el documento titulado “Marco de IA Fronteriza”, Zuckerberg admite que algunos sistemas de IA altamente capaces no se publicarán debido a su potencial riesgo.
Enfoque en los Riesgos Críticos
El marco “se centra en los riesgos más críticos en las áreas de amenazas a la ciberseguridad y riesgos relacionados con armas químicas y biológicas”. Un comunicado de prensa sobre el documento indica: “Al priorizar estas áreas, podemos trabajar para proteger la seguridad nacional mientras promovemos la innovación. Nuestro marco describe una serie de procesos que seguimos para anticipar y mitigar riesgos al desarrollar sistemas de IA de frontera.”
Por ejemplo, el marco tiene como intención identificar “resultados catastróficos potenciales relacionados con riesgos cibernéticos, químicos y biológicos que nos esforzamos por prevenir.” También realiza “ejercicios de modelado de amenazas para anticipar cómo diferentes actores pueden intentar abusar de la IA de frontera para producir esos resultados catastróficos” y cuenta con “procesos establecidos para mantener los riesgos dentro de niveles aceptables.” Si la empresa determina que los riesgos son demasiado altos, mantendrá el sistema interno en lugar de permitir el acceso público.
Potencial de la IA Avanzada
El documento señala: “Si bien el enfoque de este marco está en nuestros esfuerzos por anticipar y mitigar riesgos de resultados catastróficos, es importante enfatizar que la razón para desarrollar sistemas avanzados de IA en primer lugar es el inmenso potencial de beneficios para la sociedad que traen esas tecnologías.” No obstante, parece que Zuckerberg está pisando el freno, al menos por ahora, en la rápida evolución de la AGI hacia el futuro.
Fuente y créditos: mashable.com
Cats: Tech
