La Asamblea Estatal de California Aprueba la Ley de Innovación Segura para Modelos de Inteligencia Artificial
La Asamblea Estatal de California ha aprobado la Ley de Innovación Segura para Modelos de Inteligencia Artificial (SB 1047), informa Reuters. Este proyecto de ley es uno de los primeros significativos en regular la inteligencia artificial en los EE. UU.
Requisitos para las Empresas de IA
El proyecto de ley, que ha sido un punto de debate en Silicon Valley y más allá, obligará a las empresas de IA que operan en California a implementar varias precauciones antes de entrenar un modelo complejo. Estas incluyen la posibilidad de apagar el modelo de forma rápida y completa, garantizar que el modelo esté protegido contra “modificaciones inseguras después del entrenamiento”, y mantener un procedimiento de prueba para evaluar si un modelo o sus derivados están especialmente en riesgo de “causar o habilitar un daño crítico.”
Declaraciones del Senador Scott Wiener
El senador Scott Wiener, principal autor del proyecto de ley, declaró que SB 1047 es un proyecto de ley muy razonable que le pide a los grandes laboratorios de IA que hagan lo que ya se han comprometido a hacer: probar sus grandes modelos por riesgos de seguridad catastróficos. “Hemos trabajado arduamente durante todo el año, con defensores del código abierto, Anthropic y otros, para refinar y mejorar el proyecto de ley. SB 1047 está bien calibrado a lo que sabemos sobre los riesgos de IA predecibles, y merece ser promulgado.”
Críticas y Enmiendas al Proyecto de Ley
Los críticos del SB 1047 — incluyendo a OpenAI y Anthropic, así como a las políticas Zoe Lofgren y Nancy Pelosi, y la Cámara de Comercio de California — han argumentado que está excesivamente centrado en daños catastróficos y podría perjudicar indebidamente a los pequeños desarrolladores de IA de código abierto. El proyecto de ley fue enmendado en respuesta, reemplazando posibles penas penales por civiles, reduciendo los poderes de ejecución otorgados al fiscal general de California, y ajustando los requisitos para unirse a una “Junta de Modelos de Frontera” creada por la ley.
Próximos Pasos y Decisión del Gobernador
Después de que el Senado Estatal vote sobre el proyecto de ley enmendado — una votación que se espera que pase — el proyecto de ley de seguridad de IA se enviará al Gobernador Gavin Newsom, quien tendrá hasta finales de septiembre para decidir su destino, según The New York Times. Anthropic se negó a comentar más allá de señalar una carta enviada por el CEO de Anthropic, Dario Amodei, al Gobernador Newsom la semana pasada. OpenAI no respondió de inmediato a una solicitud de comentarios.
Fuente y créditos: www.theverge.com
Cats:
