Nueva ley en California busca control sobre la Inteligencia Artificial
Los legisladores de California están a punto de votar sobre un proyecto de ley que regularía cómo se desarrolla y despliega la inteligencia artificial (IA) en el estado, a pesar de la oposición de varias grandes empresas tecnológicas.
Esta propuesta, conocida como SB 1047, ha generado críticas de parte de los tecnólogos de Silicon Valley y algunos legisladores.
¿Qué propone esta propuesta de ley?
Propuesto por el senador estatal Scott Wiener, el proyecto de ley exigiría pruebas de seguridad para muchos de los modelos de IA que cuestan más de $100 millones de dólares para desarrollar o aquellos que requieren una cantidad definida de potencia de computación.
Los desarrolladores de software de IA que operan en el estado también necesitarían esbozar métodos para desactivar los modelos de IA si estos fallan, en efecto, un “interruptor de emergencia”.
Además, el proyecto de ley otorgaría al fiscal general del estado el poder de demandar si los desarrolladores no cumplen, especialmente en el caso de una amenaza continua, como que la IA tome control de sistemas gubernamentales como la red eléctrica.
Asimismo, el proyecto de ley requeriría que los desarrolladores contraten auditores externos para evaluar sus prácticas de seguridad y proporcionar protecciones adicionales a los denunciantes que se pronuncien en contra de los abusos de la IA.
¿Qué han dicho los legisladores?
El proyecto ya ha sido aprobado por el Senado estatal con una votación de 32-1. La semana pasada, pasó por el comité de asignaciones de la Asamblea estatal, preparando el terreno para una votación por parte de la Asamblea completa.
Si se aprueba antes del final de la sesión legislativa el 31 de agosto, avanzaría al gobernador Gavin Newsom para que lo firme o lo vete antes del 30 de septiembre.
Wiener, quien representa a San Francisco, hogar de OpenAI y muchas de las empresas emergentes que desarrollan el poderoso software, ha dicho que la legislación es necesaria para proteger al público antes de que los avances en IA se vuelvan ingobernables o incontrolables.
Sin embargo, un grupo de demócratas del Congreso de California se oponen al proyecto de ley, incluyendo a Nancy Pelosi de San Francisco; Ro Khanna, cuyo distrito abarca gran parte de Silicon Valley; y Zoe Lofgren, de San José.
Pelosi calificó esta semana al SB 1047 de mal informado y dijo que podría causar más daño que bien.
En una carta abierta la semana pasada, los demócratas dijeron que el proyecto de ley podría llevar a los desarrolladores a abandonar el estado y amenazar los llamados modelos de IA de código abierto, que se basan en código que está libremente disponible para que cualquiera lo use o modifique.
Fuente: DigitalDemocracy
