Nueva York está en los titulares mientras se acerca a promulgar la Ley de Seguridad y Educación Responsable de IA (Ley RAISE), un proyecto que podría establecer un nuevo estándar nacional para la gobernanza de sistemas avanzados de inteligencia artificial. Si se convierte en ley, la Ley RAISE haría de Nueva York el primer estado en EE.UU. en exigir protocolos legales de transparencia y seguridad para los modelos de IA más potentes.
Por qué es importante la Ley RAISE
La Ley RAISE responde directamente a las crecientes preocupaciones sobre los riesgos que plantean los sistemas de IA de frontera, aquellos con potencial para causar daños significativos si se usan de manera indebida o sin control. A diferencia de intentos previos en otros estados, como la SB 1047 de California, el enfoque de Nueva York es más específico y pragmático, centrándose solo en los actores más grandes de la industria de IA. Esto significa que las startups, empresas más pequeñas e investigadores académicos pueden seguir innovando sin estar cargados con requisitos de cumplimiento excesivos.
¿A quién afecta?
La ley se aplica a empresas cuyos modelos de IA cumplen dos criterios:
- Fueron entrenados usando más de 100 millones de dólares en recursos computacionales.
- Sus modelos están disponibles para residentes de Nueva York.
Al establecer un umbral alto para su aplicabilidad, la Ley RAISE asegura que solo los sistemas de IA más influyentes y potencialmente riesgosos estén sujetos a regulación, protegiendo al mismo tiempo a las vibrantes comunidades de startups e investigación del estado.
¿Qué exige la Ley RAISE?
Para las empresas que entran en su alcance, la Ley RAISE introduce cuatro obligaciones principales:
- Protocolos de seguridad y protección: Las empresas deben publicar protocolos detallados de seguridad, incluyendo evaluaciones de riesgos para amenazas graves como la creación de armas biológicas o actividades criminales automatizadas.
- Reporte de incidentes: Cualquier incidente de seguridad, como comportamientos preocupantes de la IA o brechas de seguridad, debe ser reportado de inmediato. Esta transparencia ayuda a reguladores y al público a mantenerse informados sobre posibles peligros.
- Evaluación y mitigación de riesgos: Las empresas deben realizar evaluaciones exhaustivas de riesgos, considerando escenarios catastróficos como víctimas masivas, daños económicos de miles de millones o la facilitación de actos criminales a gran escala.
- Auditorías de terceros: Se requieren auditorías independientes para asegurar que las empresas cumplan con los requisitos de la ley.
Aplicación y puerto seguro
Para garantizar el cumplimiento, la Ley RAISE faculta al fiscal general de Nueva York para imponer multas civiles de hasta 30 millones de dólares por violaciones. Sin embargo, la ley también reconoce la necesidad de proteger información sensible. Las empresas pueden redactar ciertos detalles de los protocolos públicos de seguridad para salvaguardar secretos comerciales, cumplir con requisitos legales y proteger la privacidad.
¿En qué se diferencia del enfoque de California?
La Ley RAISE de Nueva York fue diseñada tomando en cuenta las lecciones de la fallida SB 1047 de California. Notablemente:
- No requiere un "interruptor de apagado" para los modelos de IA.
- No responsabiliza a las empresas por daños causados por modificaciones posteriores al entrenamiento.
- Exime a universidades e instituciones de investigación.
- Establece un umbral computacional alto, protegiendo a startups y empresas pequeñas de regulaciones innecesarias.
El panorama general: regulación estatal vs. federal
La Ley RAISE forma parte de una conversación nacional más amplia sobre la mejor manera de regular la IA. Mientras algunos argumentan que las leyes a nivel estatal podrían crear un mosaico confuso de reglas, otros las ven como pasos necesarios ante la ausencia de una legislación federal integral. El debate también toca la capacidad de Estados Unidos para mantenerse competitivo en la carrera global de IA mientras asegura la seguridad pública.
¿Qué deben hacer las empresas ahora?
Si operas un modelo de IA de frontera en Nueva York, es momento de:
- Comenzar a desarrollar protocolos robustos de seguridad y protección.
- Establecer sistemas para la detección y reporte de incidentes.
- Prepararse para auditorías de terceros organizando documentación e identificando auditores calificados.
- Realizar una revisión legal de tus operaciones para asegurar la preparación ante el nuevo marco regulatorio.
Puntos clave
- La Ley RAISE se dirige solo a los sistemas de IA más avanzados, dejando a startups e investigadores libres para innovar.
- Las empresas deben publicar protocolos de seguridad, reportar incidentes, evaluar riesgos y someterse a auditorías.
- Las multas civiles por incumplimiento pueden alcanzar los 30 millones de dólares.
- La ley equilibra la transparencia con protecciones para secretos comerciales y privacidad.
- El enfoque de Nueva York podría influir en futuras regulaciones estatales y federales de IA.