California vuelve a liderar el camino en la regulación tecnológica, esta vez abordando una preocupación creciente: el riesgo de discriminación cuando los empleadores utilizan inteligencia artificial (IA) y sistemas automatizados de decisión (SAD) en las decisiones de contratación y empleo. Con el Consejo de Derechos Civiles de California finalizando nuevas regulaciones, el estado está estableciendo un precedente nacional sobre cómo la tecnología y la equidad pueden —y deben— coexistir en el lugar de trabajo.
Por qué importan estas regulaciones
Imagina postularte para el trabajo de tus sueños, solo para que tu currículum sea descartado por un algoritmo que nunca llegas a conocer. O imagina una evaluación basada en computadora que interpreta mal tus habilidades debido a un sesgo oculto en su código. Estos escenarios ya no son ciencia ficción, son riesgos reales a medida que más empresas recurren a la IA para agilizar la contratación y gestionar empleados.
Reconociendo estos desafíos, el Consejo de Derechos Civiles de California ha aprobado regulaciones integrales para asegurar que las herramientas de IA no perpetúen ni amplifiquen la discriminación. Si las normas son aprobadas por la Oficina de Derecho Administrativo, entrarán en vigor el 1 de julio de 2025, convirtiendo a California en uno de los primeros estados en abordar directamente el sesgo impulsado por IA en el empleo.
¿Qué se considera un Sistema Automatizado de Decisión?
Las nuevas normas definen los Sistemas Automatizados de Decisión (SAD) de manera amplia. Son cualquier proceso computacional —impulsado por IA, aprendizaje automático, algoritmos o incluso estadísticas avanzadas— que toma o ayuda a tomar decisiones sobre beneficios laborales. Piensa en software de selección de currículums, evaluaciones automatizadas o herramientas que analizan datos de candidatos de terceros. Si un sistema influye en quién es contratado, promovido o recibe beneficios, probablemente esté cubierto.
¿Quién debe prestar atención?
Las regulaciones no solo aplican a los empleadores. También cubren a los “agentes” —cualquier persona que actúe en nombre de un empleador, como reclutadores, agencias de empleo o consultores. Si participas en la contratación, selección o toma de decisiones sobre beneficios para empleados, estas normas te conciernen.
Requisitos clave para los empleadores
- No discriminación: Es ilegal usar un SAD que discrimine a solicitantes o empleados basándose en características protegidas. Esto incluye no solo raza, género o edad, sino también acento, dominio del inglés, estatura o peso.
- Diligencia debida: Los empleadores pueden defenderse de reclamaciones por discriminación demostrando que han probado sus herramientas de IA para detectar sesgos. La falta de pruebas podría aumentar la responsabilidad.
- Mantenimiento de registros: Las entidades cubiertas deben conservar registros de personal y datos de SAD durante cuatro años, garantizando transparencia y responsabilidad.
Consejos prácticos para empleadores
- Audita tus herramientas de IA: Prueba regularmente tus sistemas automatizados para detectar sesgos. Usa auditorías de terceros si es posible.
- Actualiza las políticas: Asegúrate de que tus políticas de recursos humanos reflejen las nuevas regulaciones y expliquen claramente cómo se usan las herramientas de IA.
- Revisa contratos: Si trabajas con proveedores o consultores externos, asegúrate de que tus contratos aborden la responsabilidad por discriminación relacionada con IA.
- Capacita a tu equipo: Educa al personal de recursos humanos y a los tomadores de decisiones sobre los riesgos y responsabilidades del uso de IA en el empleo.
Mirando hacia el futuro
A medida que la IA se integra más en el lugar de trabajo, es probable que regulaciones como estas se extiendan. Los empleadores en todo el país deben tomar nota: entender cómo funcionan tus herramientas de IA —y asegurarse de que sean justas— no solo es una buena ética, sino que se está convirtiendo en ley.
Resumen de puntos clave:
- California está finalizando regulaciones para prevenir la discriminación laboral impulsada por IA.
- Las normas cubren tanto a empleadores como a agentes, incluidos proveedores externos.
- Los Sistemas Automatizados de Decisión (SAD) incluyen cualquier tecnología que influya en decisiones laborales.
- Los empleadores deben probar las herramientas de IA para detectar sesgos y conservar registros por cuatro años.
- El cumplimiento proactivo y la transparencia son esenciales para todas las organizaciones que usan IA en la contratación.