Demanda contra Workday por sesgo de IA en contratación avanza en California

¿Qué ha ocurrido?

Un juez federal de San Francisco ha rechazado la moción de Workday para desestimar una demanda colectiva presentada en 2023, permitiendo que el caso avance a la fase de descubrimiento. Los demandantes alegan que el sistema de inteligencia artificial de Workday, utilizado por cientos de empresas para filtrar currículums, discriminó sistemáticamente a solicitantes por motivos de raza, edad y género. La decisión, emitida por el juez de distrito de EE. UU. Jon S. Tigar, marca un hito en la legislación sobre IA, ya que es la primera vez que un tribunal aborda directamente la responsabilidad de un proveedor de software de selección de personal por presuntos sesgos algorítmicos, según The Next Web. El caso, conocido como Mobley v. Workday, Inc., fue presentado originalmente por Derek Mobley, un solicitante de empleo afroamericano mayor de 40 años, quien afirma que el sistema lo rechazó injustamente para puestos en empresas como MGM Resorts y Union Pacific, a pesar de estar calificado.

Contexto y antecedentes

Workday, con sede en Pleasanton, California, es uno de los proveedores líderes de software de gestión de capital humano (HCM) en la nube, con más de 10.000 clientes en todo el mundo, incluyendo grandes corporaciones como Amazon, Netflix y Salesforce. Su herramienta de reclutamiento basada en IA analiza currículums y asigna puntuaciones a los candidatos, priorizando a aquellos con mayor compatibilidad. La demanda argumenta que el algoritmo aprende de decisiones históricas de contratación, perpetuando sesgos existentes. Por ejemplo, si una empresa ha contratado predominantemente a hombres blancos jóvenes, el sistema tiende a favorecer perfiles similares, discriminando indirectamente a minorías y personas mayores. Este caso es el primero en EE. UU. que impugna directamente los algoritmos de selección de personal como práctica discriminatoria, no solo los resultados. Anteriormente, casos como el de Amazon en 2018 —donde se descubrió que su herramienta de reclutamiento penalizaba a las mujeres— se centraron en el uso interno de la IA por parte del empleador, no en el proveedor del software. La decisión del juez subraya que las herramientas automatizadas no están exentas de las leyes de igualdad de oportunidades en el empleo, como el Título VII de la Ley de Derechos Civiles de 1964 y la Ley de Empleo y Discriminación por Edad (ADEA).

¿Por qué es importante?

Si el caso prospera, podría obligar a Workday y a otras empresas de software de RRHH a auditar y modificar sus algoritmos para eliminar sesgos. También establecería un precedente legal sobre la responsabilidad de los proveedores de IA por discriminación, más allá de los empleadores que utilizan sus sistemas. Según la demanda, Workday actúa como un "empleador conjunto" al influir directamente en las decisiones de contratación, lo que la hace responsable bajo las leyes federales. El juez Tigar coincidió en que es plausible que Workday sea considerada un "agente" de los empleadores, lo que permite que el caso avance. Esto es relevante porque, hasta ahora, la mayoría de los casos de sesgo algorítmico se han dirigido contra los empleadores, no contra los desarrolladores de IA. Por ejemplo, en 2021, la Comisión de Igualdad de Oportunidades en el Empleo (EEOC) de EE. UU. lanzó una iniciativa para examinar el uso de IA en contratación, pero no ha presentado demandas contra proveedores. Este caso podría acelerar la acción regulatoria. Además, la decisión llega en un momento en que la Unión Europea avanza con la Ley de IA, que clasifica los sistemas de contratación como de alto riesgo y exige evaluaciones de sesgo. En EE. UU., estados como Nueva York ya han aprobado leyes que requieren auditorías de sesgo para herramientas de contratación automatizadas, pero aún no hay una normativa federal.

Consecuencias potenciales

• Para Workday: Riesgos financieros y reputacionales significativos. Si se determina que su software es discriminatorio, podría enfrentar indemnizaciones millonarias y la obligación de rediseñar sus algoritmos. Además, podría perder clientes que teman asociarse con una empresa demandada por sesgo. Workday ha negado las acusaciones y argumenta que no es responsable de las decisiones de contratación de sus clientes, pero la decisión judicial debilita esa defensa.
• Para empresas usuarias: Podrían verse obligadas a reevaluar sus procesos de contratación y exigir mayor transparencia a sus proveedores. Muchas empresas confían en Workday sin conocer cómo funciona internamente el algoritmo. Este caso podría impulsar a los departamentos de RRHH a solicitar auditorías independientes y a documentar cómo se utilizan las herramientas de IA para cumplir con las leyes de igualdad de oportunidades.
• Para la industria: Mayor escrutinio regulatorio y posible legislación específica sobre IA en contratación. Según un informe de Gartner, el 42% de las grandes empresas ya utilizan IA en sus procesos de selección, y se espera que esta cifra aumente. Si el caso crea un precedente, otros proveedores como SAP SuccessFactors, Oracle HCM y Lever podrían enfrentar demandas similares. La industria podría verse forzada a adoptar estándares de equidad algorítmica, como los propuestos por el Instituto Nacional de Estándares y Tecnología (NIST).

Qué deben saber los lectores

La demanda aún está en etapas tempranas; no hay un fallo final. Sin embargo, la decisión de permitir que avance indica que los tribunales están dispuestos a examinar el funcionamiento interno de los sistemas de IA. Las empresas que utilizan herramientas similares deberían comenzar a documentar sus procesos de selección y evaluar posibles sesgos. Para los solicitantes, este caso refuerza la importancia de conocer sus derechos y la posibilidad de impugnar decisiones automatizadas. La EEOC ha emitido guías que establecen que los empleadores son responsables de la discriminación causada por algoritmos, incluso si son desarrollados por terceros. Por lo tanto, los candidatos que sospechen de sesgo pueden presentar quejas ante la EEOC o unirse a demandas colectivas como esta. En el futuro, podríamos ver un aumento en las acciones legales contra proveedores de IA, especialmente si el caso Mobley llega a juicio y se dictamina a favor de los demandantes. Mientras tanto, Workday ha declarado que cooperará con el proceso legal y que sus sistemas están diseñados para cumplir con las leyes antidiscriminación. Sin embargo, los críticos señalan que la opacidad de los algoritmos dificulta verificar estas afirmaciones. Este caso podría ser el catalizador que impulse una mayor transparencia en la IA de contratación, beneficiando tanto a solicitantes como a empresas que buscan procesos justos.