Demanda contra Meta por IA sesgada en despidos: ¿qué pasó?

¿Qué ha ocurrido?

En octubre de 2023, un grupo de exempleados de Meta presentó una demanda colectiva en el Tribunal Superior de California, acusando a la empresa de utilizar sistemas de inteligencia artificial sesgados durante los despidos masivos que redujeron su fuerza laboral en un 10% en mayo de 2023, afectando a aproximadamente 21,000 empleados. Según la demanda, Meta habría empleado algoritmos de evaluación que discriminaban por edad, género y raza, afectando desproporcionadamente a trabajadores mayores de 40 años, mujeres y minorías raciales. Los demandantes alegan que la IA evaluó el desempeño basándose en datos históricos que reflejaban sesgos previos, como la contratación histórica predominantemente masculina y joven, y que Meta no realizó auditorías de equidad ni proporcionó transparencia sobre los criterios de selección. La demanda busca compensación por daños y una orden judicial para que Meta detenga el uso de dichos sistemas. Este caso se suma a otros litigios contra Meta, como el acuerdo de 2022 por discriminación por edad en anuncios de vivienda, y se produce en un contexto de creciente escrutinio público sobre el uso de IA en decisiones laborales. La demanda fue presentada por los bufetes de abogados Lieff Cabraser Heimann & Bernstein y Outten & Golden, y se espera que se certifique como acción colectiva en los próximos meses.

¿Por qué es importante?

Este caso es uno de los primeros en cuestionar el uso de IA en decisiones de despido a gran escala, y podría sentar un precedente legal crucial. A medida que más empresas adoptan herramientas automatizadas para recursos humanos, como sistemas de evaluación de desempeño y selección de candidatos, el resultado podría establecer estándares legales sobre transparencia algorítmica, auditorías de sesgo y responsabilidad corporativa. Además, Meta ya enfrenta escrutinio regulatorio en Europa, con multas por violaciones del GDPR, y en EE. UU., donde la FTC investiga sus prácticas de datos. Esta demanda añade presión sobre la gobernanza de IA en Silicon Valley, donde empresas como Amazon, Google y Microsoft también utilizan IA en procesos de RRHH. Para los trabajadores, resalta la vulnerabilidad ante sistemas opacos que pueden perpetuar desigualdades, especialmente en un mercado laboral donde los despidos masivos en tecnología han sido frecuentes en 2023. Para las empresas, subraya la necesidad de implementar evaluaciones de impacto ético y legal antes de desplegar IA en procesos críticos de empleo. Según un informe de la Brookings Institution, el 80% de las empresas estadounidenses utilizan algún tipo de IA en RRHH, pero solo el 10% realiza auditorías de sesgo. Este caso podría acelerar la adopción de mejores prácticas y la regulación.

¿Qué consecuencias tendrá?

Si la demanda prospera, podría obligar a Meta a modificar sus algoritmos de evaluación, someterse a auditorías externas independientes y pagar compensaciones significativas. También podría incentivar a otros empleados despedidos a presentar reclamaciones similares, generando una ola de litigios contra empresas tecnológicas que usan IA en RRHH. A nivel regulatorio, podría acelerar la aprobación de leyes como la Algorithmic Accountability Act en EE. UU., que exige evaluaciones de sesgo en sistemas automatizados, y la propuesta de regulación de IA de la Unión Europea, que clasifica los sistemas de RRHH como de alto riesgo. En el ámbito empresarial, las compañías podrían volverse más cautelosas al implementar IA en decisiones de personal, invirtiendo en herramientas de explicabilidad y fairness, como IBM AI Fairness 360 o Google What-If Tool. Sin embargo, el caso podría tardar años en resolverse, y mientras tanto, Meta probablemente defenderá que sus sistemas no fueron discriminatorios y que las decisiones se basaron en evaluaciones humanas complementarias. Un precedente relevante es el caso de Amazon, que en 2018 desechó un sistema de contratación sesgado contra mujeres, pero no enfrentó demandas. A diferencia de Amazon, Meta sí implementó el sistema, lo que aumenta su exposición legal. Además, la demanda podría afectar la reputación de Meta y su capacidad para atraer talento, en un momento en que la empresa busca recuperar su imagen tras el escándalo de Cambridge Analytica.

¿Qué deben saber los lectores?

No existe confirmación independiente de que la IA de Meta fuera sesgada; la demanda solo presenta alegaciones, y los demandantes deben probar que el sesgo algorítmico causó daños concretos. Meta ha declarado que sus procesos de despido incluyeron revisión humana y que cumple con las leyes laborales, pero no ha proporcionado detalles sobre los algoritmos utilizados. Los lectores deben entender que la IA en RRHH no es inherentemente sesgada, pero puede reflejar sesgos presentes en los datos de entrenamiento, como la sobrerrepresentación de ciertos grupos en roles de alto rendimiento. Para protegerse, los trabajadores pueden solicitar transparencia sobre los criterios de evaluación y documentar cualquier indicio de discriminación, como correos electrónicos o métricas de desempeño. Las empresas, por su parte, deberían realizar auditorías periódicas de sesgo, involucrar a equipos diversos en el diseño de algoritmos y garantizar que las decisiones automatizadas sean explicables y apelables. Según la EEOC, las empresas pueden ser consideradas responsables incluso si la discriminación es causada inadvertidamente por un algoritmo. En resumen, este caso es un recordatorio de que la automatización debe ir acompañada de responsabilidad y equidad, y su desenlace tendrá implicaciones no solo para Meta, sino para toda la industria tecnológica y el futuro del trabajo.

“Este caso podría ser un punto de inflexión en la regulación de la inteligencia artificial aplicada a recursos humanos”, señala un análisis de TheVortiq.

En resumen, la demanda contra Meta por IA sesgada en despidos es un recordatorio de que la automatización debe ir acompañada de responsabilidad y equidad. El desenlace tendrá implicaciones no solo para Meta, sino para toda la industria tecnológica y el futuro del trabajo. A medida que la IA se integra en más aspectos de la vida laboral, la transparencia y la justicia algorítmica se convierten en imperativos legales y éticos. Los próximos meses serán clave para ver cómo los tribunales abordan estos desafíos y si las empresas toman medidas proactivas para evitar litigios similares.