En Resumen
- Nueva legislación en Nueva York prohíbe el uso de herramientas de IA en decisiones de empleo sin auditoría anual.
- La norma busca evitar sesgos y garantizar la equidad en la contratación mediante inteligencia artificial.
- El Departamento de Protección al Consumidor y al Trabajador investigará quejas y aplicará sanciones por violaciones.
Nueva legislación centrada en herramientas de empleo impulsadas por inteligencia artificial entró en vigencia en la ciudad de Nueva York el miércoles, prohibiendo a los empleadores y agencias utilizar herramientas de toma de decisiones de empleo automatizadas (AEDT) a menos que esa herramienta haya sido auditada al menos durante el último año.
Basada en la Ley Local 144 de 2021, la nueva norma tiene como objetivo prevenir el sesgo y garantizar la equidad en las decisiones de empleo utilizando inteligencia artificial.
Además de la ventana de auditoría de un año, la norma del Departamento de Protección al Consumidor y al Trabajador de la Ciudad de Nueva York (DCWP, por sus siglas en inglés) también requiere que los resultados de la auditoría estén disponibles para el público, además de que los empleados y los candidatos a empleo deben recibir los avisos correspondientes.
Una herramienta automatizada de toma de decisiones laborales ayuda o reemplaza la toma de decisiones discrecionales. Ejemplos de estas herramientas incluyen Freshworks, Breezy HR, Greenhouse y Zoho Recruits, que evalúan o preseleccionan currículums.
"DCWP recopilará e investigará quejas [de sesgo]", dijo un portavoz del departamento a Decrypt por correo electrónico. "Los cálculos de las sanciones civiles por violaciones serán específicos del caso", agregó la agencia, explicando que la ley permite violaciones separadas por cada día que el uso de AEDT viole la ley.
En junio, un informe del sitio web de reseñas de negocios B2B Reviews dijo que el 21% de los departamentos de recursos humanos encuestados utilizaban herramientas de inteligencia artificial como ChatGPT de OpenAI para capacitación y desarrollo, ahorrando en promedio 70 minutos por semana. Uno de cada diez departamentos de recursos humanos también dijo que utilizaban el chatbot para redactar cartas de terminación.
"Al desarrollar la regla AEDT, trabajamos para encontrar el equilibrio regulatorio adecuado entre los derechos de los solicitantes de empleo y las necesidades de las empresas, como se refleja en nuestro proceso de elaboración de reglas", dijo el portavoz.