El consejo de la ciudad aprobó un proyecto de ley que prevé auditar el empleo de sistemas de inteligencia artificial para las búsquedas laborales.
Nueva York dio un paso fundamental para regular el uso de sistemas automatizados en el reclutamiento de empleados. El consejo de la ciudad aprobó un proyecto de ley que, de confirmarse, impedirá a empresas la irrestricta utilización de métodos de inteligencia artificial (IA) para el mencionado fin. Según los impulsores de la iniciativa, el objetivo es reducir los sesgos propios de esas tecnologías, también patentes en el mercado laboral.
Inteligencia artificial: racista y machista
Diversos mecanismos basados en IA han presentado inconvenientes en la práctica. Un emblema de las fallas es el reconocimiento facial que se usa en muchas ciudades del mundo, en espacios públicos, con el argumento de auxiliar a las fuerzas de seguridad. Además de las altas tasas de error en las identificaciones; diversos informes, expertos y defensores de la privacidad señalaron que esos métodos tienen sesgos raciales y machistas.
Leé también: “Con mi cara no”: una campaña alerta sobre el uso de reconocimiento facial en las calles argentinas
Incluso en Nueva York se ha limitado el uso de esos sistemas en las calles y en escuelas, tal como contamos anteriormente en TN Tecno.
Inteligencia artificial: límites en Nueva York
Según un informe de Associated Press, aquellas empresas radicadas en Nueva York que pretendan usar estos sistemas en el proceso de búsqueda y contratación de empleados deberán aprobar auditorías anuales que verifiquen la eficiencia de esos métodos y que no impliquen prácticas discriminatorias. Además, prevén añadir más revisión humana.
En caso de incumplimiento, el proyecto de ley establece multas que llegan a los 1.500 dólares por cada incidente.
NY vs. IA: ¿cuándo entraría en vigencia la ley?
La iniciativa fue aprobada recientemente y, según la fuente, si la medida avanza recién entraría en vigor en 2023. ¿Cuán probable es que el proyecto se convierta en ley? Organizaciones cercanas a las empresas como la Cámara de Comercio de Nueva York apoyan la movida, por lo que es probable que eso ocurra.
Sin embargo, aún antes de cualquier confirmación preocupa que una ley como la propuesta no ayude tanto como se promete en los papeles. Alexandra Givens, del Center for Democracy & Technology, dijo en declaraciones a AP que el proyecto de ley no tiene en cuenta otros prejuicios, como la discapacidad o la discriminación por edad.
Leé también: El Parlamento Europeo pide suspender el reconocimiento facial en espacios públicos
Por lo demás, la iniciativa presupone que las auditorías que se realizarán son 100% efectivas para detectar sesgos, que no siempre son de simple examen en esos sistemas automatizados.