Le projet de loi de New York interdit les outils de recrutement d'IA qui échouent aux contrôles de partialité | Engagé

Le projet de loi de New York interdit les outils de recrutement d'IA qui échouent aux contrôles de partialité |  Engagé

La ville de New York pourrait bientôt réduire les risques de biais de l'IA sur le marché du travail. Le Associated Press note que le conseil municipal a adopté un projet de loi interdisant les systèmes d'embauche d'IA qui ne passent pas les audits annuels vérifiant la discrimination fondée sur la race ou le sexe. Les développeurs auraient également besoin d'une plus grande transparence (y compris des divulgations de systèmes automatisés) et de proposer des alternatives telles que des examens humains. Les amendes pourraient atteindre jusqu'à 1 500 $ par incident.

Le projet de loi a été adopté le 10 novembre. Le maire sortant Bill de Blasio a un mois pour le signer, mais n'a pas dit s'il le ferait ou non. Si la mesure va de l'avant, elle entrerait en vigueur en 2023.

Une loi signée pourrait réduire les risques que la technologie d'embauche de l'IA fausse les bassins de candidats et la démographie des employés qui en résultent. Les organisations pro-entreprises comme la Chambre de commerce du Grand New York sont déjà favorables, suggérant que les divulgations sont vitales à la fois pour les employeurs et leurs talents.

Cependant, on craint déjà qu'une loi promulguée ne ça n'aide pas autant que promis. Alexandra Givens du Center for Democracy & Technology a déclaré au AP que le projet de loi ne tenait pas compte d'autres préjugés, tels que le capacitisme ou l'âgisme. Cela suppose également que les audits sont efficaces – Julia Stoyanovich, de l'Université de New York, a affirmé que les exigences étaient « très faciles à respecter ». On craint que la législation ne protège par inadvertance les employeurs dont les plates-formes d'IA ont des biais différents ou plus difficiles à détecter.

Tous les produits recommandés par Engadget sont sélectionnés par notre équipe éditoriale, indépendante de notre maison mère. Certaines de nos histoires incluent des liens d'affiliation. Si vous achetez quelque chose via l'un de ces liens, nous pouvons gagner une commission d'affiliation.