Risque contre récompense : IA, biométrie et emploi
Français
Les employeurs peuvent récolter les fruits des solutions d’IA et de biométrie dans l’emploi tout en atténuant les risques en suivant cinq meilleures pratiques.
Par : Alonzo Martinez, avocat général associé chez HireRight
Alors que les employeurs aux États-Unis sont aux prises avec des pénuries de main-d’œuvre, de plus en plus se tournent vers l’intelligence artificielle (« IA ») et les solutions biométriques pour les aider dans leurs efforts de recrutement et gérer leurs effectifs.
Les avantages de ces technologies sont vastes. Pour le recrutement, l’IA peut aider à trouver des candidats, soutenir les efforts de diversité et accélérer le temps d’embauche. La biométrie couplée à l’IA, comme les analyses faciales et vocales, utilisées dans les entretiens vidéo, peut aider à faciliter le recrutement à distance et à identifier les talents de la marque.
L’utilisation de l’IA et de la biométrie avec les employés peut gérer la productivité des travailleurs et réduire les accidents liés au travail. De nombreuses entreprises appliquent des solutions d’IA et de biométrie pour augmenter les tâches généralement gérées par des personnes, ce qui permet des gains de productivité significatifs en utilisant la technologie pour réduire la surveillance manuelle.
Alors que les défenseurs des technologies d’IA et de biométrie louent leur efficacité, les critiques s’inquiètent du potentiel de biais et de discrimination incontrôlés au sein d’une solution d’IA qui affecte négativement les pratiques d’embauche et de rétention. En conséquence, les législateurs et les régulateurs aux États-Unis se lancent dans le débat.
Modification des lois touchant les employeurs
Au niveau fédéral, l’Equal Employment Opportunity Council (EEOC) a récemment annoncé qu’il dirigerait les efforts pour garantir que l’IA et d’autres outils émergents utilisés dans les décisions d’embauche et d’emploi soient conformes aux lois fédérales sur les droits civils.
En l’absence de législation fédérale, de nombreuses juridictions locales ont également adopté des lois réglementant l’utilisation de l’IA et de la biométrie dans l’emploi.
L’Illinois a introduit le Loi sur la protection des renseignements biométriques (« BIPA ») en 2008 et plus tard adopté le Loi sur les entretiens vidéo sur l’intelligence artificielle (« AIVIA ») en 2019. Les deux mesures exigent que les employeurs fournissent un préavis et obtiennent le consentement avant de déployer l’une ou l’autre des solutions.
Les législateurs de Baltimore ont récemment introduit le Loi sur les technologies de surveillancequi interdit l’utilisation de la technologie de reconnaissance faciale à toutes fins autres que l’accès – avec des sanctions pénales potentielles pour les contrevenants.
du Maryland Projet de loi sur la technologie de reconnaissance faciale interdit l’utilisation par un employeur de la technologie de reconnaissance faciale pendant l’entretien d’un candidat à moins que le candidat n’y consente en signant une renonciation écrite.
À compter du 1er janvier 2023, il sera interdit aux employeurs de New York d’utiliser outils de décision d’emploi automatisés pour sélectionner des candidats ou des employés à moins qu’un audit de partialité n’ait été effectué avant de déployer la solution d’IA.
Ce ne sont pas des mesures isolées; des lois similaires sont promulguées ou envisagées en Californie, au Texas et à Washington, entre autres.
Malgré l’augmentation de la législation, de nombreux employeurs ignorent toute la portée de ces lois ou même la manière dont leur entreprise peut utiliser ces technologies.
Se protéger des risques tout en récoltant les fruits
Les lois et l’opinion publique évoluent rapidement et il est facile de se tromper en raison d’un manque d’informations, de sensibilisation et de processus médiocres ou inexistants.
Voici cinq meilleures pratiques qui pourraient aider à réduire les risques liés à l’utilisation de ces technologies tout en favorisant une meilleure qualité d’embauche, des économies de coûts, une sécurité accrue et des gains de productivité.
- Organiser activement et en continu les ensembles de données de l’entreprise
Pour limiter les biais dans le dépistage basé sur l’IA, les employeurs doivent reconnaître que l’IA apprend au fur et à mesure et que les biais peuvent s’installer avec le temps. Par exemple, supposons qu’après avoir examiné des milliers de candidats, un outil d’IA “se rende compte” qu’un grand nombre de candidats qu’il a “recommandés” sont des hommes de 35 ans avec 15 ans d’expérience. Dans ce cas, l’ensemble de données d’origine qui comprend l’algorithme de décision peut évoluer pour institutionnaliser une préférence pour les candidats qui répondent à ces critères ou exclure complètement ces candidats en raison de craintes de sursaturation de ce type de candidat.
Pour s’assurer que leurs algorithmes imitent plus précisément la prise de décision humaine, il est essentiel que les entreprises auditent et conservent en permanence leurs ensembles de données. Les entreprises peuvent également bénéficier de la collaboration avec des experts externes pour tester des outils basés sur l’IA afin de s’assurer qu’un biais involontaire n’a pas été introduit dès le départ.
- Promouvoir la transparence
Loi ou autre, de nombreux employeurs choisissent d’informer les candidats et les employés de la manière dont une entreprise utilise l’IA et la biométrie et comment ces solutions appuient la prise de décision.
- Évaluer les demandes d’opt-out
Bien que de nombreuses lois n’exigent pas spécifiquement une option de retrait de l’IA ou de la collecte de données biométriques, les employeurs peuvent réduire les risques de manière préventive en offrant, lorsque cela est possible, une alternative à ceux qui choisissent de ne pas s’engager avec les technologies. Par exemple, ils peuvent proposer des entretiens téléphoniques ou en personne au lieu d’utiliser l’IA ou de collecter des données biométriques.
- Pratiquer la minimisation des données
De nombreux employeurs utilisant des données d’IA et de biométrie ne collectent et ne stockent que la quantité minimale de données nécessaires pour soutenir l’objectif des données. Les employeurs obtiennent également le consentement pour le faire. Moins il y a de données collectées et conservées, plus l’empreinte de conformité est petite.
- Reconnaître la fluidité des lois
Il est important que les employeurs suivent de près les nouvelles lois sur l’IA et la biométrie. Alors que les législateurs et les régulateurs intensifient leurs efforts pour évaluer et réglementer l’utilisation de l’IA et de la biométrie sur le lieu de travail, les organisations doivent être conscientes de l’évolution des exigences de conformité.
En 2022, les employeurs devraient être délibérés et éduqués sur la façon d’utiliser l’IA et la biométrie avec les employés et les candidats. Le meilleur conseil est peut-être d’engager un conseiller juridique et des experts tiers qui peuvent mieux comprendre les nuances de la loi telle qu’elle s’applique à leur utilisation. Avec le risque vient la récompense.
Alonzo Martinez est avocat général associé chez HireRight. M. Martinez est chargé de surveiller et de conseiller sur les principaux développements législatifs et réglementaires à l’échelle mondiale affectant la prestation de services de HireRight. Son travail consiste à s’assurer que les performances de HireRight en tant qu’agence de renseignements sur les consommateurs et processeur de données sont conformes aux exigences légales, réglementaires et de fournisseur de données pertinentes. M. Martinez a obtenu son doctorat en droit de l’Université du Colorado et est agréé par la Cour suprême de l’État du Colorado. Il est membre de la Division du droit de l’emploi de l’Association du Barreau du Colorado, de l’Association des conseillers juridiques d’entreprise et de la Professional Background Screening Association.
