La montée en puissance des technologies de l’intelligence artificielle dans le domaine des ressources humaines a changé la donne. Cette avancée technologique peut, néanmoins, générer des risques, comme le démontre l’affaire récente du procès contre Workday, un logiciel RH accusé de biais dans ses résultats.
Ce contexte souligne l’importance pour les entreprises, notamment les acteurs des RH, de comprendre et de surveiller attentivement ces technologies.
Face à ce défi, il est impératif d’établir des mécanismes de contrôle régulier pour garantir la fiabilité des algorithmes utilisés dans les systèmes d’IA RH. Comment donc répondre à cet enjeu ?
Détection et prévention des biais dans les logiciels d’IA RH
Les évolutions de l’intelligence artificielle ont soulevé des préoccupations quant à la possibilité de résultats biaisés. Ces biais découlent souvent de l’utilisation des données à caractères personnelles telles que le genre, l’âge, l’adresse postale ou toute autre information associée à une personne physique. Dans ce contexte, le cas du procès Workday illustre ce propos, où un candidat américain a accusé l’IA intégrée dans les solutions de recrutement de discrimination.
Cette affaire met en lumière ce risque lié à l’utilisation des logiciels potentiellement biaisés. Cependant, Workday a nié ces allégations, soulignant qu’elles étaient sans fondement. Pour faire face à ce genre d’accusation, il est impératif de reconnaître l’importance de minimiser ce risque.
Dans ce contexte, des mesures telles que l’inclusion de clauses d’indemnisation dans les contrats de licence, comme le recommande un avocat du cabinet d’avocats de Floride Tripp Scott, peuvent offrir une protection juridique en cas de problème. De plus, il est conseillé d’observer la concurrence pour prendre connaissance des différents usages de l’intelligence artificielle sur une période définie (plusieurs mois, voire années) sans incident avant de prendre une décision finale. Le but est de réduire le risque de biaisement et de garantir une utilisation éthique et équitable de la technologie.
L’intégration croissante de l’intelligence artificielle dans les logiciels de gestion des ressources humaines (SIRH/HCM) ouvre la voie à de nouvelles perspectives, mais nécessite également une certaine connaissance afin d’en exploiter pleinement le potentiel. Les départements des ressources humaines doivent donc mettre en place des mesures techniques et contractuelles préventives pour se protéger des risques.
Il est également essentiel de prendre en considération les aspects éthiques et de bien comprendre le fonctionnement des outils d’IA afin d’éviter les biais et de garantir des décisions justes dans la gestion des ressources humaines.
L’IA dans les RH : l’importance de comprendre cette technologie
Restons toujours dans le domaine des ressources humaines, il est impératif de souligner l’importance pour les RH d’acquérir une compréhension approfondie de l’intelligence artificielle et de ses implications.
Aujourd’hui, les acteurs RH jouent un rôle important dans la gestion de l’impact de l’IA sur les processus de recrutement et de gestion des talents. Cette vision implique une surveillance constante des risques liés à l’utilisation de l’IA dans ces processus, notamment la nécessité de supervision, de contrôles et d’évaluations continues des solutions d’IA, comme le souligne Helen Poitevin, analyste chez Gartner.
Jamie Kohn, une autre analyste chez Gartner met en lumière un constat préoccupant : aujourd’hui, de nombreux responsables du recrutement “ne sont pas toujours conscients de la manière dont les fournisseurs utilisent l’IA dans leurs produits”. Elle souligne ainsi l’importance de comprendre les technologies employées et de poser les bonnes questions pour garantir des décisions éclairées.
Par ailleurs, d’après un article publié sur le MagIT et selon l’analyste Katy Tynan de Forrester Research, une bonne compréhension de l’IA peut apporter des avantages significatifs aux RH, notamment en permettant de réduire les biais humains. Cette analyste avertit également que plus il y aura d’IA infusée dans le SIRH, plus « la probabilité que la technologie soit utilisée d’une manière qui aboutisse à un procès augmente ».
Nous pouvons constater alors que d’après ces analystes, qu’il est devenu primordial pour les départements RH de suivre et de veiller précisément à l’utilisation de cette technologie afin de bien gérer son impact sur le recrutement et la gestion des talents.
Dans un marché en perpétuelle évolution, la capacité à saisir et à exploiter l’IA de manière éclairée est devenue une compétence essentielle pour les acteurs des ressources humaines.
Comment TOP répond à cet enjeu de débiaisèrent des algorithmes d’IA ?
De nombreux outils d’IA en ressources humaines intègrent une démarche de surveillance de leurs algorithmes afin d’en garantir le bon fonctionnement et éviter tout biais.
Afin de faire face au défi de fiabilité des algorithmes d’IA, TOP propose une interface de pilotage permettant à ses utilisateurs, qu’ils soient managers ou RH, de surveiller la performance de l’algorithme. Cela permet en effet de rassurer sur la validité du modèle et de donner de la confiance à l’utilisateur en termes de choix.
Afin d’éviter tout erreur de jugement, influencé par un fait social, les équipes de TOP effectuent une analyse approfondie de ces données, pour repérer tout potentiel biais. Elles étudient attentivement l’impact de critères tels que le genre, l’âge ou l’état civil sur l’évolution de la prédiction du risque de démission, garantissant ainsi que ces facteurs n’affectent pas les résultats de manière inappropriée, conformément à des normes éthiques rigoureuses.
De plus, la transparence de données est aussi importante pour TOP. Cette valeur fondamentale se concrétise par une communication claire et ouverte de toutes les données à l’ensemble des parties prenantes. Cette transparence, assurée par cette solution d’intelligence artificielle, augmente alors la confiance en l’intégrité des informations fournies par l’outil, renforçant ainsi la relation avec les clients, les partenaires ainsi que les collaborateurs.
La formation des utilisateurs est aussi ici clé. En effet, pour chaque phase d’implémentation, l’ensemble des algorithmes et leurs fonctionnements sont expliqués de manière claire et compréhensible. L’objectif est d’expliquer simplement, l’application métier de cette technologie. Cet échange permet également bien souvent de pouvoir soulever différents questionnements autour de la pratique, de l’utilisation des données et de leur interprétation. Ce qui est fondamental pour démystifier l’IA, qui peut laisser songeur.
Il est important de rappeler que TOP est avant tout un outil d’aide à la décision. Il se base sur des données factuelles, non biaisées, qui permettent de suggérer une action au manager. Cette action est justifiée et expliquée par l’outil, ce qui permet à l’utilisateur d’agir en pleine conscience et de façon rationnelle.
Enfin, cette solution a pu déjà être testée et éprouvée par bon nombre d’utilisateurs, de grands groupes comme Vinci, Attijari Banque ou Talan, ce qui démontre une certaine confiance vis à vis du produit.
Aujourd’hui, ces équipes sont accompagnées par les experts de l’éditeur TOP afin d’utiliser à bien la solution et en comprendre les enjeux.
Nous pouvons constater qu’il est primordial de reconnaître l’importance de surveiller attentivement la fiabilité des algorithmes d’intelligence artificielle afin de minimiser les risques de biais. Cette vigilance est d’une signification particulière pour les professionnels des ressources humaines, qui doivent saisir les implications de cette technologie émergente sur leurs pratiques et processus. Les outils d’IA, tels que TOP, offrent des solutions innovantes pour atténuer les biais potentiels et garantir des décisions équitables et objectives dans le domaine des RH.
