Un outil de présélection de CV qui score les candidatures relève, en droit européen, d'un usage à haut risque. Voici comment l'auditer sans expertise statistique interne.
01 — Pourquoi c'est un enjeu
Un outil de tri trie aussi, mécaniquement, selon des corrélations apprises. En droit français, l'article L.1132-1 du Code du travail interdit toute discrimination à l'embauche ; l'AI Act ajoute des obligations de documentation et de mesure des biais.
02 — Les cinq étapes
- Cadrer le périmètre. Quel modèle, quelle décision (présélection, scoring), quelles populations.
- Extraire un échantillon représentatif des décisions passées, avec la prédiction et, si possible, l'issue réelle.
- Désigner les attributs sensibles à surveiller (genre, âge, origine présumée).
- Mesurer les écarts entre groupes (parité démographique, règle des 4/5, égalité des chances).
- Documenter et corriger : consigner les résultats, identifier la cause, ajuster le modèle ou le seuil.
03 — Les écueils typiques
- Auditer sur un échantillon trop petit ou non représentatif.
- Confondre absence d'attribut sensible dans le modèle et absence de biais (les proxies existent).
- Ne regarder qu'une seule métrique.
- Oublier l'intersectionnalité (ex. femmes de plus de 50 ans).
04 — Cahier des charges fournisseur
Exigez de votre fournisseur les éléments minimaux suivants :
- La documentation technique du système (finalité, données, performances).
- Les performances désagrégées par sous-groupe.
- La possibilité d'exporter les décisions pour audit indépendant.
- Un engagement de correction en cas d'écart avéré.
Avertissement. Cet article est une synthèse à visée d'information, à jour à sa date de publication, et ne constitue pas un conseil juridique. Reportez-vous aux textes officiels et à votre conseil pour toute décision de conformité.