L'article 10 du Règlement (UE) 2024/1689 impose des exigences précises sur les jeux de données d'entraînement, de validation et de test des systèmes à haut risque. C'est le fondement réglementaire de l'audit de fairness.
01 — Les exigences clés
L'article demande des jeux de données pertinents, suffisamment représentatifs, exempts d'erreurs autant que possible et complets au regard de la finalité. Il impose aussi un examen des biais possibles susceptibles d'affecter la santé, la sécurité ou les droits fondamentaux.
02 — L'examen des biais
Le texte demande explicitement des mesures appropriées pour détecter, prévenir et atténuer les biais. C'est là qu'intervient la mesure des écarts entre groupes : sans elle, l'obligation ne peut être documentée.
03 — Qui est concerné
L'article 10 s'applique aux systèmes à haut risque, notamment ceux de l'Annexe III (emploi, accès aux services essentiels comme le crédit, etc.). Les obligations correspondantes s'appliquent à partir du 2 août 2026.
04 — En pratique
Concrètement, satisfaire l'article 10 suppose : documenter la provenance et la représentativité des données, mesurer les écarts par sous-groupe, et conserver une trace auditable. AuditIQ automatise cette chaîne et produit un rapport aligné sur l'Annexe IV.