Dans un modèle de scoring crédit, le code postal est l'exemple type du proxy : une variable légale en apparence, mais fortement corrélée à des critères protégés comme l'origine présumée. Le résultat peut constituer une discrimination indirecte.
01 — Qu'est-ce qu'un proxy ?
Un proxy est une variable qui, sans nommer un critère protégé, en porte l'information. Le code postal corrèle avec la composition sociale et l'origine présumée d'un quartier ; l'utiliser dans une décision de crédit peut reproduire des écarts interdits, même sans intention.
02 — Ce que dit le cadre juridique
Le droit français sanctionne la discrimination, y compris indirecte (article 225-1 du Code pénal, loi de 1972 et suivantes). Le RGPD encadre les décisions entièrement automatisées (article 22). L'AI Act classe le scoring de crédit parmi les usages à haut risque et impose la gouvernance des données (article 10). La qualification d'un cas précis relève toutefois du juge et de votre conseil.
03 — Comment le détecter
Deux approches complémentaires : mesurer l'information mutuelle entre une feature (code postal) et un attribut protégé estimé, et détecter les clusters déviants par apprentissage non supervisé. Un proxy se révèle quand une variable neutre concentre les décisions défavorables sur un groupe.
04 — Comment corriger
- Retirer ou neutraliser la variable proxy et réentraîner.
- Recalibrer le seuil de décision par groupe.
- Documenter toute justification métier réelle de l'écart résiduel.