Équité algorithmique dans le crédit automatisé : pourquoi le choix d'une définition change tout et comment l'évaluer sans être expert
Pourquoi l'équité algorithmique est plus complexe qu'elle n'y paraît
Quand un fournisseur de plateforme me dit que son modèle est équitable, ma première question est toujours la même : selon quelle définition ? Parce qu'il en existe plusieurs, elles sont mathématiquement incompatibles dans la plupart des cas réels, et le choix de l'une implique de renoncer à une autre. Ce n'est pas un détail technique — c'est un choix de valeurs déguisé en choix de méthode. La parité démographique demande que le taux d'approbation soit identique dans tous les groupes. L'égalité des chances demande que les demandeurs qualifiés aient les mêmes chances d'approbation quel que soit leur groupe. La calibration demande que les scores de risque aient la même signification dans tous les groupes. Ces trois définitions produisent des résultats différents sur les mêmes données. Un modèle ne peut pas satisfaire toutes les définitions simultanément lorsque les taux de base diffèrent entre groupes — c'est un résultat mathématique démontré, pas une opinion.
La parité démographique
La parité démographique exige que le pourcentage de demandes approuvées soit identique dans chaque groupe démographique défini. C'est la définition la plus intuitive, mais aussi celle qui peut forcer un modèle à approuver des demandeurs moins solvables dans certains groupes pour atteindre le quota. Cela peut sembler équitable en surface tout en créant des risques financiers réels pour les prêteurs et des situations délicates pour les emprunteurs concernés.
L'égalité des chances
L'égalité des chances — ou equal opportunity — se concentre uniquement sur les demandeurs réellement qualifiés. Elle exige que parmi ceux qui auraient remboursé leur crédit sans problème, le taux d'approbation soit identique dans tous les groupes. Cette définition est plus ciblée et évite l'écueil de la parité démographique, mais elle nécessite de disposer d'une vérité terrain fiable sur qui est réellement qualifié — ce qui est rarement simple à établir en pratique.
Comment évaluer l'équité d'une plateforme sans être data scientist
Je ne suis pas data scientist, et je pense que vous n'avez pas besoin de l'être pour évaluer sérieusement l'équité d'une plateforme. Ce que vous avez besoin, c'est de savoir quelles questions poser et comment interpréter les réponses. La première question est simple : quelle définition de l'équité avez-vous retenue et pourquoi ? Si le fournisseur ne peut pas répondre clairement à cette question, c'est un signal d'alarme. La deuxième question porte sur la documentation : publient-ils des rapports d'équité ? Sont-ils accessibles à des auditeurs externes ? La troisième question touche aux corrections : quand un biais est détecté, quel est le processus documenté pour le corriger, et qui valide cette correction ? Ces trois questions ne demandent aucune compétence technique — elles demandent juste d'insister pour obtenir des réponses précises plutôt que des formules rassurantes.
Poser la question de la définition retenue
La réponse à cette question révèle immédiatement si le fournisseur a réellement travaillé la question ou s'il utilise le terme équité comme un argument marketing. Un fournisseur sérieux peut nommer la définition, expliquer pourquoi il l'a choisie, et reconnaître ce à quoi il a dû renoncer en faisant ce choix. Un fournisseur qui répond vaguement sur la justice ou l'impartialité sans nommer de méthode précise n'a probablement pas encore résolu la question.
Vérifier l'existence de rapports d'équité publics
Les plateformes qui ont vraiment travaillé sur l'équité publient des résultats mesurables. Ces rapports ne sont pas nécessairement publics pour tous — certains sont réservés aux régulateurs ou aux clients institutionnels — mais ils existent et peuvent être demandés. L'absence totale de documentation sur l'équité est un signal fort : soit le sujet n'a pas été traité, soit les résultats ne sont pas favorables. Dans les deux cas, c'est une information importante pour votre évaluation.