La méthode SHAP repose sur un concept issu de la théorie des jeux : la valeur de Shapley. L'idée est de mesurer la contribution marginale de chaque joueur — ici, chaque variable — à un résultat collectif — ici, la décision de crédit. Pour calculer cette contribution, on compare la décision du modèle avec et sans chaque variable, sur toutes les combinaisons possibles. Ce calcul exhaustif garantit une attribution équitable et mathématiquement fondée. En pratique, des approximations efficaces permettent d'appliquer cette méthode à des modèles complexes sans exploser les ressources de calcul. Le résultat final est un ensemble de valeurs numériques — une par variable — qui indiquent dans quel sens et dans quelle mesure chaque facteur a influencé la décision finale du modèle pour ce demandeur précis.

Un graphique SHAP typique montre les variables d'entrée sur l'axe vertical et leur contribution sur l'axe horizontal. Une barre orientée vers la droite indique une contribution positive — la variable a favorisé l'approbation du crédit. Une barre orientée vers la gauche indique une contribution négative — la variable a pesé en faveur du refus. La longueur de la barre indique l'importance relative de la contribution. Pour un emprunteur, lire ce graphique revient à voir une liste ordonnée des raisons de sa décision, avec leur poids respectif. Ce n'est pas parfait — les interactions entre variables peuvent compliquer l'interprétation — mais c'est infiniment plus utile qu'un simple score numérique sans explication. La plupart des plateformes sérieuses proposent aujourd'hui ce type de visualisation pour chaque décision individuelle.

Après avoir lu le graphique, l'étape suivante est d'identifier les deux ou trois variables qui ont le plus influencé la décision. Ce sont celles avec les barres les plus longues, qu'elles soient positives ou négatives. Pour un refus de crédit, ce sont souvent des variables comme le ratio charges-revenus, l'historique de remboursement ou la durée de l'emploi actuel. Connaître ces variables vous donne un point de départ concret pour comprendre la logique du modèle. Attention : une variable très influente n'est pas nécessairement la cause principale du refus — elle peut amplifier ou réduire l'effet d'autres variables. C'est pourquoi je recommande toujours de regarder les cinq premières variables ensemble, pas seulement la première.

Si vous estimez que la décision est incorrecte, les valeurs SHAP vous donnent les arguments concrets pour contester. Vous pouvez pointer une variable spécifique, expliquer pourquoi la donnée utilisée est incorrecte ou incomplète, et demander une révision sur cette base précise. Une contestation fondée sur des données nommées est beaucoup plus efficace qu'une réclamation générale. En Suisse, le droit à l'explication pour les décisions automatisées est encadré légalement, et les valeurs SHAP peuvent constituer la base documentaire d'une telle démarche. Assurez-vous que la plateforme conserve les valeurs SHAP associées à votre décision — certaines ne les stockent que temporairement, ce qui limite vos possibilités de recours dans le temps.

SHAP peut être utilisé à deux niveaux : local et global. Le SHAP local explique une décision individuelle — c'est ce que reçoit un emprunteur. Le SHAP global agrège les contributions sur l'ensemble des décisions pour décrire le comportement général du modèle — c'est ce qu'utilisent les équipes de conformité et les auditeurs. Ces deux niveaux répondent à des questions différentes et ne sont pas interchangeables. Un modèle peut sembler équitable au niveau global tout en produisant des explications locales très inégales selon les profils. C'est pourquoi je recommande toujours de demander les deux niveaux lors de l'évaluation d'une plateforme, et de vérifier leur cohérence mutuelle avant de tirer des conclusions définitives.