Quand je demande à un fournisseur de plateforme de crédit IA quelle méthode d'explicabilité il utilise, j'obtiens souvent soit SHAP, soit LIME, soit les deux. Rarement une explication sur pourquoi ce choix plutôt qu'un autre. C'est un problème, parce que LIME et SHAP reposent sur des principes fondamentalement différents, produisent des résultats différents sur les mêmes données, et servent des objectifs légèrement différents. Comprendre cette différence n'est pas réservé aux data scientists — c'est une information pratique pour quiconque évalue une plateforme ou reçoit une décision de crédit expliquée par l'une de ces méthodes.
Les principes fondateurs de chaque méthode
SHAP repose sur la théorie des jeux coopératifs. Il calcule la contribution de chaque variable en mesurant sa contribution marginale sur toutes les combinaisons possibles de variables. Cette approche est mathématiquement rigoureuse et garantit des propriétés souhaitables — cohérence, symétrie, additivité — que d'autres méthodes ne peuvent pas garantir. Le résultat est une valeur précise pour chaque variable, indiquant dans quel sens et dans quelle mesure elle a influencé la décision. LIME fonctionne différemment. Il génère des données synthétiques autour du cas à expliquer, observe comment le modèle réagit à ces variations, et construit un modèle local simple — généralement une régression linéaire — qui approxime le comportement du modèle complexe dans cette région locale de l'espace des données. L'explication produite est celle du modèle simple, pas du modèle réel. C'est une approximation par nature, et sa qualité dépend de la façon dont les données synthétiques sont générées et de la pertinence du modèle local choisi. Ces deux approches ne sont pas concurrentes au sens où l'une serait meilleure que l'autre — elles répondent à la même question avec des outils différents et des garanties différentes.
SHAP est mathématiquement exact sur ses garanties théoriques, LIME est une approximation locale par construction.
Quand les deux méthodes divergent
La divergence entre LIME et SHAP est un phénomène documenté et non une exception. Elle survient principalement dans deux situations. La première est la présence de fortes interactions entre variables. SHAP tient compte de ces interactions dans son calcul — c'est l'un de ses avantages. LIME, en construisant un modèle linéaire local, ne peut pas capturer des interactions non linéaires complexes. Dans un modèle de crédit où le revenu et la durée d'emploi interagissent fortement, LIME peut attribuer une importance très différente à chacune de ces variables par rapport à SHAP. La deuxième situation est la présence de données rares ou atypiques. LIME génère des données synthétiques autour du cas à expliquer, et si la méthode de génération ne respecte pas la structure réelle des données, le modèle local construit peut être peu représentatif. SHAP, en calculant les contributions sur les données réelles, est moins sensible à ce problème. En pratique, lorsque LIME et SHAP divergent significativement sur un même cas, c'est souvent un signal que le modèle a un comportement complexe dans cette région de l'espace des données — et que l'explication mérite une vérification supplémentaire avant d'être transmise à l'emprunteur.
Une divergence entre LIME et SHAP sur le même cas est un signal d'alerte sur la complexité locale du modèle.
Implications pratiques pour la contestabilité
La méthode d'explicabilité choisie a des implications directes pour la capacité d'un emprunteur à contester une décision. Si la plateforme utilise SHAP, les valeurs produites sont cohérentes avec les propriétés mathématiques de la méthode et peuvent être défendues devant un auditeur ou un tribunal avec une base théorique solide. Si la plateforme utilise LIME, les explications sont des approximations locales dont la précision peut varier selon les cas. Cela ne les rend pas inutilisables pour la contestation, mais cela signifie qu'un expert adverse pourrait remettre en cause leur précision dans un cas spécifique. En pratique, ce que je recommande aux emprunteurs qui souhaitent contester une décision est de demander d'abord quelle méthode a été utilisée, puis de vérifier si les explications sont cohérentes avec ce qu'ils savent de leur situation financière réelle. Une explication qui attribue un poids négatif important à une variable qui, dans leur cas, est plutôt favorable mérite une vérification. Cela peut indiquer soit une erreur de données, soit un comportement local du modèle difficile à justifier.
Les explications SHAP sont mathématiquement défendables, ce qui renforce leur valeur dans un contexte de contestation formelle.
Le cas des modèles complexes
SHAP et LIME ont tous deux été conçus pour expliquer des modèles complexes — réseaux de neurones, forêts aléatoires, gradient boosting — qui ne sont pas interprétables directement. Mais leur applicabilité varie selon le type de modèle. SHAP dispose de variantes spécifiques optimisées pour différentes architectures — TreeSHAP pour les modèles basés sur des arbres de décision, DeepSHAP pour les réseaux de neurones — ce qui lui permet de produire des explications précises sans recourir à des approximations trop grossières. LIME est plus générique et peut être appliqué à n'importe quel type de modèle, mais cette généricité a un coût : les approximations peuvent être moins précises sur des modèles très complexes avec des comportements hautement non linéaires. Pour les plateformes de crédit qui utilisent des modèles de gradient boosting — ce qui est fréquent dans ce domaine — TreeSHAP offre généralement des explications plus précises et plus stables que LIME. C'est l'une des raisons pour lesquelles SHAP est devenu la méthode dominante dans les applications de crédit à haute exigence de conformité.
Pour les modèles basés sur des arbres de décision, TreeSHAP offre des explications plus précises et stables que LIME.
Comment choisir entre les deux
La question du choix entre LIME et SHAP ne se pose pas de la même façon selon que vous êtes emprunteur, institution financière ou régulateur. Pour un emprunteur, ce qui compte c'est la lisibilité et la cohérence de l'explication avec sa situation réelle — pas la méthode technique sous-jacente. Pour une institution financière, ce qui compte c'est la défendabilité réglementaire, la cohérence sur le temps et la capacité à auditer les explications. Pour ces objectifs, SHAP est généralement préférable. Pour un régulateur, ce qui compte c'est la traçabilité et la cohérence sur l'ensemble des décisions — et là encore, les garanties mathématiques de SHAP sont un avantage. Ma recommandation pratique est la suivante : si vous évaluez une plateforme et qu'elle utilise LIME uniquement, demandez pourquoi SHAP n'est pas disponible. La réponse vous en apprendra beaucoup sur la maturité technique de l'équipe. Si elle utilise les deux, demandez dans quels cas elle utilise l'un plutôt que l'autre et comment elle gère les divergences éventuelles. L'absence de réponse claire est, une fois de plus, une information en elle-même.
Pour les usages à haute exigence de conformité, SHAP est préférable en raison de ses garanties mathématiques documentées.