XAI· Explainable AI : IA explicable

Ensemble de méthodes visant à rendre compréhensibles les décisions produites par un modèle.

ExempleLIME explique localement le refus d'un crédit par un modèle opaque : le taux d'endettement contribue à +0,32 au refus, l'ancienneté professionnelle à -0,18 ; interprétation au niveau du dossier individuel.