Explicabilité par conception· Explainability by design

Approche privilégiant des modèles interprétables plutôt que d'expliquer a posteriori un modèle opaque.

ExempleUn assureur préfère une régression logistique avec 15 variables interprétables à un réseau de neurones plus précis mais opaque : pour satisfaire le droit à l'explication du RGPD article 22.

En clairDeux voies s'opposent : construire un système simple et compréhensible dès le départ, ou en construire un opaque puis tenter d'expliquer ses décisions après coup. La première coûte souvent un peu de performance et évite beaucoup d'ennuis. Sur les décisions qui touchent des personnes, ce compromis mérite d'être posé avant, pas après. Le choix se fait au moment de la conception, et il ne se rattrape pas ensuite.