Explicabilité des décisions de l'IA : savoir répondre à « pourquoi ? »

Un salarié, un client ou un auditeur demande pourquoi l'IA a proposé cette réponse, ce refus ou ce montant : sans trace, personne ne sait répondre. Notre travail sur l'explicabilité des décisions de l'IA définit ce qu'il faut conserver et comment l'expliquer : journal des entrées, des sources consultées, de la version du modèle et des consignes actives, identité de la personne qui a validé, gabarits d'explication adaptés à chaque interlocuteur. Vous obtenez un dispositif léger, proportionné au risque, qui permet de reconstituer une décision et de répondre sans improviser.

Expliquer une IA ne veut pas dire ouvrir la boîte noire d'un modèle. Pour une entreprise, il s'agit de pouvoir reconstituer ce qui s'est passé : quelle question a été posée, quels documents ont été consultés, quelle version du modèle et quelles consignes étaient actives, qui a validé ensuite. L'explicabilité des décisions de l'IA est demandée quand un client conteste une réponse, quand un régulateur ou un auditeur pose des questions, ou quand un système influence des décisions qui touchent des personnes : recrutement, crédit, assurance, évaluation. Le RGPD prévoit d'ailleurs une information sur la logique des décisions automatisées dans certains cas, et le règlement européen sur l'IA, appliqué progressivement, insiste sur la traçabilité des systèmes à risque élevé. Au quotidien, la démarche ajoute peu de charge : la journalisation est automatique et les explications reposent sur des gabarits. Ce service ne rend pas un modèle transparent par magie et ne garantit pas qu'une décision soit juste, il rend les décisions retrouvables et défendables. L'avis juridique sur le niveau d'explication dû reste celui de votre conseil.

• L'effort de traçabilité est proportionné : les décisions à fort impact sont tracées finement, les autres légèrement.
• La trace relie la réponse aux documents sources exacts, ce qui permet de vérifier d'où vient une affirmation.
• Les gabarits d'explication distinguent client, salarié, auditeur et direction, car chacun attend un niveau de détail différent.
• Un exercice de reconstitution sur un dossier choisi au hasard éprouve le dispositif avant qu'un litige ne le fasse.
• Les durées de conservation sont fixées avec le DPO pour éviter que le journal devienne lui-même un risque.

• Cartographie des décisions à tracer
• Spécification du journal de traçabilité
• Journalisation configurée sur vos outils
• Gabarits d'explication par interlocuteur
• Procédure de réponse à une demande d'explication
• Compte rendu de l'exercice de reconstitution

• Nous ne pourrions pas expliquer à un client pourquoi notre assistant a donné telle réponse
• Nous craignons un litige sans trace permettant de rejouer ce qui s'est passé
• Notre DPO demande comment justifier les décisions assistées par IA

Courtier en assurance de 40 personnes dont un assistant propose des devis : chaque proposition conserve les données lues, les règles appliquées et le conseiller qui l'a validée, pour répondre à une réclamation.

Cabinet de recrutement de 30 personnes qui classe des candidatures avec un outil d'IA : chaque classement s'accompagne d'une explication lisible et des critères retenus, que le recruteur peut transmettre à un candidat qui la demande.

PME de services financiers de 70 salariés avec un chatbot d'information : chaque réponse est reliée aux documents sources, ce qui permet de rectifier vite un contenu périmé ou erroné signalé par un client.

Public visé

DPO · Directeur des risques · DSI · Responsable de la conformité

Tailles d’entreprise

PME · ETI

Secteurs adaptés

Assurance · Banque · Recrutement · Santé · Services publics · Services juridiques

Prérequis

Un système d'IA en service ou en cours de développement · Accès à la configuration technique ou à l'éditeur de l'outil · Un référent métier qui connaît les décisions concernées

• Langfuse
• LangSmith
• OpenTelemetry
• PostgreSQL
• Python
• Metabase
• Power BI

Souvent, retrouver une décision en minutes plutôt qu'en journées de recherche réduit le coût de traitement d'une réclamation ou d'un contrôle, de l'ordre de plusieurs heures par dossier contesté. Le gain dépend du nombre de litiges, à valider lors du diagnostic.