Guide
Droit à l'explication d'une décision prise avec l'IA
Article 86 de l'AI Act : une personne visée par une décision appuyée sur une IA à haut risque peut en demander l'explication. Conditions et limites.
Mis à jour le
- la décision s'appuie sur la sortie d'un système à haut risque listé à l'annexe III. Les systèmes du point 2 (infrastructures critiques) sont exclus ;
- la décision produit des effets juridiques sur la personne, ou l'affecte de manière significative de façon similaire ;
- la personne considère que la décision a des conséquences négatives sur sa santé, sa sécurité ou ses droits fondamentaux.
L'article 86 de l'AI Act crée un droit à l'explication : une personne visée par une décision que prend un déployeur en s'appuyant sur la sortie d'un système d'IA à haut risque de l'annexe III peut obtenir de lui des explications claires et pertinentes sur le rôle du système dans la décision et sur ses principaux éléments. Le droit est réservé aux décisions qui ont des effets juridiques ou qui touchent la personne de manière comparable, et à celles que la personne estime nuisibles à sa santé, à sa sécurité ou à ses droits fondamentaux. Informations générales, à faire valider par un juriste.
Les trois conditions cumulatives
D'après l'article 86, paragraphe 1, le droit existe si :
- la décision s'appuie sur la sortie d'un système à haut risque listé à l'annexe III. Les systèmes du point 2 (infrastructures critiques) sont exclus ;
- la décision produit des effets juridiques sur la personne, ou l'affecte de manière significative de façon similaire ;
- la personne considère que la décision a des conséquences négatives sur sa santé, sa sécurité ou ses droits fondamentaux.
Le texte prend en compte l'appréciation de la personne quant aux conséquences négatives. Cela ne dispense pas d'examiner les autres conditions du droit ; cette page ne détermine pas les règles de preuve d'une procédure particulière.
Ce que l'explication doit couvrir
Le texte demande deux choses :
- le rôle qu'a joué le système d'IA dans la procédure de décision ;
- les principaux éléments de la décision prise.
Le texte ne demande pas de publier le code ou les paramètres du modèle. Il demande une explication utilisable par la personne. En pratique, cela suppose que l'entreprise sache elle-même à quel moment l'outil est intervenu : seul avis, simple aide ou critère déterminant.
Les limites prévues par le texte
- Le droit cède devant le droit de l'Union ou le droit national qui prévoient des exceptions ou des restrictions, à condition qu'elles respectent le droit de l'Union (paragraphe 2).
- Il ne s'applique que si le droit de l'Union ne prévoit pas déjà ce droit (paragraphe 3). Si un autre texte de l'Union, comme le RGPD, donne déjà ce droit, c'est lui qui joue ; voir AI Act et RGPD pour l'articulation générale entre les deux textes.
Quels usages sont concernés
L'annexe III couvre notamment le recrutement et la gestion des salariés, l'éducation, l'accès aux services essentiels comme le crédit ou l'assurance. Voir la liste de l'annexe III. Le droit d'explication est donc surtout pertinent pour une décision individuelle : refus d'un candidat, de crédit, d'une prestation.
L'article 86 appartient au chapitre IX. Le report de l'article 113(c) vise les sections 1 à 3 du chapitre III : il ne permet donc pas de reporter automatiquement ce droit au 02/12/2027. La date générale est le 02/08/2026, sous réserve de l'examen des dispositions transitoires de l'article 111 pour le système concerné. Voir le calendrier. Cette lecture distingue la date de l'article de son application à un dossier précis.
Le lien avec les autres devoirs du déployeur
Une obligation voisine figure à l'article 26, paragraphe 11 : informer les personnes qu'elles sont soumises à un système à haut risque de l'annexe III lorsqu'il prend ou aide à prendre des décisions les concernant. Voir les obligations du déployeur. L'explication de l'article 86 vient après une décision ; l'information de l'article 26 porte sur l'utilisation du système dans la décision. Son paragraphe 11 ne fixe pas, à lui seul, une procédure détaillée de réponse à une demande d'explication.
Réunir les pièces de la décision
Une explication doit s'appuyer sur la décision réellement prise. Retrouvez la sortie du système, son rôle dans le processus et les éléments retenus par la personne responsable. Distinguez ce qui est documenté de ce qui reste incertain ; une justification rédigée après coup ne doit pas inventer les raisons d'une décision.
Les fonctions documentaires d'ALMA illustrent un moyen de rechercher dans les pièces disponibles. Une synthèse produite par l'assistant doit être contrôlée sur ses sources avant d'être utilisée pour répondre à une personne ; elle ne révèle pas automatiquement le fonctionnement interne d'un autre système.
Prévoyez enfin une vérification des accès : retrouver un dossier ne signifie pas que toutes ses pièces peuvent être communiquées sans examen. La réponse doit être préparée avec les responsables compétents pour la demande reçue.
Se préparer concrètement
- Tracer les décisions où un outil intervient : qui, quand, avec quel score ou recommandation.
- Documenter le rôle de l'outil dans la procédure : aide à la décision, filtre, ou décision automatique.
- Prévoir un circuit : à qui une personne s'adresse-t-elle, qui répond, sous quel délai ?
- Demander au fournisseur les informations qui permettent d'expliquer le fonctionnement et les limites de l'outil.
- Former les personnes qui décident à ne pas se retrancher derrière le résultat de l'outil.
Un recruteur qui s'appuie sur un tri automatique de candidatures doit pouvoir dire, en pratique, ce que l'outil a fait et ce que la personne a décidé. La page jumelle sur l'IA et le recrutement traite ce cas sous l'angle du recruteur.
Pour une situation précise, rapprochez-vous d'un professionnel du droit : cet article d'information ne vaut pas conseil.
Questions fréquentes
Un candidat refusé peut-il demander une explication ?
Il le peut si la décision repose sur la sortie d'un système à haut risque de l'annexe III (le recrutement en fait partie), produit des effets juridiques ou l'affecte de manière significative, et s'il estime qu'elle nuit à sa santé, sa sécurité ou ses droits fondamentaux.
À qui s'adresse la demande ?
Au déployeur, c'est-à-dire à l'entreprise qui a pris la décision, pas au fournisseur du logiciel.
Que doit contenir l'explication ?
Des explications claires et pertinentes sur le rôle du système d'IA dans la procédure de décision et sur les principaux éléments de la décision prise.
Sources
Pages consultées pour écrire cet article :