Aller au contenu
Cercle IA Tech · AI Act Un site du réseau Cercle IA Tech

Guide

Incident grave et IA à haut risque : qui signale ?

Incident grave au sens de l'AI Act : qui le signale, délais de 15, 10 et 2 jours, et ce que doit faire le déployeur (articles 26 et 73).

Mis à jour le

Ce que doit faire le déployeur (article 26, paragraphe 5)
  1. Surveiller le fonctionnement du système selon la notice d'utilisation.
  2. Suspendre l'usage et prévenir sans retard indu le fournisseur ou le distributeur, et l'autorité de surveillance du marché, s'il a des raisons de croire que l'usage conforme à la notice peut créer un risque.
  3. Informer immédiatement le fournisseur en cas d'incident grave, puis l'importateur ou le distributeur et les autorités. Si le fournisseur est injoignable, l'article 73 s'applique avec les adaptations nécessaires.

Un incident grave, au sens de l'AI Act, est un incident ou un dysfonctionnement d'un système d'IA qui entraîne directement ou indirectement l'un des effets listés à l'article 3, point 49. C'est le fournisseur d'un système à haut risque qui le signale à l'autorité de surveillance du marché de l'État membre où il s'est produit, dans un délai de 15 jours au plus après en avoir eu connaissance (10 jours en cas de décès, 2 jours pour une infraction de grande ampleur ou la perturbation grave et irréversible visée par le texte). Le déployeur informe immédiatement le fournisseur, puis les autres destinataires prévus par l'article 26(5). Les maxima de jours ne sont pas des délais d'attente autorisés. Informations générales, à faire valider par un juriste.

Ce que le texte appelle un « incident grave »

L'article 3, point 49, vise l'incident ou le dysfonctionnement qui conduit, directement ou indirectement, à :

  • a) la mort d'une personne ou une atteinte grave à sa santé ;
  • b) une perturbation grave et irréversible de la gestion ou du fonctionnement d'infrastructures critiques ;
  • c) la violation d'obligations du droit de l'Union destinées à protéger les droits fondamentaux ;
  • d) un dommage grave aux biens ou à l'environnement.

Les délais de l'article 73

Situation Délai de signalement par le fournisseur
Cas général Immédiatement après avoir établi le lien de causalité (ou sa probabilité raisonnable), et au plus tard 15 jours après avoir eu connaissance de l'incident
Infraction de grande ampleur ou incident de type b) ci-dessus Immédiatement, et au plus tard 2 jours
Décès d'une personne Immédiatement après établissement ou suspicion du lien, et au plus tard 10 jours
Rapport initial incomplet Possible si nécessaire pour respecter le délai, suivi d'un rapport complet

Le délai court à partir du moment où le fournisseur, ou le déployeur le cas échéant, a connaissance de l'incident. D'où l'intérêt pour le déployeur de transmettre l'information vite.

Ce que doit faire le déployeur (article 26, paragraphe 5)

  1. Surveiller le fonctionnement du système selon la notice d'utilisation.
  2. Suspendre l'usage et prévenir sans retard indu le fournisseur ou le distributeur, et l'autorité de surveillance du marché, s'il a des raisons de croire que l'usage conforme à la notice peut créer un risque.
  3. Informer immédiatement le fournisseur en cas d'incident grave, puis l'importateur ou le distributeur et les autorités. Si le fournisseur est injoignable, l'article 73 s'applique avec les adaptations nécessaires.

Pour la liste complète de ses devoirs, voir les obligations du déployeur.

Après le signalement

Le fournisseur doit enquêter sans délai : évaluation du risque, mesures correctives, coopération avec les autorités. Il ne doit pas modifier le système d'une manière qui pourrait affecter l'analyse ultérieure des causes avant d'avoir informé les autorités (article 73, paragraphe 6). L'autorité de surveillance du marché doit prendre les mesures appropriées dans les sept jours suivant la notification (paragraphe 8).

Pour certains systèmes (ceux de fournisseurs déjà soumis à des obligations équivalentes de signalement, et les dispositifs médicaux), seuls les incidents de type c) sont à notifier selon l'article 73, paragraphes 9 et 10.

Une confusion fréquente avec le RGPD

Une violation de données personnelles se notifie selon le RGPD, avec ses propres délais. Un même événement peut relever des deux régimes : l'incident d'un système d'IA qui expose des données, par exemple. Les deux démarches sont distinctes. Pour les délais côté données chez un prestataire, voir la page jumelle sur la violation de données chez un sous-traitant.

Préparer une chronologie factuelle

À la réception d'une alerte, consignez le moment où elle a été connue, le système et la version concernés, les effets constatés et les personnes déjà prévenues. Distinguez les faits, les hypothèses sur la cause et les vérifications restantes. Un rapport initial peut être complété ; cela ne justifie pas de présenter une cause supposée comme établie.

Pour retrouver les procédures internes, les fonctions documentaires d'ALMA présentent un exemple d'assistant. Vérifiez la procédure citée et sa version avant d'agir. Cet accès documentaire ne remplace ni les responsables de l'incident ni le signalement aux destinataires compétents.

Organisez une simulation avec un scénario fictif : accès aux contacts, décision de suspension, collecte des éléments utiles et reprise autorisée. Vérifiez que la personne d'astreinte peut réellement exécuter ces étapes. Cette préparation opérationnelle est proposée pour votre équipe ; elle ne vaut pas formulaire officiel de notification.

Se préparer avant l'incident

  • Tenir à jour la liste des systèmes à haut risque utilisés et le contact de chaque fournisseur.
  • Définir qui, en interne, reçoit une alerte et décide de suspendre l'outil.
  • Conserver les journaux générés par le système qui sont sous votre contrôle, pendant une durée adaptée avec un minimum de six mois sauf disposition légale contraire (article 26, paragraphe 6) ; voir AI Act et RGPD pour l'articulation avec la durée de conservation des données.
  • Écrire la chaîne d'appel : qui prévient le fournisseur, qui prévient la direction, qui garde la trace.

L'article 73 est situé au chapitre IX ; son calendrier ne se déduit pas automatiquement du report des sections 1 à 3 du chapitre III. Examinez les articles 111 et 113 pour le système concerné et distinguez cette analyse de celle des obligations du déployeur à l'article 26. Voir le calendrier.

Questions fréquentes

Qui doit déclarer un incident grave : le fournisseur ou le déployeur ?

L'article 73 met le signalement aux autorités à la charge du fournisseur d'un système à haut risque. Le déployeur qui identifie un incident grave informe immédiatement le fournisseur d'abord, puis l'importateur ou le distributeur et les autorités de surveillance du marché (article 26, paragraphe 5).

Quels sont les délais de signalement ?

Au plus tard 15 jours après la prise de connaissance, 2 jours pour une infraction de grande ampleur ou une perturbation grave et irréversible d'une infrastructure critique, 10 jours en cas de décès (article 73, paragraphes 2 à 4).

Faut-il suspendre l'outil en cas de risque ?

Oui : le déployeur qui a des raisons de croire que l'usage conforme à la notice peut créer un risque informe sans retard indu le fournisseur ou le distributeur et l'autorité, et suspend l'usage (article 26, paragraphe 5).

Sources

Pages consultées pour écrire cet article :

  1. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-113
  2. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-73
  3. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-3
  4. https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-26

À lire aussi