Supervision humaine, ce que le AI Act exige pour l’IA à haut risque

Supervision humaine : le cadre de l’article 14 de l’AI Act

L’article 14 du règlement européen sur l’intelligence artificielle impose une supervision humaine pour les systèmes d’IA à haut risque. Cette exigence vise à prévenir ou réduire les risques pour la santé, la sécurité et les droits fondamentaux.

La règle ne se satisfait pas de la présence nominale d’une personne quelque part dans une chaîne décisionnelle. Le système doit être conçu pour que des personnes physiques puissent le comprendre et agir sur son fonctionnement pendant son utilisation.

Selon le règlement (UE) 2024/1689, cette possibilité doit être intégrée dès la conception, notamment au moyen d’interfaces adaptées. Le contrôle opérationnel dépend donc à la fois des fonctionnalités du système et de l’organisation qui l’utilise.

La supervision ne signifie pas nécessairement que chaque résultat doit recevoir une approbation manuelle. Son niveau dépend du contexte d’utilisation, des conséquences possibles et des moyens réellement disponibles pour surveiller les résultats.

Quels systèmes et quels acteurs sont concernés ?

Dans ce cadre, la première étape consiste à déterminer si le système relève de la catégorie à haut risque définie par le règlement. Celle-ci comprend notamment certains usages liés à l’emploi, à l’éducation, au crédit ou aux produits réglementés.

Un outil de tri de candidatures, par exemple, peut influencer l’accès à l’emploi et appelle donc une analyse attentive de sa finalité. Un logiciel d’aide au diagnostic médical peut aussi être concerné lorsqu’il entre dans le champ des règles applicables aux produits concernés.

La répartition des responsabilités dépend ensuite du rôle exercé. Le fournisseur doit concevoir un système supervisable, tandis que le déployeur doit organiser son utilisation et confier la supervision à des personnes adéquatement soutenues.

Une même entreprise peut cumuler ces rôles lorsqu’elle développe un outil puis l’utilise dans ses propres opérations. Elle doit alors distinguer les mesures de conception de celles qui encadrent le travail quotidien des équipes.

Pourquoi la supervision doit être effective

Une politique interne qui annonce qu’un humain « vérifie » chaque résultat ne démontre pas, à elle seule, une supervision effective. Encore faut-il que cette personne ait accès aux informations utiles, au temps nécessaire et au pouvoir d’intervenir.

Selon le règlement, la supervision doit permettre de prévenir ou de réduire les risques liés à l’utilisation prévue et à certaines utilisations abusives raisonnablement prévisibles. La gestion des risques doit donc tenir compte des tâches concrètes et des personnes touchées.

Une entreprise peut, par exemple, constater qu’un résultat automatique est rarement contesté par ses équipes. Ce constat invite à examiner la charge de travail, la présentation des recommandations et l’autorité accordée aux personnes chargées de les évaluer.

La conformité se construit ainsi autour d’un équilibre : le système doit rester utile sans devenir une autorité impossible à questionner. Pour y parvenir, il faut examiner précisément les capacités techniques qui rendent l’intervention possible.

Capacités techniques : comprendre, détecter et interrompre

Une fois le périmètre défini, la question devient concrète : que peut faire la personne chargée de la supervision devant une sortie problématique ? L’article 14 demande que le système lui fournisse les moyens nécessaires pour suivre son fonctionnement.

La compréhension des capacités et des limites est essentielle, car un résultat isolé ne révèle pas toujours les conditions dans lesquelles le système fonctionne correctement. Les informations destinées au superviseur doivent l’aider à repérer les écarts et les situations inhabituelles.

Rendre les résultats interprétables

Selon l’article 14, les personnes doivent pouvoir surveiller le fonctionnement et détecter les anomalies, notamment les dysfonctionnements ou les performances inattendues. Une interface utile peut présenter les alertes et les limites connues dans un langage compréhensible pour son public.

Pour un outil qui produit des estimations probabilistes, les indications de confiance ou d’incertitude peuvent aider à interpréter une sortie. Elles ne garantissent pas qu’elle soit juste ; elles fournissent plutôt un élément à examiner parmi d’autres informations pertinentes.

Une explication adaptée dépend de l’usage. Un recruteur peut avoir besoin de comprendre les critères pertinents pour examiner une candidature, tandis qu’un professionnel de santé doit pouvoir replacer une indication dans son expertise et son contexte clinique.

Les alertes devraient également signaler lorsqu’une entrée s’éloigne des situations pour lesquelles le système a été conçu, si cette information est disponible et pertinente. Sans cette visibilité, l’utilisateur risque de traiter une réponse incertaine comme une recommandation ordinaire.

La présentation joue aussi un rôle dans la prévention des biais d’automatisation, c’est-à-dire la tendance à accorder une confiance excessive à une sortie automatisée. Une interface qui présente le résultat comme une décision définitive peut décourager l’examen indépendant.

Prévoir le rejet et l’arrêt du système

La personne chargée de la surveillance humaine doit pouvoir décider de ne pas suivre un résultat, de l’écarter ou de le remplacer lorsque la situation le justifie. Cette faculté reste théorique si les procédures internes sanctionnent systématiquement les désaccords ou empêchent toute modification.

Le système doit aussi permettre une intervention humaine sur son fonctionnement, y compris son interruption dans des conditions prévues. L’arrêt doit conduire à une situation maîtrisée, avec une procédure de reprise manuelle adaptée au service concerné.

Pour une plateforme de recrutement, cela peut signifier suspendre le classement automatique lorsqu’une série de profils reçoit des résultats incohérents. L’équipe peut alors reprendre les candidatures selon une méthode documentée, sans laisser l’outil bloquer l’ensemble du processus.

Les journaux d’événements permettent de comprendre les décisions d’intervention et de repérer les problèmes récurrents. Leur contenu et leur conservation doivent être organisés avec soin, en tenant compte des autres règles applicables aux données et aux dossiers concernés.

Ces moyens techniques ne suffisent toutefois que si les personnes savent les utiliser et peuvent le faire sans obstacle organisationnel. La suite dépend donc de la définition des rôles, des compétences et des procédures de travail.

Repères pour l’interface et les contrôles :

• Affichage compréhensible des limites et des incertitudes
• Signalement des anomalies et des entrées atypiques
• Possibilité de rejeter ou de remplacer une sortie
• Arrêt accessible avec procédure de reprise manuelle

Organisation du déploiement : rôles, procédures et décisions

Les outils prennent leur sens lorsqu’ils s’inscrivent dans une organisation qui autorise réellement la vigilance et l’intervention humaine. Le déployeur doit préciser qui supervise chaque usage et dans quelles conditions cette responsabilité s’exerce.

Selon le règlement, les personnes affectées à la supervision doivent disposer de la compétence, de la formation, de l’autorité et du soutien nécessaires. Une désignation sur un organigramme ne remplace donc ni les ressources ni les pouvoirs utiles.

Définir un rôle doté d’une véritable autorité

Le rôle doit préciser les systèmes concernés, les décisions soutenues et les situations exigeant un examen indépendant. Il faut aussi définir qui peut invalider une sortie, interrompre le système ou transmettre un incident à un niveau supérieur.

Il est également nécessaire de prévoir une voie d’escalade. Lorsqu’un utilisateur détecte une anomalie qu’il ne peut résoudre, il doit pouvoir suspendre l’usage concerné et prévenir une personne compétente sans délai inutile.

Adapter la supervision au déroulement du travail

Une organisation pratique peut examiner la supervision avant, pendant et après l’exécution, même si cette grille n’est pas une formule imposée par l’article 14. Elle aide à relier la préparation, le contrôle opérationnel et l’analyse des interventions.

Avant l’usage, l’équipe vérifie la finalité, les paramètres et la pertinence des informations disponibles. Pendant le traitement, elle surveille les sorties et les signaux inhabituels ; après, elle motive les décisions importantes et examine les désaccords.

Le tableau suivant propose des exemples de documents utiles à cette organisation. Il s’agit de supports pratiques : le règlement ne prescrit pas un modèle unique ni un nom particulier pour chacun d’eux.

Moment	Vérification utile	Trace possible
Avant l’usage	Finalité et paramétrage adaptés	Fiche de préparation
Pendant l’usage	Fonctionnement et alertes suivis	Journal d’événements
Après une sortie	Résultat examiné et décision motivée	Registre d’intervention
En cas d’anomalie	Escalade et arrêt selon procédure	Rapport d’incident

Dans une petite structure, ces supports peuvent rester simples, pourvu qu’ils permettent aux équipes de comprendre leurs responsabilités. Le point essentiel est que les procédures correspondent au travail réel, et non à une organisation seulement décrite sur papier.

Une fois les rôles clarifiés, l’efficacité dépend de la préparation des personnes et de leur capacité à exercer leur jugement face aux sorties automatisées.

Éléments à préciser dans une procédure :

• Responsable désigné pour chaque usage concerné
• Critères de vérification indépendante des résultats
• Autorité d’invalidation et procédure d’escalade
• Informations à consigner après une intervention

Compétences et formation : donner des moyens aux superviseurs

Une procédure bien écrite ne protège pas contre les erreurs si les personnes chargées de l’appliquer ne comprennent pas le système. La formation doit donc porter sur l’outil précis, les décisions qu’il soutient et les risques observables dans son contexte.

La simple sensibilisation générale à l’intelligence artificielle ne suffit pas à préparer un superviseur à lire une alerte ou à contester une recommandation. Il lui faut des repères pratiques, des exercices et un accès régulier aux informations utiles.

Former à l’usage, aux limites et aux signaux d’alerte

Une formation pertinente explique la finalité du système, ses limites documentées et les situations dans lesquelles ses résultats deviennent moins fiables. Elle apprend aussi à interpréter les indicateurs disponibles sans les confondre avec une garantie de justesse.

Pour une équipe de recrutement, un exercice peut comparer des recommandations du système avec des dossiers examinés indépendamment. Les participants apprennent ainsi à rechercher les incohérences et à se demander si les critères mobilisés correspondent à la finalité annoncée.

La prévention des biais demande une vigilance particulière lorsque la décision touche l’accès à l’emploi, au crédit ou à un service essentiel. Les superviseurs doivent connaître les limites connues et savoir à qui signaler des effets préoccupants.

La formation doit également couvrir les gestes opérationnels : rejeter une sortie, déclencher une escalade, mettre le système en pause et documenter une décision. Des rappels périodiques sont utiles lorsque le système, les procédures ou les responsabilités évoluent.

Le temps consacré à cette mission compte autant que le contenu pédagogique. Une personne surchargée, privée d’accès aux journaux ou évaluée uniquement sur la rapidité des décisions aura peu de latitude pour exercer un jugement indépendant.

Maintenir une décision humaine réellement indépendante

Le biais d’automatisation peut apparaître lorsque les utilisateurs acceptent trop facilement une recommandation présentée avec assurance ou intégrée à un outil familier. Des consignes seules ne suffisent pas toujours ; l’interface et les pratiques de travail doivent aussi encourager l’examen critique.

Une équipe peut, par exemple, examiner les informations pertinentes avant de consulter la recommandation automatisée, lorsque son activité le permet. Cette organisation réduit le risque que le premier résultat visible devienne automatiquement le point de référence de toute l’analyse.

Les responsables peuvent étudier les désaccords entre les utilisateurs et le système sans traiter chaque divergence comme une erreur humaine. Ces cas peuvent révéler une limite du modèle, une donnée inadéquate ou un besoin de clarification des consignes.

Les superviseurs doivent savoir expliquer pourquoi ils ont suivi, écarté ou transmis une sortie lorsqu’une telle trace est prévue par les procédures internes. Cette pratique soutient l’apprentissage collectif et aide à vérifier que les personnes disposent d’une véritable marge de décision.

Une supervision de qualité ne cherche donc pas à remplacer l’expertise par une validation mécanique. Elle combine la compréhension des capacités du système avec le jugement du métier et la possibilité d’agir lorsque les deux divergent.

Compétences à intégrer au parcours de formation :

• Connaissance de la finalité et des limites du système
• Lecture des indicateurs d’incertitude et des alertes
• Repérage des anomalies et des effets indésirables
• Maîtrise des procédures d’arrêt et d’escalade

Documentation et audit : démontrer la supervision effective

La supervision doit pouvoir être expliquée à partir de preuves cohérentes, plutôt que reconstituée après un incident. Les documents utiles relient les capacités techniques, les procédures, la formation et les interventions réellement effectuées.

Selon le règlement, le fournisseur doit fournir des informations permettant l’utilisation conforme du système et sa supervision. Le déployeur doit, de son côté, organiser l’usage conformément aux instructions applicables et tenir compte de ses responsabilités propres.

Constituer des preuves utiles et proportionnées

Un dossier de supervision peut réunir la description des capacités, les limites connues, les consignes d’utilisation et les modalités d’interruption. Il peut aussi inclure les rôles désignés, les supports de formation et les procédures de traitement des anomalies.

Les journaux et registres aident à montrer comment l’organisation a réagi aux résultats contestés ou aux alertes. Leur utilité dépend de la qualité des informations consignées : une trace doit permettre de comprendre l’événement sans accumuler des données sans objectif défini.

Les autorités peuvent examiner les éléments pertinents pour vérifier que la supervision est prévue et praticable. La documentation technique du fournisseur, les procédures internes et les traces d’intervention doivent donc raconter une histoire cohérente du dispositif.

Les documents doivent évoluer lorsque le système change, que son usage se transforme ou que de nouveaux problèmes apparaissent. Une fiche jamais révisée peut décrire un outil qui ne correspond plus aux opérations réellement menées.

Le tableau ci-dessous rassemble des pièces possibles et leur fonction pratique. Il ne constitue pas une liste réglementaire exhaustive ni une fréquence de mise à jour imposée par l’AI Act.

Document	Utilité opérationnelle	Révision à envisager
Fiche du système	Décrire finalité, capacités et limites	Après une évolution importante
Registre des rôles	Identifier les personnes habilitées	Lors d’un changement d’équipe
Plan de formation	Suivre les compétences nécessaires	Après une modification des usages
Journal d’intervention	Analyser les rejets et escalades	Selon les procédures de conservation

Relier les preuves aux risques du déploiement

Un audit interne peut commencer par une question simple : une personne formée peut-elle comprendre une sortie, la contester et interrompre le système si nécessaire ? Si l’une de ces actions est impossible, l’organisation doit identifier si le problème relève de l’interface, des pouvoirs ou des procédures.

Une entreprise qui observe des validations presque systématiques peut comparer les journaux, les consignes de travail et les contraintes de délai. L’objectif n’est pas de présumer une faute, mais de repérer les conditions qui empêchent un examen indépendant.

La protection des droits fondamentaux doit guider l’analyse, surtout lorsque les résultats influencent des possibilités importantes pour les personnes. Les équipes peuvent examiner les cas de contestation, les anomalies et les effets inattendus, puis transmettre les constats aux responsables concernés.

Les normes de management de l’intelligence artificielle peuvent aider une organisation à structurer ses processus, sans remplacer les obligations du règlement. Il faut distinguer un outil méthodologique d’une preuve automatique de conformité à l’article 14.

Pour une petite entreprise, une démarche progressive reste possible : recenser les usages, clarifier les responsabilités, tester les mécanismes d’intervention et conserver des traces proportionnées. L’essentiel est que les garanties décrites fonctionnent dans le travail quotidien, au bénéfice des personnes et des décisions concernées.

Source : Parlement européen et Conseil, « Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle », Journal officiel de l’Union européenne, 2024.

Il est également nécessaire de prévoir une voie d’escalade. Lorsqu’un utilisateur détecte une anomalie qu’il ne peut résoudre, il doit pouvoir suspendre l’usage concerné et prévenir une personne compétente sans délai inutile.

Adapter la supervision au déroulement du travail

Une organisation pratique peut examiner la supervision avant, pendant et après l’exécution, même si cette grille n’est pas une formule imposée par l’article 14. Elle aide à relier la préparation, le contrôle opérationnel et l’analyse des interventions.

Avant l’usage, l’équipe vérifie la finalité, les paramètres et la pertinence des informations disponibles. Pendant le traitement, elle surveille les sorties et les signaux inhabituels ; après, elle motive les décisions importantes et examine les désaccords.

Le tableau suivant propose des exemples de documents utiles à cette organisation. Il s’agit de supports pratiques : le règlement ne prescrit pas un modèle unique ni un nom particulier pour chacun d’eux.

Moment	Vérification utile	Trace possible
Avant l’usage	Finalité et paramétrage adaptés	Fiche de préparation
Pendant l’usage	Fonctionnement et alertes suivis	Journal d’événements
Après une sortie	Résultat examiné et décision motivée	Registre d’intervention
En cas d’anomalie	Escalade et arrêt selon procédure	Rapport d’incident

Dans une petite structure, ces supports peuvent rester simples, pourvu qu’ils permettent aux équipes de comprendre leurs responsabilités. Le point essentiel est que les procédures correspondent au travail réel, et non à une organisation seulement décrite sur papier.

Une fois les rôles clarifiés, l’efficacité dépend de la préparation des personnes et de leur capacité à exercer leur jugement face aux sorties automatisées.

Éléments à préciser dans une procédure :

• Responsable désigné pour chaque usage concerné
• Critères de vérification indépendante des résultats
• Autorité d’invalidation et procédure d’escalade
• Informations à consigner après une intervention

Compétences et formation : donner des moyens aux superviseurs

Une procédure bien écrite ne protège pas contre les erreurs si les personnes chargées de l’appliquer ne comprennent pas le système. La formation doit donc porter sur l’outil précis, les décisions qu’il soutient et les risques observables dans son contexte.

La simple sensibilisation générale à l’intelligence artificielle ne suffit pas à préparer un superviseur à lire une alerte ou à contester une recommandation. Il lui faut des repères pratiques, des exercices et un accès régulier aux informations utiles.

Former à l’usage, aux limites et aux signaux d’alerte

Une formation pertinente explique la finalité du système, ses limites documentées et les situations dans lesquelles ses résultats deviennent moins fiables. Elle apprend aussi à interpréter les indicateurs disponibles sans les confondre avec une garantie de justesse.

Pour une équipe de recrutement, un exercice peut comparer des recommandations du système avec des dossiers examinés indépendamment. Les participants apprennent ainsi à rechercher les incohérences et à se demander si les critères mobilisés correspondent à la finalité annoncée.

La prévention des biais demande une vigilance particulière lorsque la décision touche l’accès à l’emploi, au crédit ou à un service essentiel. Les superviseurs doivent connaître les limites connues et savoir à qui signaler des effets préoccupants.

La formation doit également couvrir les gestes opérationnels : rejeter une sortie, déclencher une escalade, mettre le système en pause et documenter une décision. Des rappels périodiques sont utiles lorsque le système, les procédures ou les responsabilités évoluent.

Le temps consacré à cette mission compte autant que le contenu pédagogique. Une personne surchargée, privée d’accès aux journaux ou évaluée uniquement sur la rapidité des décisions aura peu de latitude pour exercer un jugement indépendant.

Maintenir une décision humaine réellement indépendante

Le biais d’automatisation peut apparaître lorsque les utilisateurs acceptent trop facilement une recommandation présentée avec assurance ou intégrée à un outil familier. Des consignes seules ne suffisent pas toujours ; l’interface et les pratiques de travail doivent aussi encourager l’examen critique.

Une équipe peut, par exemple, examiner les informations pertinentes avant de consulter la recommandation automatisée, lorsque son activité le permet. Cette organisation réduit le risque que le premier résultat visible devienne automatiquement le point de référence de toute l’analyse.

Les responsables peuvent étudier les désaccords entre les utilisateurs et le système sans traiter chaque divergence comme une erreur humaine. Ces cas peuvent révéler une limite du modèle, une donnée inadéquate ou un besoin de clarification des consignes.

Les superviseurs doivent savoir expliquer pourquoi ils ont suivi, écarté ou transmis une sortie lorsqu’une telle trace est prévue par les procédures internes. Cette pratique soutient l’apprentissage collectif et aide à vérifier que les personnes disposent d’une véritable marge de décision.

Une supervision de qualité ne cherche donc pas à remplacer l’expertise par une validation mécanique. Elle combine la compréhension des capacités du système avec le jugement du métier et la possibilité d’agir lorsque les deux divergent.

Compétences à intégrer au parcours de formation :

• Connaissance de la finalité et des limites du système
• Lecture des indicateurs d’incertitude et des alertes
• Repérage des anomalies et des effets indésirables
• Maîtrise des procédures d’arrêt et d’escalade

Documentation et audit : démontrer la supervision effective

La supervision doit pouvoir être expliquée à partir de preuves cohérentes, plutôt que reconstituée après un incident. Les documents utiles relient les capacités techniques, les procédures, la formation et les interventions réellement effectuées.

Selon le règlement, le fournisseur doit fournir des informations permettant l’utilisation conforme du système et sa supervision. Le déployeur doit, de son côté, organiser l’usage conformément aux instructions applicables et tenir compte de ses responsabilités propres.

Constituer des preuves utiles et proportionnées

Un dossier de supervision peut réunir la description des capacités, les limites connues, les consignes d’utilisation et les modalités d’interruption. Il peut aussi inclure les rôles désignés, les supports de formation et les procédures de traitement des anomalies.

Les journaux et registres aident à montrer comment l’organisation a réagi aux résultats contestés ou aux alertes. Leur utilité dépend de la qualité des informations consignées : une trace doit permettre de comprendre l’événement sans accumuler des données sans objectif défini.

Les autorités peuvent examiner les éléments pertinents pour vérifier que la supervision est prévue et praticable. La documentation technique du fournisseur, les procédures internes et les traces d’intervention doivent donc raconter une histoire cohérente du dispositif.

Les documents doivent évoluer lorsque le système change, que son usage se transforme ou que de nouveaux problèmes apparaissent. Une fiche jamais révisée peut décrire un outil qui ne correspond plus aux opérations réellement menées.

Le tableau ci-dessous rassemble des pièces possibles et leur fonction pratique. Il ne constitue pas une liste réglementaire exhaustive ni une fréquence de mise à jour imposée par l’AI Act.

Document	Utilité opérationnelle	Révision à envisager
Fiche du système	Décrire finalité, capacités et limites	Après une évolution importante
Registre des rôles	Identifier les personnes habilitées	Lors d’un changement d’équipe
Plan de formation	Suivre les compétences nécessaires	Après une modification des usages
Journal d’intervention	Analyser les rejets et escalades	Selon les procédures de conservation

Relier les preuves aux risques du déploiement

Un audit interne peut commencer par une question simple : une personne formée peut-elle comprendre une sortie, la contester et interrompre le système si nécessaire ? Si l’une de ces actions est impossible, l’organisation doit identifier si le problème relève de l’interface, des pouvoirs ou des procédures.

Une entreprise qui observe des validations presque systématiques peut comparer les journaux, les consignes de travail et les contraintes de délai. L’objectif n’est pas de présumer une faute, mais de repérer les conditions qui empêchent un examen indépendant.

La protection des droits fondamentaux doit guider l’analyse, surtout lorsque les résultats influencent des possibilités importantes pour les personnes. Les équipes peuvent examiner les cas de contestation, les anomalies et les effets inattendus, puis transmettre les constats aux responsables concernés.

Les normes de management de l’intelligence artificielle peuvent aider une organisation à structurer ses processus, sans remplacer les obligations du règlement. Il faut distinguer un outil méthodologique d’une preuve automatique de conformité à l’article 14.

Pour une petite entreprise, une démarche progressive reste possible : recenser les usages, clarifier les responsabilités, tester les mécanismes d’intervention et conserver des traces proportionnées. L’essentiel est que les garanties décrites fonctionnent dans le travail quotidien, au bénéfice des personnes et des décisions concernées.

Source : Parlement européen et Conseil, « Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle », Journal officiel de l’Union européenne, 2024.

Les procédures gagnent à préciser les signes qui déclenchent une vérification : données manquantes, résultat inhabituel, incohérence avec les informations disponibles ou effet potentiellement disproportionné. Ces critères doivent rester adaptés au système plutôt que copiés d’un modèle générique.

Il est également nécessaire de prévoir une voie d’escalade. Lorsqu’un utilisateur détecte une anomalie qu’il ne peut résoudre, il doit pouvoir suspendre l’usage concerné et prévenir une personne compétente sans délai inutile.

Adapter la supervision au déroulement du travail

Une organisation pratique peut examiner la supervision avant, pendant et après l’exécution, même si cette grille n’est pas une formule imposée par l’article 14. Elle aide à relier la préparation, le contrôle opérationnel et l’analyse des interventions.

Avant l’usage, l’équipe vérifie la finalité, les paramètres et la pertinence des informations disponibles. Pendant le traitement, elle surveille les sorties et les signaux inhabituels ; après, elle motive les décisions importantes et examine les désaccords.

Le tableau suivant propose des exemples de documents utiles à cette organisation. Il s’agit de supports pratiques : le règlement ne prescrit pas un modèle unique ni un nom particulier pour chacun d’eux.

Moment	Vérification utile	Trace possible
Avant l’usage	Finalité et paramétrage adaptés	Fiche de préparation
Pendant l’usage	Fonctionnement et alertes suivis	Journal d’événements
Après une sortie	Résultat examiné et décision motivée	Registre d’intervention
En cas d’anomalie	Escalade et arrêt selon procédure	Rapport d’incident

Dans une petite structure, ces supports peuvent rester simples, pourvu qu’ils permettent aux équipes de comprendre leurs responsabilités. Le point essentiel est que les procédures correspondent au travail réel, et non à une organisation seulement décrite sur papier.

Une fois les rôles clarifiés, l’efficacité dépend de la préparation des personnes et de leur capacité à exercer leur jugement face aux sorties automatisées.

Éléments à préciser dans une procédure :

• Responsable désigné pour chaque usage concerné
• Critères de vérification indépendante des résultats
• Autorité d’invalidation et procédure d’escalade
• Informations à consigner après une intervention

Compétences et formation : donner des moyens aux superviseurs

Une procédure bien écrite ne protège pas contre les erreurs si les personnes chargées de l’appliquer ne comprennent pas le système. La formation doit donc porter sur l’outil précis, les décisions qu’il soutient et les risques observables dans son contexte.

La simple sensibilisation générale à l’intelligence artificielle ne suffit pas à préparer un superviseur à lire une alerte ou à contester une recommandation. Il lui faut des repères pratiques, des exercices et un accès régulier aux informations utiles.

Former à l’usage, aux limites et aux signaux d’alerte

Une formation pertinente explique la finalité du système, ses limites documentées et les situations dans lesquelles ses résultats deviennent moins fiables. Elle apprend aussi à interpréter les indicateurs disponibles sans les confondre avec une garantie de justesse.

Pour une équipe de recrutement, un exercice peut comparer des recommandations du système avec des dossiers examinés indépendamment. Les participants apprennent ainsi à rechercher les incohérences et à se demander si les critères mobilisés correspondent à la finalité annoncée.

La prévention des biais demande une vigilance particulière lorsque la décision touche l’accès à l’emploi, au crédit ou à un service essentiel. Les superviseurs doivent connaître les limites connues et savoir à qui signaler des effets préoccupants.

La formation doit également couvrir les gestes opérationnels : rejeter une sortie, déclencher une escalade, mettre le système en pause et documenter une décision. Des rappels périodiques sont utiles lorsque le système, les procédures ou les responsabilités évoluent.

Le temps consacré à cette mission compte autant que le contenu pédagogique. Une personne surchargée, privée d’accès aux journaux ou évaluée uniquement sur la rapidité des décisions aura peu de latitude pour exercer un jugement indépendant.

Maintenir une décision humaine réellement indépendante

Le biais d’automatisation peut apparaître lorsque les utilisateurs acceptent trop facilement une recommandation présentée avec assurance ou intégrée à un outil familier. Des consignes seules ne suffisent pas toujours ; l’interface et les pratiques de travail doivent aussi encourager l’examen critique.

Une équipe peut, par exemple, examiner les informations pertinentes avant de consulter la recommandation automatisée, lorsque son activité le permet. Cette organisation réduit le risque que le premier résultat visible devienne automatiquement le point de référence de toute l’analyse.

Les responsables peuvent étudier les désaccords entre les utilisateurs et le système sans traiter chaque divergence comme une erreur humaine. Ces cas peuvent révéler une limite du modèle, une donnée inadéquate ou un besoin de clarification des consignes.

Les superviseurs doivent savoir expliquer pourquoi ils ont suivi, écarté ou transmis une sortie lorsqu’une telle trace est prévue par les procédures internes. Cette pratique soutient l’apprentissage collectif et aide à vérifier que les personnes disposent d’une véritable marge de décision.

Une supervision de qualité ne cherche donc pas à remplacer l’expertise par une validation mécanique. Elle combine la compréhension des capacités du système avec le jugement du métier et la possibilité d’agir lorsque les deux divergent.

Compétences à intégrer au parcours de formation :

• Connaissance de la finalité et des limites du système
• Lecture des indicateurs d’incertitude et des alertes
• Repérage des anomalies et des effets indésirables
• Maîtrise des procédures d’arrêt et d’escalade

Documentation et audit : démontrer la supervision effective

La supervision doit pouvoir être expliquée à partir de preuves cohérentes, plutôt que reconstituée après un incident. Les documents utiles relient les capacités techniques, les procédures, la formation et les interventions réellement effectuées.

Selon le règlement, le fournisseur doit fournir des informations permettant l’utilisation conforme du système et sa supervision. Le déployeur doit, de son côté, organiser l’usage conformément aux instructions applicables et tenir compte de ses responsabilités propres.

Constituer des preuves utiles et proportionnées

Un dossier de supervision peut réunir la description des capacités, les limites connues, les consignes d’utilisation et les modalités d’interruption. Il peut aussi inclure les rôles désignés, les supports de formation et les procédures de traitement des anomalies.

Les journaux et registres aident à montrer comment l’organisation a réagi aux résultats contestés ou aux alertes. Leur utilité dépend de la qualité des informations consignées : une trace doit permettre de comprendre l’événement sans accumuler des données sans objectif défini.

Les autorités peuvent examiner les éléments pertinents pour vérifier que la supervision est prévue et praticable. La documentation technique du fournisseur, les procédures internes et les traces d’intervention doivent donc raconter une histoire cohérente du dispositif.

Les documents doivent évoluer lorsque le système change, que son usage se transforme ou que de nouveaux problèmes apparaissent. Une fiche jamais révisée peut décrire un outil qui ne correspond plus aux opérations réellement menées.

Le tableau ci-dessous rassemble des pièces possibles et leur fonction pratique. Il ne constitue pas une liste réglementaire exhaustive ni une fréquence de mise à jour imposée par l’AI Act.

Document	Utilité opérationnelle	Révision à envisager
Fiche du système	Décrire finalité, capacités et limites	Après une évolution importante
Registre des rôles	Identifier les personnes habilitées	Lors d’un changement d’équipe
Plan de formation	Suivre les compétences nécessaires	Après une modification des usages
Journal d’intervention	Analyser les rejets et escalades	Selon les procédures de conservation

Relier les preuves aux risques du déploiement

Un audit interne peut commencer par une question simple : une personne formée peut-elle comprendre une sortie, la contester et interrompre le système si nécessaire ? Si l’une de ces actions est impossible, l’organisation doit identifier si le problème relève de l’interface, des pouvoirs ou des procédures.

Une entreprise qui observe des validations presque systématiques peut comparer les journaux, les consignes de travail et les contraintes de délai. L’objectif n’est pas de présumer une faute, mais de repérer les conditions qui empêchent un examen indépendant.

La protection des droits fondamentaux doit guider l’analyse, surtout lorsque les résultats influencent des possibilités importantes pour les personnes. Les équipes peuvent examiner les cas de contestation, les anomalies et les effets inattendus, puis transmettre les constats aux responsables concernés.

Les normes de management de l’intelligence artificielle peuvent aider une organisation à structurer ses processus, sans remplacer les obligations du règlement. Il faut distinguer un outil méthodologique d’une preuve automatique de conformité à l’article 14.

Pour une petite entreprise, une démarche progressive reste possible : recenser les usages, clarifier les responsabilités, tester les mécanismes d’intervention et conserver des traces proportionnées. L’essentiel est que les garanties décrites fonctionnent dans le travail quotidien, au bénéfice des personnes et des décisions concernées.

Source : Parlement européen et Conseil, « Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle », Journal officiel de l’Union européenne, 2024.

Les procédures gagnent à préciser les signes qui déclenchent une vérification : données manquantes, résultat inhabituel, incohérence avec les informations disponibles ou effet potentiellement disproportionné. Ces critères doivent rester adaptés au système plutôt que copiés d’un modèle générique.

Il est également nécessaire de prévoir une voie d’escalade. Lorsqu’un utilisateur détecte une anomalie qu’il ne peut résoudre, il doit pouvoir suspendre l’usage concerné et prévenir une personne compétente sans délai inutile.

Adapter la supervision au déroulement du travail

Une organisation pratique peut examiner la supervision avant, pendant et après l’exécution, même si cette grille n’est pas une formule imposée par l’article 14. Elle aide à relier la préparation, le contrôle opérationnel et l’analyse des interventions.

Avant l’usage, l’équipe vérifie la finalité, les paramètres et la pertinence des informations disponibles. Pendant le traitement, elle surveille les sorties et les signaux inhabituels ; après, elle motive les décisions importantes et examine les désaccords.

Le tableau suivant propose des exemples de documents utiles à cette organisation. Il s’agit de supports pratiques : le règlement ne prescrit pas un modèle unique ni un nom particulier pour chacun d’eux.

Moment	Vérification utile	Trace possible
Avant l’usage	Finalité et paramétrage adaptés	Fiche de préparation
Pendant l’usage	Fonctionnement et alertes suivis	Journal d’événements
Après une sortie	Résultat examiné et décision motivée	Registre d’intervention
En cas d’anomalie	Escalade et arrêt selon procédure	Rapport d’incident

Dans une petite structure, ces supports peuvent rester simples, pourvu qu’ils permettent aux équipes de comprendre leurs responsabilités. Le point essentiel est que les procédures correspondent au travail réel, et non à une organisation seulement décrite sur papier.

Une fois les rôles clarifiés, l’efficacité dépend de la préparation des personnes et de leur capacité à exercer leur jugement face aux sorties automatisées.

Éléments à préciser dans une procédure :

• Responsable désigné pour chaque usage concerné
• Critères de vérification indépendante des résultats
• Autorité d’invalidation et procédure d’escalade
• Informations à consigner après une intervention

Compétences et formation : donner des moyens aux superviseurs

Une procédure bien écrite ne protège pas contre les erreurs si les personnes chargées de l’appliquer ne comprennent pas le système. La formation doit donc porter sur l’outil précis, les décisions qu’il soutient et les risques observables dans son contexte.

La simple sensibilisation générale à l’intelligence artificielle ne suffit pas à préparer un superviseur à lire une alerte ou à contester une recommandation. Il lui faut des repères pratiques, des exercices et un accès régulier aux informations utiles.

Former à l’usage, aux limites et aux signaux d’alerte

Une formation pertinente explique la finalité du système, ses limites documentées et les situations dans lesquelles ses résultats deviennent moins fiables. Elle apprend aussi à interpréter les indicateurs disponibles sans les confondre avec une garantie de justesse.

Pour une équipe de recrutement, un exercice peut comparer des recommandations du système avec des dossiers examinés indépendamment. Les participants apprennent ainsi à rechercher les incohérences et à se demander si les critères mobilisés correspondent à la finalité annoncée.

La prévention des biais demande une vigilance particulière lorsque la décision touche l’accès à l’emploi, au crédit ou à un service essentiel. Les superviseurs doivent connaître les limites connues et savoir à qui signaler des effets préoccupants.

La formation doit également couvrir les gestes opérationnels : rejeter une sortie, déclencher une escalade, mettre le système en pause et documenter une décision. Des rappels périodiques sont utiles lorsque le système, les procédures ou les responsabilités évoluent.

Le temps consacré à cette mission compte autant que le contenu pédagogique. Une personne surchargée, privée d’accès aux journaux ou évaluée uniquement sur la rapidité des décisions aura peu de latitude pour exercer un jugement indépendant.

Maintenir une décision humaine réellement indépendante

Le biais d’automatisation peut apparaître lorsque les utilisateurs acceptent trop facilement une recommandation présentée avec assurance ou intégrée à un outil familier. Des consignes seules ne suffisent pas toujours ; l’interface et les pratiques de travail doivent aussi encourager l’examen critique.

Une équipe peut, par exemple, examiner les informations pertinentes avant de consulter la recommandation automatisée, lorsque son activité le permet. Cette organisation réduit le risque que le premier résultat visible devienne automatiquement le point de référence de toute l’analyse.

Les responsables peuvent étudier les désaccords entre les utilisateurs et le système sans traiter chaque divergence comme une erreur humaine. Ces cas peuvent révéler une limite du modèle, une donnée inadéquate ou un besoin de clarification des consignes.

Les superviseurs doivent savoir expliquer pourquoi ils ont suivi, écarté ou transmis une sortie lorsqu’une telle trace est prévue par les procédures internes. Cette pratique soutient l’apprentissage collectif et aide à vérifier que les personnes disposent d’une véritable marge de décision.

Une supervision de qualité ne cherche donc pas à remplacer l’expertise par une validation mécanique. Elle combine la compréhension des capacités du système avec le jugement du métier et la possibilité d’agir lorsque les deux divergent.

Compétences à intégrer au parcours de formation :

• Connaissance de la finalité et des limites du système
• Lecture des indicateurs d’incertitude et des alertes
• Repérage des anomalies et des effets indésirables
• Maîtrise des procédures d’arrêt et d’escalade

Documentation et audit : démontrer la supervision effective

La supervision doit pouvoir être expliquée à partir de preuves cohérentes, plutôt que reconstituée après un incident. Les documents utiles relient les capacités techniques, les procédures, la formation et les interventions réellement effectuées.

Selon le règlement, le fournisseur doit fournir des informations permettant l’utilisation conforme du système et sa supervision. Le déployeur doit, de son côté, organiser l’usage conformément aux instructions applicables et tenir compte de ses responsabilités propres.

Constituer des preuves utiles et proportionnées

Un dossier de supervision peut réunir la description des capacités, les limites connues, les consignes d’utilisation et les modalités d’interruption. Il peut aussi inclure les rôles désignés, les supports de formation et les procédures de traitement des anomalies.

Les journaux et registres aident à montrer comment l’organisation a réagi aux résultats contestés ou aux alertes. Leur utilité dépend de la qualité des informations consignées : une trace doit permettre de comprendre l’événement sans accumuler des données sans objectif défini.

Les autorités peuvent examiner les éléments pertinents pour vérifier que la supervision est prévue et praticable. La documentation technique du fournisseur, les procédures internes et les traces d’intervention doivent donc raconter une histoire cohérente du dispositif.

Les documents doivent évoluer lorsque le système change, que son usage se transforme ou que de nouveaux problèmes apparaissent. Une fiche jamais révisée peut décrire un outil qui ne correspond plus aux opérations réellement menées.

Le tableau ci-dessous rassemble des pièces possibles et leur fonction pratique. Il ne constitue pas une liste réglementaire exhaustive ni une fréquence de mise à jour imposée par l’AI Act.

Document	Utilité opérationnelle	Révision à envisager
Fiche du système	Décrire finalité, capacités et limites	Après une évolution importante
Registre des rôles	Identifier les personnes habilitées	Lors d’un changement d’équipe
Plan de formation	Suivre les compétences nécessaires	Après une modification des usages
Journal d’intervention	Analyser les rejets et escalades	Selon les procédures de conservation

Relier les preuves aux risques du déploiement

Un audit interne peut commencer par une question simple : une personne formée peut-elle comprendre une sortie, la contester et interrompre le système si nécessaire ? Si l’une de ces actions est impossible, l’organisation doit identifier si le problème relève de l’interface, des pouvoirs ou des procédures.

Une entreprise qui observe des validations presque systématiques peut comparer les journaux, les consignes de travail et les contraintes de délai. L’objectif n’est pas de présumer une faute, mais de repérer les conditions qui empêchent un examen indépendant.

La protection des droits fondamentaux doit guider l’analyse, surtout lorsque les résultats influencent des possibilités importantes pour les personnes. Les équipes peuvent examiner les cas de contestation, les anomalies et les effets inattendus, puis transmettre les constats aux responsables concernés.

Les normes de management de l’intelligence artificielle peuvent aider une organisation à structurer ses processus, sans remplacer les obligations du règlement. Il faut distinguer un outil méthodologique d’une preuve automatique de conformité à l’article 14.

Pour une petite entreprise, une démarche progressive reste possible : recenser les usages, clarifier les responsabilités, tester les mécanismes d’intervention et conserver des traces proportionnées. L’essentiel est que les garanties décrites fonctionnent dans le travail quotidien, au bénéfice des personnes et des décisions concernées.

Source : Parlement européen et Conseil, « Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle », Journal officiel de l’Union européenne, 2024.

Un superviseur qui observe les résultats mais ne peut jamais les contester assure une surveillance passive, pas une supervision utile. Dans une banque, par exemple, un chargé de clientèle doit savoir quand demander une révision d’un score défavorable et à qui adresser le dossier.

Les procédures gagnent à préciser les signes qui déclenchent une vérification : données manquantes, résultat inhabituel, incohérence avec les informations disponibles ou effet potentiellement disproportionné. Ces critères doivent rester adaptés au système plutôt que copiés d’un modèle générique.

Il est également nécessaire de prévoir une voie d’escalade. Lorsqu’un utilisateur détecte une anomalie qu’il ne peut résoudre, il doit pouvoir suspendre l’usage concerné et prévenir une personne compétente sans délai inutile.

Adapter la supervision au déroulement du travail

Une organisation pratique peut examiner la supervision avant, pendant et après l’exécution, même si cette grille n’est pas une formule imposée par l’article 14. Elle aide à relier la préparation, le contrôle opérationnel et l’analyse des interventions.

Avant l’usage, l’équipe vérifie la finalité, les paramètres et la pertinence des informations disponibles. Pendant le traitement, elle surveille les sorties et les signaux inhabituels ; après, elle motive les décisions importantes et examine les désaccords.

Le tableau suivant propose des exemples de documents utiles à cette organisation. Il s’agit de supports pratiques : le règlement ne prescrit pas un modèle unique ni un nom particulier pour chacun d’eux.

Moment	Vérification utile	Trace possible
Avant l’usage	Finalité et paramétrage adaptés	Fiche de préparation
Pendant l’usage	Fonctionnement et alertes suivis	Journal d’événements
Après une sortie	Résultat examiné et décision motivée	Registre d’intervention
En cas d’anomalie	Escalade et arrêt selon procédure	Rapport d’incident

Dans une petite structure, ces supports peuvent rester simples, pourvu qu’ils permettent aux équipes de comprendre leurs responsabilités. Le point essentiel est que les procédures correspondent au travail réel, et non à une organisation seulement décrite sur papier.

Une fois les rôles clarifiés, l’efficacité dépend de la préparation des personnes et de leur capacité à exercer leur jugement face aux sorties automatisées.

Éléments à préciser dans une procédure :

• Responsable désigné pour chaque usage concerné
• Critères de vérification indépendante des résultats
• Autorité d’invalidation et procédure d’escalade
• Informations à consigner après une intervention

Compétences et formation : donner des moyens aux superviseurs

Une procédure bien écrite ne protège pas contre les erreurs si les personnes chargées de l’appliquer ne comprennent pas le système. La formation doit donc porter sur l’outil précis, les décisions qu’il soutient et les risques observables dans son contexte.

La simple sensibilisation générale à l’intelligence artificielle ne suffit pas à préparer un superviseur à lire une alerte ou à contester une recommandation. Il lui faut des repères pratiques, des exercices et un accès régulier aux informations utiles.

Former à l’usage, aux limites et aux signaux d’alerte

Une formation pertinente explique la finalité du système, ses limites documentées et les situations dans lesquelles ses résultats deviennent moins fiables. Elle apprend aussi à interpréter les indicateurs disponibles sans les confondre avec une garantie de justesse.

Pour une équipe de recrutement, un exercice peut comparer des recommandations du système avec des dossiers examinés indépendamment. Les participants apprennent ainsi à rechercher les incohérences et à se demander si les critères mobilisés correspondent à la finalité annoncée.

La prévention des biais demande une vigilance particulière lorsque la décision touche l’accès à l’emploi, au crédit ou à un service essentiel. Les superviseurs doivent connaître les limites connues et savoir à qui signaler des effets préoccupants.

La formation doit également couvrir les gestes opérationnels : rejeter une sortie, déclencher une escalade, mettre le système en pause et documenter une décision. Des rappels périodiques sont utiles lorsque le système, les procédures ou les responsabilités évoluent.

Le temps consacré à cette mission compte autant que le contenu pédagogique. Une personne surchargée, privée d’accès aux journaux ou évaluée uniquement sur la rapidité des décisions aura peu de latitude pour exercer un jugement indépendant.

Maintenir une décision humaine réellement indépendante

Le biais d’automatisation peut apparaître lorsque les utilisateurs acceptent trop facilement une recommandation présentée avec assurance ou intégrée à un outil familier. Des consignes seules ne suffisent pas toujours ; l’interface et les pratiques de travail doivent aussi encourager l’examen critique.

Une équipe peut, par exemple, examiner les informations pertinentes avant de consulter la recommandation automatisée, lorsque son activité le permet. Cette organisation réduit le risque que le premier résultat visible devienne automatiquement le point de référence de toute l’analyse.

Les responsables peuvent étudier les désaccords entre les utilisateurs et le système sans traiter chaque divergence comme une erreur humaine. Ces cas peuvent révéler une limite du modèle, une donnée inadéquate ou un besoin de clarification des consignes.

Les superviseurs doivent savoir expliquer pourquoi ils ont suivi, écarté ou transmis une sortie lorsqu’une telle trace est prévue par les procédures internes. Cette pratique soutient l’apprentissage collectif et aide à vérifier que les personnes disposent d’une véritable marge de décision.

Une supervision de qualité ne cherche donc pas à remplacer l’expertise par une validation mécanique. Elle combine la compréhension des capacités du système avec le jugement du métier et la possibilité d’agir lorsque les deux divergent.

Compétences à intégrer au parcours de formation :

• Connaissance de la finalité et des limites du système
• Lecture des indicateurs d’incertitude et des alertes
• Repérage des anomalies et des effets indésirables
• Maîtrise des procédures d’arrêt et d’escalade

Documentation et audit : démontrer la supervision effective

La supervision doit pouvoir être expliquée à partir de preuves cohérentes, plutôt que reconstituée après un incident. Les documents utiles relient les capacités techniques, les procédures, la formation et les interventions réellement effectuées.

Selon le règlement, le fournisseur doit fournir des informations permettant l’utilisation conforme du système et sa supervision. Le déployeur doit, de son côté, organiser l’usage conformément aux instructions applicables et tenir compte de ses responsabilités propres.

Constituer des preuves utiles et proportionnées

Un dossier de supervision peut réunir la description des capacités, les limites connues, les consignes d’utilisation et les modalités d’interruption. Il peut aussi inclure les rôles désignés, les supports de formation et les procédures de traitement des anomalies.

Les journaux et registres aident à montrer comment l’organisation a réagi aux résultats contestés ou aux alertes. Leur utilité dépend de la qualité des informations consignées : une trace doit permettre de comprendre l’événement sans accumuler des données sans objectif défini.

Les autorités peuvent examiner les éléments pertinents pour vérifier que la supervision est prévue et praticable. La documentation technique du fournisseur, les procédures internes et les traces d’intervention doivent donc raconter une histoire cohérente du dispositif.

Les documents doivent évoluer lorsque le système change, que son usage se transforme ou que de nouveaux problèmes apparaissent. Une fiche jamais révisée peut décrire un outil qui ne correspond plus aux opérations réellement menées.

Le tableau ci-dessous rassemble des pièces possibles et leur fonction pratique. Il ne constitue pas une liste réglementaire exhaustive ni une fréquence de mise à jour imposée par l’AI Act.

Document	Utilité opérationnelle	Révision à envisager
Fiche du système	Décrire finalité, capacités et limites	Après une évolution importante
Registre des rôles	Identifier les personnes habilitées	Lors d’un changement d’équipe
Plan de formation	Suivre les compétences nécessaires	Après une modification des usages
Journal d’intervention	Analyser les rejets et escalades	Selon les procédures de conservation

Relier les preuves aux risques du déploiement

Un audit interne peut commencer par une question simple : une personne formée peut-elle comprendre une sortie, la contester et interrompre le système si nécessaire ? Si l’une de ces actions est impossible, l’organisation doit identifier si le problème relève de l’interface, des pouvoirs ou des procédures.

Une entreprise qui observe des validations presque systématiques peut comparer les journaux, les consignes de travail et les contraintes de délai. L’objectif n’est pas de présumer une faute, mais de repérer les conditions qui empêchent un examen indépendant.

La protection des droits fondamentaux doit guider l’analyse, surtout lorsque les résultats influencent des possibilités importantes pour les personnes. Les équipes peuvent examiner les cas de contestation, les anomalies et les effets inattendus, puis transmettre les constats aux responsables concernés.

Les normes de management de l’intelligence artificielle peuvent aider une organisation à structurer ses processus, sans remplacer les obligations du règlement. Il faut distinguer un outil méthodologique d’une preuve automatique de conformité à l’article 14.

Pour une petite entreprise, une démarche progressive reste possible : recenser les usages, clarifier les responsabilités, tester les mécanismes d’intervention et conserver des traces proportionnées. L’essentiel est que les garanties décrites fonctionnent dans le travail quotidien, au bénéfice des personnes et des décisions concernées.

Source : Parlement européen et Conseil, « Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle », Journal officiel de l’Union européenne, 2024.