Former un modèle d’intelligence artificielle à partir de données personnelles soulève des questions qui dépassent la seule technique. Leur origine, leur réutilisation, leur conservation et les réponses du modèle peuvent toutes affecter la protection de la vie privée.
Pour une équipe qui prépare un outil de recrutement ou un assistant client, l’enjeu consiste à documenter chaque choix sans bloquer l’innovation. La démarche commence par vérifier les données et leur base légale, avant d’examiner les risques d’entraînement.
A retenir : les repères pour l’entraînement des modèles
- Origine documentée et réutilisation des données justifiée
- Base légale évaluée selon les usages et les personnes concernées
- Anonymisation vérifiée, sans confondre anonymisation et pseudonymisation
- Droit d’opposition et demandes d’effacement intégrés aux procédures
- Gouvernance des données suivie pendant tout le cycle du modèle
Entraînement des modèles : vérifier l’origine et la base légale
Avant de mesurer la performance d’un modèle, l’équipe doit savoir d’où viennent ses données et pourquoi elle peut les traiter. Une base accessible en ligne n’est pas automatiquement libre de réutilisation pour l’entraînement.
Données personnelles et réutilisation des jeux de données
Selon la CNIL, il faut examiner la provenance des données, les conditions de leur collecte et la compatibilité de leur nouvel usage. Une startup qui réutilise des commentaires publiés sur son propre site doit donc vérifier les informations communiquées aux personnes et la finalité annoncée.
La vérification porte aussi sur les données indirectement identifiantes : un historique de localisation ou une combinaison d’attributs peut désigner quelqu’un sans nom ni adresse. Pour chaque jeu, consignez le fournisseur, la date d’acquisition, les catégories recueillies et les restrictions d’utilisation.
Questions à vérifier avant l’entraînement :
- Finalité initiale et usage prévu du jeu de données
- Conditions contractuelles et droits associés aux contenus
- Présence de données sensibles ou concernant des mineurs
- Information des personnes et mécanismes d’exercice des droits
| Situation | Vérification utile | Risque à traiter |
|---|---|---|
| Base interne réutilisée | Compatibilité avec la finalité annoncée | Réutilisation inattendue |
| Jeu acquis auprès d’un tiers | Origine et garanties contractuelles | Collecte ou transmission irrégulière |
| Données accessibles en ligne | Contexte de publication et droits applicables | Confusion entre accès public et libre usage |
| Données sensibles | Conditions prévues par le RGPD | Atteinte accrue aux personnes |
Consentement, intérêt légitime et finalité du traitement
Chaque traitement doit reposer sur une base légale adaptée ; le consentement n’est pas l’unique possibilité, mais il doit être libre, éclairé et spécifique lorsqu’il est retenu. Si l’organisme invoque l’intérêt légitime, il doit notamment évaluer les attentes des personnes et les garanties qui limitent les effets du traitement.
Selon la CNIL, les données sensibles exigent une attention particulière et peuvent relever des conditions spécifiques de l’article 9 du RGPD. Une analyse d’impact peut également être nécessaire lorsque le traitement présente un risque élevé ; sa pertinence dépend du contexte réel, pas du seul emploi d’une technologie d’IA.
Anonymisation et qualité des données d’entraînement
Une fois les droits d’utilisation examinés, l’équipe doit réduire les risques liés au contenu conservé dans le corpus. Ce travail améliore aussi la fiabilité du modèle, car des données inexactes ou déséquilibrées peuvent produire des résultats trompeurs.
Réduire les risques de réidentification
Retirer les noms ne suffit pas toujours : des éléments de contexte peuvent permettre de retrouver une personne. La pseudonymisation remplace certains identifiants, mais les données restent personnelles si une réidentification demeure raisonnablement possible.
L’anonymisation vise, elle, à rendre cette réidentification impossible au regard des moyens raisonnablement disponibles. Selon la CNIL, l’organisme doit évaluer les risques et documenter les mesures retenues ; aucun seuil universel ne garantit à lui seul la conformité de tous les modèles.
Mesures à adapter au niveau de risque :
- Supprimer les variables non nécessaires à l’apprentissage
- Masquer ou généraliser les attributs trop précis
- Tester les possibilités d’extraction et de rapprochement
- Limiter l’accès aux données brutes et tracer les opérations
| Étape | Contrôle à mener | Trace à conserver |
|---|---|---|
| Préparation | Repérer les identifiants directs et indirects | Inventaire des variables |
| Nettoyage | Écarter les informations inutiles | Justification des suppressions |
| Évaluation | Tester les risques de rapprochement | Résultats et limites des tests |
| Après entraînement | Examiner les sorties mémorisées ou révélatrices | Rapport de validation et mesures correctives |
Qualité, représentativité et biais des corpus
La conformité ne garantit pas que les données représentent les situations rencontrées en pratique. Une base d’images composée surtout de certains âges ou de certaines conditions d’éclairage peut rendre le système moins fiable pour d’autres groupes.
Il faut décrire la méthode de collecte, contrôler les annotations et examiner les variables susceptibles de servir de substituts à des caractéristiques sensibles. Quand un déséquilibre apparaît, l’équipe peut compléter le corpus, modifier l’échantillonnage ou restreindre l’usage du modèle jusqu’à de nouveaux tests.
Droit d’opposition et gouvernance des données
Après la mise en production, les obligations ne disparaissent pas : les données et les usages évoluent, tandis que des personnes peuvent exercer leurs droits. Une gouvernance claire permet de traiter ces demandes et d’attribuer les responsabilités sans improvisation.
Effacement, opposition et suivi des modèles
Le droit d’opposition peut s’appliquer selon la base légale et la situation de la personne ; l’effacement dépend lui aussi des conditions prévues par le RGPD. L’organisme doit analyser chaque demande, expliquer sa décision et examiner les conséquences sur les données sources comme sur le modèle entraîné.
Supprimer une ligne d’un jeu ne retire pas nécessairement son influence des paramètres déjà calculés. Il faut évaluer les solutions réalistes, par exemple réentraîner une version, corriger les données concernées ou limiter certaines sorties, puis consigner les actions et leurs limites.
Pour rendre le suivi praticable :
- Associer chaque version du modèle aux jeux utilisés
- Prévoir un canal de réception des demandes individuelles
- Documenter l’analyse et la réponse apportée
- Informer les utilisateurs des mises à jour pertinentes
Transparence et responsabilités au fil du projet
Le fournisseur du modèle, l’organisme qui le déploie et les éventuels prestataires doivent clarifier leurs rôles dans chaque traitement. La répartition dépend des décisions effectivement prises, notamment sur les finalités et les moyens, et ne découle pas seulement d’une licence open source.
Selon la CNIL, la documentation doit permettre de comprendre les données utilisées et les mesures de protection adoptées. Un registre des traitements, une analyse des risques, des règles d’accès et des procédures de mise à jour donnent aux équipes des preuves concrètes de leur gouvernance des données.
La transparence ne signifie pas nécessairement publier des données brutes ni exposer des informations personnelles. Elle consiste à fournir des explications accessibles sur les usages, les limites du système et les voies de recours, tout en protégeant les éléments confidentiels.
