« Notre modèle ne contient pas de données personnelles » : une affirmation qui doit être démontrée

« Notre modèle ne contient pas de données personnelles. » Cette phrase figure dans la plupart des analyses d’impact relatives aux systèmes d’IA. Elle est rarement démontrée. Elle n’est pas nécessairement erronée, car un modèle d’IA peut être anonyme. Mais l’affirmation est souvent présentée comme un postulat, alors qu’elle devrait résulter d’une démonstration, et les exigences en matière de preuve se sont récemment renforcées.

Synthèse

  • Selon l’avis 28/2024 du CEPD, le RGPD peut s’appliquer aux modèles d’IA entraînés sur des données personnelles, et conclure à leur anonymat suppose souvent de démontrer leur résistance aux attaques en confidentialité.
  • Les lignes directrices du CEPD sur l’anonymisation, adoptées le 7 juillet 2026, reposent sur trois critères cumulatifs, l’absence d’individualisation, de corrélation et d’inférence.
  • Depuis l’arrêt EDPS contre SRB du 4 septembre 2025, le caractère personnel d’une donnée s’apprécie au regard des moyens raisonnablement susceptibles d’être utilisés par l’entité considérée.
  • Un test d’extraction ne tranche pas à lui seul la question juridique, et l’anonymat d’un modèle ne fait pas disparaître l’examen de sa phase d’entraînement.

Un cadre d’analyse qui s’est précisé

L’avis 28/2024 du CEPD sur les modèles d’IA

Dans son avis 28/2024, le Comité européen de la protection des données considère que le RGPD peut s’appliquer aux modèles entraînés sur des données personnelles. Il estime qu’il est souvent nécessaire de démontrer la résistance du modèle aux attaques en confidentialité, telles que l’extraction de données d’entraînement ou l’inférence d’appartenance, pour conclure à son anonymat. L’anonymat d’un modèle ne se présume donc pas, il s’établit au cas par cas.

Les lignes directrices 02/2026 sur l’anonymisation

Le 7 juillet 2026, le CEPD a adopté des lignes directrices sur l’anonymisation fondées sur trois critères cumulatifs : l’absence d’individualisation, l’absence de corrélation et l’absence d’inférence. Ces critères sont présentés en détail dans notre analyse consacrée à l’anonymisation à l’ère de l’IA.

L’arrêt EDPS contre SRB

Ces lignes directrices s’inscrivent dans le prolongement de l’arrêt de la Cour de justice du 4 septembre 2025, EDPS contre SRB (C-413/23 P). Selon cet arrêt, le caractère personnel d’une donnée s’apprécie au regard des moyens raisonnablement susceptibles d’être utilisés par l’entité considérée.

Un modèle n’est pas anonyme par nature

Cette évolution semble difficilement conciliable avec l’idée qu’un modèle serait anonyme par nature et dans tous les contextes. L’appréciation pourrait au contraire dépendre de l’acteur concerné, des informations dont il dispose et des moyens qu’il est raisonnablement susceptible de mettre en œuvre. Un même modèle pourrait ainsi être considéré comme anonyme pour un utilisateur qui n’y accède que par une interface restreinte, et ne pas l’être pour un acteur disposant des poids du modèle et de données complémentaires.

Des moyens de contrôle technique en développement

La CNIL développe par ailleurs des capacités d’évaluation technique plus avancées. Un démonstrateur consacré à la généalogie des modèles existe déjà, et le projet PANAME devrait fournir de nouveaux outils permettant de tester les modèles. Il reste toutefois à en connaître précisément le contenu et les limites, la bibliothèque n’étant pas encore publiée.

Le test technique ne règle pas la question juridique

Un test d’extraction ne tranche pas, à lui seul, la question juridique. L’applicabilité du RGPD à un modèle et la licéité des traitements ayant permis son entraînement demeurent deux questions distinctes. Un modèle considéré comme anonyme aujourd’hui ne fait pas disparaître l’examen de sa phase de développement, au cours de laquelle des données personnelles ont pu être collectées et traitées.

Ce que cela change pour vous

Pour les organisations qui intègrent un modèle tiers, la question pertinente n’est probablement pas de savoir si le modèle est anonyme. Il s’agit plutôt d’obtenir du fournisseur l’analyse qui le démontre et d’en vérifier la date, les hypothèses retenues et le périmètre couvert.

Jusqu’à présent, l’écart entre les organisations qui affirmaient l’anonymat de leur modèle et celles qui pouvaient réellement l’étayer avait peu d’incidence pratique. Les évolutions récentes laissent penser que cet écart pourrait devenir de plus en plus visible, notamment lors des contrôles. Sur la répartition des rôles entre l’entreprise et son fournisseur de modèle, voir également notre analyse fournisseur ou déployeur au sens de l’AI Act.

Questions fréquentes

Un modèle d’IA entraîné sur des données personnelles est-il soumis au RGPD ?

Il peut l’être. Selon l’avis 28/2024 du CEPD, un tel modèle n’est anonyme que si l’on peut démontrer que les données personnelles ne peuvent pas en être extraites ni inférées par des moyens raisonnablement susceptibles d’être utilisés.

Un test d’extraction négatif suffit-il à établir l’anonymat d’un modèle ?

Non. Ce test constitue un élément de preuve, mais l’appréciation reste juridique. Elle dépend de l’entité considérée et des moyens dont elle dispose, et ne dispense pas d’examiner la licéité de la phase d’entraînement.

Sources

  • CEPD, avis 28/2024 sur certains aspects relatifs à la protection des données dans le cadre des modèles d’IA, décembre 2024.
  • CEPD, lignes directrices 02/2026 sur l’anonymisation, version 1.0 du 7 juillet 2026.
  • CJUE, 4 septembre 2025, EDPS contre SRB, C-413/23 P.
  • CNIL, projet PANAME.

Vous intégrez un modèle tiers et souhaitez évaluer les garanties de votre fournisseur ? Prendre rendez-vous.

Information générale, qui ne constitue pas une consultation juridique.

Elisa Delamadeleine

Conseil en conformité numérique et DPO externalisé, ancienne avocate au barreau de Paris. Elle accompagne les entreprises qui innovent dans leur conformité au RGPD, à l’AI Act et au droit européen du numérique.

Son parcours

Un projet d’IA ou un traitement de données à sécuriser ?

Prendre rendez-vous

Toutes les ressources

delamadeleineprivacy

Privacy Preference Center