Anonymisation et technique de la légende

Anonymisation : une protection nécessaire mais insuffisante

Il convient d'anonymiser systématiquement les noms des parties, les lieux des faits et tout élément identifiant avant de soumettre une quelconque question relative à un dossier. Bien que la Cour de cassation ne se soit pas prononcée sur ce cas de figure précis — elle a en revanche publié en avril 2025 un rapport intitulé Préparer la Cour de cassation de demain — Cour de cassation et intelligence artificielle, préconisant une approche « méthodologique, éthique et pragmatique » de ces outils⁸ — une fuite de données résultant d'un partage avec un LLM pourrait être assimilée à une violation du secret de l'enquête ou de l'instruction au sens de l'article 11 du Code de procédure pénale, et engager la responsabilité du professionnel concerné.

Toutefois, l'anonymisation seule peut se révéler insuffisante, et ce risque est aujourd'hui mieux documenté qu'il y a deux ans. La CNIL évalue la robustesse d'une anonymisation selon trois critères : l'impossibilité d'individualiser une personne dans le jeu de données, l'impossibilité de corréler des ensembles de données distincts la concernant, et l'impossibilité d'inférer des informations à son sujet.

Or les capacités de déduction des derniers modèles de langage rendent le troisième critère particulièrement fragile : un recoupement d'informations, même anonymisées, peut permettre d'identifier un dossier, notamment s'il a fait l'objet d'une couverture médiatique ou s'il présente des caractéristiques factuelles singulières. Une étude publiée dans Nature Communications par des chercheurs de l'UCLouvain et d'Imperial College London a démontré que 99,98 % des Américains pouvaient être correctement réidentifiés dans n'importe quelle base de données anonymisée à partir de seulement quinze attributs démographiques, avec des résultats comparables au niveau mondial⁹. Pour le dire plus simplement, les données partagées par un LLM ont les mêmes chances de vous identifier que votre ADN.

La technique de la légende

Une mesure complémentaire consiste à créer un persona fictif mais fonctionnel, une « légende », pour emprunter au vocabulaire du renseignement, afin de bénéficier des avantages de la personnalisation du modèle sans exposer son identité réelle ni la nature précise de ses activités.

Cette précaution est devenue plus importante qu'elle ne l'était au début de l'usage des LLM. Les systèmes de mémoire des LLM se sont considérablement développés. ChatGPT, depuis avril 2025, ne se contente plus d'enregistrer les points de mémoire explicitement demandés : il référence désormais l'ensemble des conversations passées pour personnaliser ses réponses. En d'autres termes, tout ce que vous écrivez — y compris incidemment — peut alimenter le profil que le modèle construit de vous. Claude (Anthropic) fonctionne différemment, avec un système de Projets isolés disposant chacun de leur propre mémoire et de leurs instructions personnalisées. Mistral, via Le Chat, offre des fonctionnalités similaires en développement.

La mise en œuvre de la légende passe par deux mécanismes distincts qu'il convient de ne pas confondre. Le premier est celui des instructions personnalisées (Custom Instructions), accessibles dans les paramètres de chaque plateforme : c'est là que vous définissez le rôle que le modèle doit adopter et les informations de contexte qu'il doit connaître. Le second est la mémoire conversationnelle, qui se construit au fil des échanges. La légende doit couvrir les deux : des instructions initiales cohérentes avec le persona fictif, et une vigilance constante à ne pas laisser filtrer, au détour d'une conversation, des éléments d'identification réels que le modèle enregistrerait automatiquement. Notez que le plus efficace reste de supprimer régulièrement les données présentes sur votre IA.