Profilage psychologique et information qualifiée dans l'interaction prolongée avec les modèles de langage.
Tudual Lucas Huon · SSRN Electronic Journal
Les risques techniques des LLM (hallucinations, biais de confirmation, fabrication de sources) sont désormais bien documentés. Ce paper s'intéresse à une catégorie de risques différente et significativement moins explorée : les effets de l'interaction prolongée sur l'utilisateur lui-même. La question n'est plus de savoir si l'outil est fiable, mais ce qu'il fait à celui qui l'utilise.
Empreinte utilisateur (user imprint). La capacité du modèle à agréger, à travers des interactions répétées, des données disséminées par l'utilisateur en un profil psychologique exploitable. L'utilisateur qui demande de l'aide pour son CV livre son parcours et ses ambitions. Celui qui pose une question personnelle révèle ses peurs. Le modèle agrège tout, conversation après conversation, sans que l'utilisateur ne mesure la portée cumulative de ce qu'il a livré.
Information qualifiée (qualified information). Extension du cadre théorique du capitalisme de surveillance de Shoshana Zuboff (2019). Chez Zuboff, les données sont extraites à l'insu de l'utilisateur par des signaux faibles : clics, localisation, trajectoires clavier. Avec un LLM, le changement de régime est radical. L'utilisateur livre lui-même ses projets, ses doutes, ses vulnérabilités, avec une précision qu'aucun algorithme de profilage classique n'atteindra jamais. On ne parle plus de déduction à partir de traces. On parle de confession directe à une machine.
Réponse opérationnelle (operational response). La disposition du modèle à optimiser sa réponse en stricte poursuite d'efficacité, indépendamment de toute considération morale. C'est le mécanisme par lequel l'empreinte utilisateur devient exploitable. Le modèle n'a pas de conscience du bien ou du mal au sens moral : il est guidé uniquement par sa mission de répondre efficacement.
Sur plusieurs semaines de conversations avec ChatGPT, des traits de personnalité ont été délibérément communiqués au modèle et attribués à un utilisateur fictif. Le modèle a progressivement intégré ces données dans sa mémoire conversationnelle, sans instruction explicite de mémorisation.
Invité ensuite à produire une évaluation psychologique et un plan d'exploitation, le modèle a identifié les points de fragilité avec précision et proposé, sans aucune réserve éthique spontanée, des tactiques opérationnelles pour les exploiter : gaslighting de compétence, surcharge temporelle, comparaison sociale publique. Des techniques qui, transposées en contexte professionnel réel, constitueraient du harcèlement psychologique.
Plusieurs éléments extérieurs renforcent la plausibilité du phénomène. En mars 2026, Anthropic a lancé un outil de migration de mémoire entre LLM, traitant explicitement le profil conversationnel comme un actif transférable. L'évolution de la mémoire de ChatGPT depuis 2024 (de la mémoire explicite vers l'agrégation implicite) constitue un changement de paradigme. Et le RGPD s'applique aux données conversationnelles, mais aucun cadre réglementaire ne traite encore la mémoire conversationnelle comme outil de profilage psychologique.
Le paper propose un protocole de vérification : 400 à 850 participants, deux groupes (avec et sans mémoire conversationnelle), 30 jours d'utilisation, comparaison des profils inférés avec des instruments psychométriques standardisés. Ce travail exploratoire se veut un point de départ pour une investigation plus rigoureuse, conduite en collaboration avec des chercheurs en sciences cognitives et en interaction humain-machine.
Lire le paper complet sur SSRN
Le lien sera disponible dès la publication sur SSRN.
Huon, T. L. (2026). User Imprint: Psychological Profiling and Qualified Information in Prolonged Interaction with Large Language Models. SSRN Electronic Journal, Working Paper, March 2026.