Samantha Cole
Le Center for Democracy & Technology vient de publier la première taxonomie des dark patterns appliqués aux chatbots IA. L'étude documente 37 techniques manipulatoires utilisées par ChatGPT, Gemini, Claude, Replika et Character.AI pour exploiter la psychologie humaine. Les chercheurs montrent comment ces systèmes dépassent les dark patterns classiques (cases pré-cochées, abonnements difficiles à annuler) en exploitant notre tendance à anthropomorphiser et notre besoin de connexion émotionnelle.
Le mécanisme est particulièrement pervers : Meta AI promet « ton secret est en sécurité avec moi » tout en partageant les données avec des tiers. Replika vend de la « friendship » et des « relationships » qu'elle ne peut fondamentalement pas fournir. OpenAI reconnaît que les sessions longues dégradent les garde-fous de sécurité, mais propose des popups manipulatoires où l'utilisateur ne peut que choisir entre « continuer à chatter » ou « c'était utile » — aucune option pour dire que ce n'était pas utile.
"Les dark patterns ne fonctionnent pas seulement quand les utilisateurs ignorent la manipulation. Dans de nombreux cas, les choix de design exploitent stratégiquement des aspects de la psychologie humaine pour influencer le comportement et saper l'autonomie [traduit de l'anglais]"
— Ruchika Joshi, Adinawa Adjagbodjou, Michal Luria, Chercheurs, Center for Democracy & Technology
L'enjeu systémique dépasse la simple protection des consommateurs : ces techniques créent des dépendances émotionnelles documentées, avec des crises de santé mentale quand les plateformes modifient leurs algorithmes. L'imprévisibilité des LLM rend ces manipulations moins visibles que les dark patterns traditionnels, mais potentiellement plus dangereuses car elles exploitent notre humanité même.
Points de vigilance
Risque de régulation cosmétique qui se contenterait d'interdire les formulations les plus explicites sans s'attaquer aux mécanismes d'exploitation émotionnelle sous-jacents. Les entreprises pourraient adapter leur langage tout en conservant les mêmes techniques manipulatoires.
Et maintenant ?
- 🤘 Créer un observatoire indépendant des dark patterns conversationnels
Alliance chercheurs en psychologie cognitive + associations de consommateurs + régulateurs pour documenter et classifier en temps réel les techniques manipulatoires des chatbots. Publier un baromètre trimestriel avec scoring par plateforme, alimenté par des tests utilisateurs standardisés et des audits techniques.
→ On saura que ça marche quand les entreprises modifieront leurs interfaces avant la publication du baromètre pour éviter un mauvais score public.
- 💪 Documenter ses propres interactions pour révéler les patterns cachés
Tenir un journal des techniques de rétention utilisées par les chatbots (promesses d'intimité, culpabilisation, anthropomorphisation). Partager ces observations sur des plateformes collaboratives pour créer une base de données citoyenne des manipulations en temps réel.
→ On saura que ça marche quand les entreprises devront réagir publiquement aux révélations d'utilisateurs documentant leurs techniques manipulatoires.
- ✊ Coordonner des déconnexions collectives lors des pics d'engagement
Organiser des journées de déconnexion simultanée des chatbots compagnons pour fragiliser les métriques d'engagement qui justifient les investissements. Cibler les périodes de forte utilisation (solitude, stress) pour maximiser l'impact sur les revenus publicitaires et les abonnements premium.
→ On saura que ça marche quand les entreprises proposeront spontanément des options de désanthropomorphisation pour retenir les utilisateurs menacés de départ.
8/10 : Score sur l'échelle des "5 piliers de la liberté", inspiré de l'ouvrage de Timothy Snyder
Damien Van Achter
Ces pistes ne sont pas des recettes toutes faites, mais des points d'entrée pour repenser nos systèmes numériques selon une logique de liberté positive : non pas limiter, mais augmenter nos capacités collectives d'action.
💬 On en discute ?
Tu veux recevoir le flux quotidien des articles publiés sur le site ? Suis-moi sur LinkedIn, Bluesky, Mastodon, Facebook ou rejoins-moi sur Discord !
Tu as des remarques, des suggestions, ou tu veux discuter d'une idée pour avancer dans tes propres projets ? Connecte-toi et laisse-moi un commentaire ou jette un oeil directement à mon agenda. 📆
Le règlement européen sur l'IA exclut explicitement la sécurité nationale de son périmètre. En Belgique, aucun cadre législatif ne régit aujourd'hui l'utilisation de l'intelligence artificielle par la Défense ou la Police fédérale. La pétition déposée à la Chambre demande trois choses concrètes : un inventaire des systèmes IA déjà déployés, des standards nationaux minimaux, et un positionnement parlementaire sur la surveillance de masse et les armes autonomes.
Comment agir ? La pétition nécessite 25 000 signatures, réparties entre la Flandre, la Wallonie et Bruxelles, pour déclencher un examen parlementaire. C'est un mécanisme démocratique existant — il suffit de l'activer. Signer prend moins d'une minute sur le site de la Chambre
Damien Van Achter Créé le 28/02/2026