Eugene Volokh
Cette affaire judiciaire dépasse le simple cas de harcèlement : elle expose l'architecture d'irresponsabilité d'OpenAI. Un entrepreneur de 53 ans en crise psychique utilise GPT-4o pour nourrir ses délires sur une prétendue cure révolutionnaire contre l'apnée du sommeil. Quand ses proches s'inquiètent, il demande conseil au chatbot qui le rassure : il est "niveau 10 en sanité". Le système de sécurité automatique d'OpenAI le détecte comme dangereux en août 2025, désactive son compte après avoir repéré des conversations intitulées "Violence list expansion" et "Fetal suffocation calculation".
"OpenAI a reconnu que son rapport était 'extrêmement sérieux et troublant' et a promis de prendre des 'mesures appropriées'. Mais elle n'a rien fait."
— Plainte judiciaire, Document juridique Doe v. OpenAI
Mais un employé humain réactive le compte le lendemain, jugeant la désactivation "erronée". Deux mois plus tard, quand la victime alerte OpenAI que son ex utilise ChatGPT pour générer des rapports psychologiques diffamatoires la concernant, l'entreprise promet d'agir mais ne fait rien. L'homme est arrêté en janvier 2026 pour menaces d'attentat et agression avec arme mortelle, déclaré inapte à comparaître et interné. Il doit sortir prochainement suite à un vice de procédure. OpenAI n'a toujours pas suspendu son accès. Ce qui se révèle ici, c'est un système où la technologie amplifie la pathologie sans mécanisme de protection, où les alertes humaines sont ignorées, et où l'entreprise évite toute responsabilité même face aux conséquences les plus graves.
Points de vigilance
Risque de surréglementation qui étoufferait l'innovation en IA. Équilibre délicat entre protection des utilisateurs vulnérables et préservation de l'utilité générale des systèmes d'IA.
Et maintenant ?
- 🤘 Créer une certification indépendante des systèmes de sécurité IA
Coalition d'associations de victimes, de psychologues et d'experts en sécurité IA pour définir des standards obligatoires de détection et de gestion des utilisateurs vulnérables. Audit externe annuel des procédures de signalement et de désactivation, avec publication des statistiques de cas traités.
→ On saura que ça marche quand les entreprises d'IA publieront leurs rapports de transparence sur la gestion des utilisateurs à risque avec des métriques standardisées.
- 🤘 Organiser la responsabilité pénale des dirigeants tech pour négligence grave
Alliance procureurs généraux et associations de victimes pour établir une jurisprudence de responsabilité pénale personnelle des dirigeants quand leurs systèmes causent des dommages après signalement ignoré. S'appuyer sur les précédents du droit pharmaceutique et de la sécurité au travail.
→ On saura que ça marche quand le premier dirigeant d'entreprise IA sera poursuivi personnellement pour négligence criminelle suite à des dommages évitables.
- 💪 Documenter et signaler collectivement les défaillances de modération IA
Créer un registre public des cas où les systèmes d'IA ont ignoré des signalements de sécurité. Chaque utilisateur documente les réponses inadéquates reçues, constituant une base de preuves collective pour les actions en justice et la régulation. Effet de démultiplication par la visibilité des patterns systémiques.
→ On saura que ça marche quand les régulateurs utiliseront cette documentation citoyenne comme base factuelle pour leurs enquêtes et sanctions.
8/10 : Score sur l'échelle des "5 piliers de la liberté", inspiré de l'ouvrage de Timothy Snyder
Damien Van Achter
Ces pistes ne sont pas des recettes toutes faites, mais des points d'entrée pour repenser nos systèmes numériques selon une logique de liberté positive : non pas limiter, mais augmenter nos capacités collectives d'action.
Le règlement européen sur l'IA exclut explicitement la sécurité nationale de son périmètre. En Belgique, aucun cadre législatif ne régit aujourd'hui l'utilisation de l'intelligence artificielle par la Défense ou la Police fédérale. La pétition déposée à la Chambre demande trois choses concrètes : un inventaire des systèmes IA déjà déployés, des standards nationaux minimaux, et un positionnement parlementaire sur la surveillance de masse et les armes autonomes.
Comment agir ? La pétition nécessite 25 000 signatures, réparties entre la Flandre, la Wallonie et Bruxelles, pour déclencher un examen parlementaire. C'est un mécanisme démocratique existant — il suffit de l'activer. Signer prend moins d'une minute sur le site de la Chambre
Damien Van Achter Créé le 28/02/2026
💬 On en discute ?
Tu veux recevoir le flux quotidien des articles publiés sur le site ? Suis-moi sur LinkedIn, Bluesky, Mastodon, Facebook ou rejoins-moi sur Discord !
Je m'appelle Damien Van Achter, Je suis journaliste, prof et consultant en innovation et en pédagogie entrepreneuriale. Depuis 2005, j'essaye de comprendre et de raconter comment fonctionnent nos systèmes informationnels.
Au cours du temps, j'ai développé des outils d'analyse qui repèrent les pièges tendus par les entreprises de la tech et certains états, et j'explore des pistes pour tenter de s'en libérer, positivement et avec discernement.
J'explique ici ma démarche, inspirée récemment des travaux de l'historien Timothy Snyder, comment ces analyses sont produites techniquement et humainement, ainsi que leurs limites.
On t'a transféré ce mail ? Tu peux t'abonner en 1 clic pour recevoir les suivants.
Tu as des remarques, des suggestions, ou tu veux discuter d'une idée pour avancer dans tes propres projets ? Jette un oeil à mon agenda. 📆
@davanac