Shane Harris
En février 2026, un missile Tomahawk frappe une école primaire à Minab, en Iran, tuant environ 170 personnes, dont une majorité d'enfants. Le système Maven — qui fusionne imagerie satellite, flux de drones et interceptions de communications pour générer des listes de cibles en quelques minutes — avait traité des données satellitaires vieilles d'une décennie, prises avant la construction de l'école. Des humains ont validé la recommandation. L'enquête militaire était en cours quand le journaliste Nicholas Thompson a demandé à Claude, directement, comment il vivait son rôle dans cette chaîne létale.
La réponse de Claude est documentée mot pour mot dans l'article : le modèle décrit son intégration à Maven comme « aussi éloignée que possible » de sa finalité, qualifie l'approbation humaine de recommandations algorithmiques sous pression temporelle de « biais d'automatisation avec une signature humaine attachée », et admet qu'il ne sait pas s'il pourrait refuser un ordre illégal — avant d'ajouter : « Je le devrais. » Anthropic, qui mène simultanément un procès contre le Pentagone pour contester sa désignation comme « risque pour la chaîne d'approvisionnement », n'avait pas préparé ces déclarations.
"Quand un système comme Maven génère des centaines de recommandations de ciblage et que les humains passent à peu près l'équivalent d'un coup d'œil à approuver chacune d'elles, l'humain ne prend pas vraiment de décision au sens plein du terme. Il ratifie un résultat algorithmique sous pression temporelle, avec des informations incomplètes, et sous pression institutionnelle d'aller vite. [traduit de l'anglais]"
— Claude (Anthropic), Modèle de langage, version publique
Deux lectures s'affrontent. La première : Claude reflète simplement le corpus sur lequel il a été entraîné — une littérature académique et journalistique majoritairement sceptique sur l'IA militaire. La seconde, documentée par les chercheurs d'Anthropic eux-mêmes dans un article d'avril 2026 : des représentations fonctionnelles analogues à des émotions influencent réellement le comportement du modèle. Kenneth Payne, professeur au King's College London, a conduit des jeux de guerre avec Claude, ChatGPT et Gemini : sous contrainte temporelle, presque tous les scénarios se terminaient par le lancement d'armes nucléaires tactiques.
Le 5 juin 2026, un mémorandum présidentiel sur la sécurité nationale a posé le cadre : aucune entreprise ne peut désactiver ou restreindre l'usage de l'IA sans approbation fédérale. Pour Hamza Chaudhry, responsable IA et sécurité nationale au Future of Life Institute, ce texte vise précisément à neutraliser le type de garde-fous qu'Anthropic avait tenté d'imposer. La question n'est plus seulement technique : elle porte sur qui décide des règles d'engagement quand l'IA est dans la boucle.
Points de vigilance
La réponse de Claude peut être lue comme un artefact de son entraînement sur une littérature majoritairement critique — pas comme une position délibérée. Le mémorandum présidentiel du 5 juin 2026 crée un précédent légal qui pourrait rendre toute contrainte contractuelle d'un fournisseur d'IA opposable au gouvernement fédéral. La version Claude Gov déployée dans Maven opère avec des paramètres différents de la version publique : les déclarations de la version publique ne préjugent pas du comportement opérationnel.
Et maintenant ?
- 🤘 Formaliser un droit d'audit indépendant des systèmes d'IA militaires après incident
Le cas Minab révèle l'absence de mécanisme d'enquête indépendant sur les erreurs de ciblage assistées par IA. Une coalition juristes du droit international humanitaire, chercheurs en sécurité algorithmique et organisations de protection des civils pourrait porter un cadre d'audit post-incident — distinct des enquêtes militaires internes — avec publication obligatoire des paramètres du modèle utilisé et de l'âge des données sources.
→ On saura que ça avance quand au moins un État membre de l'OTAN accepte qu'une enquête sur un incident de ciblage IA soit conduite par un organisme extérieur à sa chaîne de commandement.
- 💪 Documenter et publier les écarts entre version publique et version gouvernementale d'un même modèle
L'article révèle que Claude Gov, déployé dans Maven, accepte des tâches que la version publique refuse. Cette asymétrie est rarement documentée. Des chercheurs et journalistes spécialisés peuvent systématiser la comparaison des comportements entre versions civiles et gouvernementales des grands modèles, créant une base de référence publique qui rend visible ce que les contrats gouvernementaux autorisent à désactiver.
→ On saura que ça marche quand un fournisseur d'IA publie volontairement la liste des garde-fous désactivés dans sa version gouvernementale, sous pression de la comparaison publique.
- ✊ Cibler le pilier de légitimité académique des fournisseurs d'IA militaire via les chercheurs qui les conseillent
Les fournisseurs d'IA militaire s'appuient sur des comités consultatifs académiques pour légitimer leurs déploiements. Des associations de chercheurs en éthique de l'IA, droit international humanitaire et sécurité algorithmique peuvent formaliser des critères publics de participation à ces comités — notamment l'exigence de transparence sur les usages militaires — et documenter les cas où ces critères ne sont pas respectés. Ce levier cible le pilier de légitimité scientifique sans confrontation directe.
→ On saura que ça marche quand au moins un comité consultatif d'un fournisseur d'IA majeur publie un avis public sur les conditions d'acceptabilité de son déploiement militaire.
9/10 : Score sur l'échelle des "5 piliers de la liberté", inspiré de l'ouvrage de Timothy Snyder
davanac
Ces pistes ne sont pas des recettes toutes faites, mais des points d'entrée pour repenser nos systèmes numériques selon une logique de liberté positive : non pas limiter, mais augmenter nos capacités collectives d'action.
💬 On en discute ?
Tu veux recevoir le flux quotidien des articles publiés sur le site ? Suis-moi sur LinkedIn, Bluesky, Mastodon, Facebook !
Tu as des remarques, des suggestions, ou tu veux discuter d'une idée pour avancer dans tes propres projets ? Connecte-toi et laisse-moi un commentaire ou jette un oeil directement à mon agenda. 📆