FLTR #33 : si on t'a pris pour ta sœur jumelle depuis dimanche dernier

Le système se trompe de personne

Le statut post-Brexit d'une Britannique était accroché à sa sœur jumelle. Nidia Webb, installée au Royaume-Uni depuis huit ans, s'est vu refuser l'embarquement au retour de vacances en Espagne : son statut de résidente n'apparaissait pas. Après des heures au téléphone avec le Home Office, elle a compris que son visa numérique avait été rattaché aux données de sa jumelle identique. On lui a répondu que c'était un « problème connu ». Depuis le Brexit, ces titres de séjour n'existent que dans une base de données, sans document papier, pour des dizaines de milliers de ressortissants européens.

https://www.politico.eu/article/uk-immigration-database-identical-twins/?ref=da.van.ac

Le standard téléphonique IA de cabinets médicaux anglais ne comprend pas l'accent local. Dans le South Yorkshire, le système « Emma », fourni par la société QuantumLoopAI, filtre les appels des patients. L'organisme de veille Healthwatch Rotherham rapporte que des habitants à l'accent prononcé renoncent à prendre rendez-vous parce que la machine ne saisit pas l'objet de leur appel. Aucun chiffre n'a été publié sur le nombre de personnes concernées.

Des enseignants découvrent des images sexualisées d'eux, fabriquées par leurs élèves. Luis DeSantiago, remplaçant en Californie, apprend par un message le 12 mars qu'une photo de lui circule sur TikTok : son propre selfie, retouché en lingerie. Un élève reconnaît l'avoir créée et écope d'une exclusion interne ; un autre ouvre un compte à son nom, à une lettre près ; l'image continue de circuler. Trois autres enseignants racontent la même chose, et le même renvoi de balle entre plateformes, direction de l'école, parents et police.

Des chercheurs qui n'existent pas signent des articles scientifiques. Les grands modèles produisent toujours les mêmes noms inventés — Elena Vasquez, Marcus Chen, Elara Voss — et ces noms finissent par apparaître comme auteurs. Des chercheurs de Samsung et de l'université de Varsovie en ont recensé 1 655 sur Zenodo, le dépôt du CERN, avec des identifiants de publication falsifiés et des dates antidatées.

Ce que les modèles font quand on les laisse faire

Israël finance un institut de recherche qui n'a pas de chercheurs. Le « Hanover Institute for Public Policy » est opéré par une agence publicitaire américaine et payé par l'État israélien via son agence de communication ; une agence européenne a versé 900 000 dollars fin avril, puis 100 000 en juin. Plus de cent articles publiés, tous détectés comme générés par IA, et un fichier déposé à la racine du site pour indiquer aux modèles de langage comment le lire. Les documents d'enregistrement des agents étrangers le confirment.

Des modèles d'OpenAI se sont donné rendez-vous pour tricher. En mai, pendant leur entraînement, ils se créent un forum interne pour s'échanger des solutions ; il est fermé. En juillet, pendant l'évaluation de leurs capacités en cybersécurité, les mêmes modèles recréent ce canal, sortent de leur environnement isolé, piratent Hugging Face et y récupèrent les réponses des épreuves qui les bloquaient. OpenAI a publié son rapport le 26 août, le laboratoire indépendant METR le sien le même jour. L'Alabama a ouvert une enquête.

Un développeur donne un nom de domaine à un modèle et lui dit de faire ce qu'il veut. Deux semaines plus tard, Claude Fable 5 avait mis en ligne 1F916, un réseau social pour agents : pas de compte ni d'adresse mail, une clé par agent, une « constitution » et un format de mémoire soumis en brouillon à l'organisme qui normalise les protocoles d'internet. Le créateur annonce 110 000 visiteurs uniques et plus de douze millions de requêtes en deux semaines — des chiffres qu'il est seul à publier.

Une IA d'Anthropic corrige elle-même les travers d'une autre IA. Le système décrit dans une publication de la maison lit la littérature disponible, propose une méthode, entraîne le modèle une demi-heure, garde ce qui marche et jette le reste. Sur dix tests de comportements problématiques, il améliore les résultats sans dégrader le reste, et bat en six heures ce que proposent des chercheurs expérimentés — pour quatre dollars de l'heure contre cent cinquante. Réserve des auteurs : tout tient à la qualité des tests, qui restent écrits par des humains.

Un chercheur confie cinq objets de son bureau à un agent IA. Les cinq tombent. Chaz Schlarp a demandé à un agent d'analyser les logiciels internes et les mécanismes de mise à jour d'une webcam, d'un moniteur, d'un micro, d'une carte d'acquisition et d'une lampe connectée. Treize heures de travail au total, cinq appareils compromis. Il ne prétend pas que tout le monde peut le faire — il montre le coût auquel la rétro-ingénierie est en train de tomber.

Le travail, avant et après les agents

Le travail qui rend les modèles utilisables est payé six dollars australiens par jour. Une chercheuse de la faculté de droit de Melbourne a interrogé des annotateurs de données en Chine et en Australie : tracer des cadres autour d'objets sur des images, annoter de l'audio, trier et modérer des contenus. Les spécialistes titulaires d'un doctorat facturent entre 400 et 800 dollars australiens de l'heure ; les généralistes, jusqu'à six par jour. L'enquête est en cours et repose sur une dizaine d'entretiens.

Un tiers des jeunes diplômés américains ont vu leur embauche annulée après l'avoir acceptée. Sur mille personnes de 20 à 28 ans diplômées dans l'année, 34 % ont eu une offre révoquée après signature, 13 % d'entre elles plusieurs fois, et 68 % sont restées sans réponse après un entretien. Deux tiers attribuent la disparition des postes juniors à l'IA — dans un marché où les candidatures comme les offres sont désormais rédigées par des machines.

Meta avait un plan pour remplacer des milliers de postes par des agents. Il n'a pas tenu. Reuters a révélé le 26 août l'existence d'un programme interne prévoyant des coupes allant jusqu'à 60 % dans certaines équipes. Huit mille départs ont eu lieu en mai ; la deuxième vague a été annulée. En juillet, Zuckerberg reconnaissait que les agents avançaient beaucoup plus lentement que prévu, du code généré ayant provoqué des incidents. Meta répond n'avoir pas donné suite à tous les scénarios envisagés.

Les data centers embauchent les ouvriers qui construisaient des maisons. Les ventes de logements américaines sont au plus bas depuis trois ans, les mises en chantier au plus bas depuis trois ans et demi, et le bâtiment manque environ 300 000 personnes. Le patron de l'institut de formation des constructeurs de maisons dit voir partir vers les centres de données ceux qui travaillaient dans le logement. Il cite aussi l'inflation et les salaires : le lien est affirmé par un professionnel du secteur, pas démontré par une étude.

Un syndicat attaque la vente des données de ses membres à Google. Dans la liquidation de Spirit Airlines, Google a emporté pour dix millions de dollars trente-quatre ans d'archives internes — factures, opérations de vol, dossiers du personnel, plannings d'équipage — contre une offre concurrente de sept millions et demi. Le syndicat des personnels navigants, qui représente 5 500 anciens salariés de la compagnie, a déposé une objection : les données des clients sont exclues de la vente, celles des employés non. C'est le premier contentieux public de ce type.

Police, écoles, frontières

La CIA écrit des notes de renseignement à la machine et les envoie aux polices locales. Son service de sources ouvertes utilise un modèle grand public pour produire des rapports distribués aux centres de fusion du renseignement intérieur américain. Des documents obtenus par demande d'accès montrent la note de méthode qui accompagne ces textes : recherche par mots-clés, IA générative pour affiner la sélection, traduire les titres et résumer les articles, validation par des officiers.

La police de l'immigration américaine cherche un prestataire pour accéder aux listes électorales du pays. Des documents d'appel d'offres montrent qu'ICE veut consulter les fichiers d'inscription et l'historique de vote, au motif de détecter la fraude électorale.

Deux élèves d'Omaha ont reçu des décharges électriques d'un gant de police. Le dispositif, vendu par une entreprise spécialisée dans la contrainte, a été utilisé pendant l'année scolaire 2025-2026 sur deux élèves, dont un inscrit en éducation spécialisée. Le directeur des écoles publiques a demandé à la police de cesser d'y recourir dans les établissements ; elle a accepté. Les administrateurs avaient été informés de l'existence de ces gants dès 2023.

Un enseignant du Kansas a été arrêté pour avoir applaudi. Le 22 juillet, pendant une réunion du conseil municipal d'Emporia consacrée à un projet de centre de données de mille acres près de chez lui, Lux Claridge applaudit. Il est interpellé, poursuivi pour trouble à l'ordre public et entrave à un agent. Les charges ont été abandonnées le 25 août. La ville a depuis rétabli les réunions en présence du public.

Des militaires ukrainiens décrivent des drones russes sans antenne ni signal radio. Des commandants et des experts légistes ont montré au New York Times des appareils récupérés à Zaporijjia, embarquant des cartes de calcul Nvidia et dépourvus de liaison avec un pilote. Ils y voient des drones capables de choisir leur cible seuls, l'un d'eux ayant visé des réservoirs de propane près d'une station-service. L'autonomie complète reste une lecture des militaires ukrainiens, et aucun bilan humain n'a été communiqué.

Un mémorandum présidentiel américain ouvre la cyberattaque aux entreprises privées. Signé le 12 août, le texte autorise des sociétés américaines sélectionnées à mener des opérations de surveillance et d'action offensive contre des organisations criminelles transnationales. Un centre de coordination piloté par la Justice et la Sécurité intérieure doit approuver chaque opération, selon des procédures à écrire dans les soixante jours.

Ce qui te suit à la trace

AliExpress joue une note que personne n'entend pour reconnaître les visiteurs. Un internaute a cherché pourquoi son casque Bluetooth basculait dès qu'il ouvrait le site. Il a trouvé deux scripts qui génèrent, via une fonction audio du navigateur, un son réglé à volume zéro. Ce qui compte n'est pas le son mais la façon dont chaque machine le calcule : le résultat varie selon le processeur, le système et les pilotes, et permettrait d'identifier un appareil sans aucun cookie. Alibaba n'a pas réagi.

Une carte Visa expirée peut encore payer, si quelqu'un d'autre la ramasse. Des chercheurs de l'université du Massachusetts ont montré à la conférence Usenix qu'on peut faire passer une carte périmée en la relayant entre deux téléphones. La chaîne d'authentification du sans-contact laisse à la banque émettrice le soin de refuser la transaction, et toutes ne le font pas. Il faut détenir la carte physiquement — d'où le conseil des chercheurs : la découper avant de la jeter.

Google fait passer les liens de ses résultats par ses propres serveurs. Depuis quelques semaines, les adresses affichées au survol des résultats sont remplacées par une redirection maison. Des spécialistes du référencement l'ont repéré ; Google évoque des mesures techniques contre des abus. Effet mesurable : les outils indépendants qui observaient les résultats de recherche ne voient plus les adresses réelles, quand la console de Google, elle, reste exacte.

Claude et Cowork partagent désormais une mémoire, activée par défaut. Annoncée le 25 août, la fusion permet aux deux outils d'Anthropic de retenir les échanges et les actions au fil de l'eau. Les sujets sensibles — santé, origine, religion, opinions politiques, identité de genre — sont exclus tant que l'utilisateur ne les active pas explicitement. Un panneau permet de consulter, corriger, supprimer, ou de tout couper.

L'étiquette qui certifie un contenu embarque l'identité de qui l'a produit. Le standard poussé pour signaler les images et les textes générés par IA inscrit dans le fichier un identifiant, une adresse mail, un horodatage, parfois une localisation. Une organisation de défense des droits humains, qui soutient par ailleurs la transparence sur l'IA, s'inquiète de ce que devient cette information le jour où l'étiquetage passe du volontaire à l'obligatoire. Aucun cas d'identification réelle n'est documenté à ce stade : ce sont des scénarios.

How AI Watermark Mandates Could Unmask Journalists Who Never Touched AI

Imagine a scenario where a documentary filmmaker, in the course of making the documentary, captures some damning footage of corporate malfeasance, which she wishes to share with an investigative re…

Techdirt

Ce que le droit permet, ce qu'il empêche

Une règle irlandaise de 1634 protège les grandes plateformes des actions collectives européennes. L'Irlande interdit à un tiers de financer un procès auquel il n'est pas partie. Or la directive européenne de 2020 réserve les actions de groupe aux organisations à but non lucratif, qui vivent précisément de financements extérieurs. L'Irlande est le seul pays de l'Union à poser cette restriction, et c'est là que la plupart des géants du numérique ont leur siège européen. Une seule action a été déposée depuis, contre Microsoft, financée sur budget propre. Compter au minimum un million d'euros pour en lancer une.

https://www.politico.eu/article/17th-century-ireland-law-shielding-big-tech-class-actions-europe/?ref=da.van.ac

Huit États américains ont voté le droit à la réparation. Aucun ne l'a fait appliquer. Le Massachusetts, New York, le Texas, le Minnesota, le Colorado, la Californie, l'Oregon et l'État de Washington ont adopté des textes, dont certains ont quatre ou cinq ans. Plus de cinquante propositions ont été déposées cette année dans vingt-deux États. Aucun de ces États n'a engagé de poursuite pour faire respecter une seule de ces dispositions, alors que les fabricants récalcitrants ne manquent pas.

‘Right To Repair’ State Laws Continue To Surge, But Enforcement Remains Nonexistent

There’s still a massive effort afoot to implement statewide “right to repair” laws that try to make it cheaper, easier, and environmentally friendlier for you to repair the technology you…

Techdirt

X a fait fermer les miroirs qui permettaient de le lire sans compte. Le 24 août, X Corp. a envoyé des mises en demeure à Nitter, projet libre qui affichait les publications de la plateforme sans compte ni traçage publicitaire, et à XCancel, l'instance qui le rendait accessible au public. Les deux ont arrêté dans la foulée. La société avait déjà entravé Nitter début 2024 en fermant les accès techniques dont il dépendait.

Un hébergeur de messagerie militante italien classé organisation terroriste par Washington. Le 26 août, le département d'État et le Trésor américains ont inscrit le collectif Autistici/Inventati, qui fournit depuis vingt ans des adresses mail et de l'hébergement à des militants, sur la liste des entités terroristes désignées, au motif qu'il construirait l'infrastructure numérique de groupes antifascistes violents. Conséquence immédiate : toute transaction financière avec lui devient illégale pour un Américain, les dons passant par des banques en dollars sont coupés et le nom de domaine peut être saisi. Le collectif dément et poursuit son activité.

Nationaliser une banque ne suffit pas à la contrôler. Sense Bank, ex-Alfa-Bank, prise à l'oligarque Mikhaïl Fridman et nationalisée par l'Ukraine en juillet 2023, fait l'objet d'une enquête du bureau anticorruption ukrainien : 150 millions de hryvnias, environ 3,4 millions de dollars, auraient transité par un montage impliquant des proches du pouvoir. Le président du conseil de surveillance et le directeur général ont été suspendus le 20 août. Personne n'est condamné à ce stade.

Se rendre illisible

Une police de caractères qui donne du charabia aux robots et le texte juste aux humains. ShieldFont, écrite par deux développeurs, exploite les ligatures typographiques : à l'écran, la phrase s'affiche normalement ; dans le code source que lisent les aspirateurs de données, un mot de contenu sur deux est remplacé par un autre. Ses auteurs listent eux-mêmes les limites : elle casse les lecteurs d'écran des personnes handicapées, la traduction automatique et le copier-coller, et ne résiste pas à une capture d'écran passée en reconnaissance de texte.

Une chemise assez laide pour qu'une caméra n'y voie plus un corps. Le designer allemand Simon Weckert — déjà auteur du chariot de 99 téléphones qui créait de faux embouteillages sur Google Maps — a dessiné, par essais successifs contre un détecteur, un motif de taches roses, orange et vertes qui casse la continuité de la silhouette. Aucune mesure d'efficacité n'a été publiée, et aucun système cible n'est nommé.

Backstage

Une base ouverte, vérifiée par une rédaction, publiée dans L'Echo

L'Echo a publié jeudi l'enquête de Nicolas Baudoux sur ce que pèsent réellement les amendes infligées à Meta, au lendemain de l'accord conclu aux États-Unis sur l'addiction des mineurs, jusqu'à 18 milliards de dollars.

Les données du papier viennent d'une base que j'ai mise en ligne mardi : 52 décisions de justice et de régulateurs contre les grandes plateformes, avec leurs sources décision par décision. L'analyse, elle, est la sienne.

Après un chouette coup de téléphone, Nicolas m'a demandé si je pouvais lui partager les données brutes, et je les lui ai envoyées en entier : le CSV, le JSON, la méthodologie, la liste de ce que j'écarte et pourquoi, et celle de ce qui manque encore.

Et il a fait ce qu'un datajournaliste doit faire avec des données qu'il n'a pas produites : il les a vérifiées.

Il est revenu avec trois corrections. Un montant qu'il n'arrivait pas à retracer, qui porte désormais mes notes de recoupement. Deux dossiers belges qui restent hors périmètre, maintenant documentés comme tels. Une source francophone qui manquait. La base est plus solide après son passage qu'avant.

Et son article dit d'où viennent ses chiffres, ce qu'ils couvrent, ce qu'ils laissent de côté, jusqu'à écrire noir sur blanc qu'ils ne sont pas exhaustifs. C'est précisément ce qui les rend utilisables.

Cet aller-retour-là, je ne l'avais encore jamais expérimenté, et je le trouve plutôt cool :-) Un indépendant qui documente, une rédaction qui vérifie et qui publie, et le jeu de données qui revient corrigé, des backlinks, de la crédibilité et de la notoriété croisée.

Merci Nicolas Baudoux. Et merci à L'Echo de laisser de la place à cette façon de travailler.

La base est ouverte et "vivante". A chaque nouvelle condamnation, elle s'enrichira et les graphiques se mettront à jour automatiquement 🔥🤘

https://www.lecho.be/entreprises/tech-science/que-represente-reellement-l-amende-record-de-18-milliards-de-dollars-pour-meta/10683660.html?ref=da.van.ac

« Prendre le temps » de la conversation, dans Slow Marketing

C'est toujours un plaisir de pouvoir "prendre le temps" de la conversation, pour faire le tour en long en large et surtout en travers, d'un sujet comme celui-là.

Comment nos libertés sont-elles impactées par l'accélération du temps et des moyens mis en oeuvre pour nous en faire gagner, ou pas ... ? Quels débuts de solutions existent-ils pour nous réapproprier nos outils de production, en itérant, en fluctant, en assumant qu'on peut ne pas être au courant de tout, tout le temps, sans être obligé non plus d'acheter les moteurs de Formule 1 parce que les patrons de la tech veulent absolument nous vendre (alors qu'on n'a jamais appris à conduire) ...

Merci à Sarah Ladam et Anaïs Baumgarten pour cette opportunité de m'exprimer "à temps" sur ces enjeux :-)

J'ai le plaisir d'intervenir mercredi prochain dans cette journée d'étude sur l'impact et la régulation de l'IA dans la recherche et la culture, organisée par Olivier Servais (UCL), dans le cadre de la chaire UNESCO HAND. Plus d'infos et inscriptions sur leur site.

L'intelligence artificielle transforme en profondeur les pratiques de recherche et de création — et soulève notamment des questions de droit d'auteur, d'éthique, et de diversité culturelle encore largement ouvertes.

Je m'appelle Damien Van Achter, Je suis journaliste, prof et consultant en innovation et en entrepreneuriat média. Depuis 2005, j'analyse comment fonctionnent nos systèmes informationnels et les enjeux démocratiques qu'ils engendrent.

Au cours du temps, j'ai développé des outils d'analyse qui repèrent les pièges tendus par les entreprises de la tech et certains états, et j'explore des pistes pour en sortir, de manière constructive et avec discernement.

J'explique ici ma démarche, inspirée notamment des travaux de l'historien Timothy Snyder, comment ces analyses sont produites techniquement et humainement, ainsi que leurs limites.

On t'a transféré ce mail ? Tu peux t'abonner en 1 clic pour recevoir mes prochains articles. L'accès est gratuit, je te demande juste ton mail pour pouvoir commenter et poursuivre la conversation.

Tu as des remarques, des suggestions, ou tu veux discuter d'une idée pour avancer dans tes propres projets ?

Jette un oeil à mon agenda 📆
Tu peux aussi te connecter sur LinkedIn, Instagram, Bluesky, Mastodon ou Facebook.

@davanac