> ## Content Index > Fetch the complete content index at: https://da.van.ac/llms.txt > Use this file to discover other available public pages before exploring further. # Algorithmes publics : la discrimination à l'échelle industrielle - URL: https://da.van.ac/algorithmes-publics-la-discrimination-a-lechelle-industrielle/ - Published: 2026-01-21T07:30:00.000Z - Updated: 2026-01-21T07:29:59.000Z - Description: L'automatisation des services publics transforme les biais historiques en discrimination systémique. Analyse des mécanismes par lesquels les algorithmes de détection de fraude et de recrutement reproduisent les inégalités à grande échelle. - Author: davanac - Tags: Factualité, Solidarité, Souveraineté, Imprévisibilité [How Algorithmic Systems Automate InequalityJames O’Sullivan explains how automated decision-making can reinforce inequality, obscure accountability, and reshape power under the guise of efficiency.![](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/icon/9a2224d300c1699fc1b87235aac36318e2c76cec-867x867-3.png)Tech Policy PressJames O’Sullivan![](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/thumbnail/f9d596c25f142a85117de306039926fd57527bed-1280x720.png)](https://techpolicy.press/how-algorithmic-systems-automate-inequality?ref=da.van.ac) Cette analyse révèle un mécanisme pervers : quand les administrations automatisent leurs décisions pour gagner en 'objectivité', elles industrialisent en réalité la discrimination. L'exemple néerlandais du scandale des allocations familiales (toeslagenaffaire) illustre parfaitement cette mécanique : un système conçu pour détecter la fraude a ciblé systématiquement les familles à double nationalité et à faibles revenus, non par malveillance mais par conception. L'algorithme, entraîné sur des données historiques saturées de biais de surveillance, a transformé la corrélation en causalité. > "Pour les communautés marginalisées, la menace n'est pas que la technologie échoue, mais qu'elle fonctionne exactement comme prévu, démultipliant la discrimination systémique que les politiques publiques sont censées atténuer \[traduit de l'anglais\]" Ce qui se dessine, c'est un nouveau régime de gouvernement par les données où la discrimination devient invisible car technique. Les systèmes de recrutement automatisé reproduisent l'homogénéité des équipes existantes en pénalisant les parcours non-conformes, sans jamais mentionner explicitement la race ou le handicap. Ils utilisent des 'proxies' — codes postaux, trous dans l'emploi, patterns linguistiques — qui fonctionnent comme des marqueurs sociaux déguisés. > "Le danger de ces systèmes réside dans leur capacité à blanchir les décisions politiques à travers des processus techniques. En présentant l'allocation et l'application de la loi comme des problèmes d'ingénierie, les institutions peuvent éviter l'examen moral et juridique qui accompagne habituellement les changements de politique \[traduit de l'anglais\]" L'asymétrie de pouvoir est totale : l'individu rejeté fait face à une boîte noire propriétaire, sans accès au score qui l'a disqualifié ni aux données d'entraînement. Cette opacité rend la contestation quasi impossible, isolant de fait les organisations déployeuses de toute responsabilité. Ce qui émerge n'est plus de la gouvernance mais une forme de 'phrénologie numérique' qui infère le caractère à partir de traces comportementales superficielles. *Points de vigilance : Risque de paralysie analytique si l'on se contente de critiquer sans proposer d'alternatives concrètes. L'audit technique peut devenir un alibi si les objectifs politiques sous-jacents restent inchangés.* > 8/10 : Score sur l'échelle des "5 piliers de la liberté", inspiré de l'ouvrage de Timothy Snyder [Framework #FLTR — Note méthodologiqueProtocole de production et de publication dont la ligne éditoriale est codée dans l’ADN-même du projet. Cette architecture auto-apprenante transforme une intention humaine en contraintes techniques, imposées tant aux outils d’intelligence artificielle qu’aux humains qui les entrainent, et vice-versa![](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/icon/1-1-dvnc_blanc_header_png-1-137.png)Damien Van Achter - First Learn The Rules. Then Break ThemDamien Van Achter![](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/thumbnail/dvnc_blanc_facebook_cover-12.jpeg)](https://da.van.ac/note-methodologique-5-piliers/) --- ## Et maintenant ? **🤘 Créer des observatoires citoyens de l'algorithme public par secteur** Alliance juristes-chercheurs-syndicats pour auditer systématiquement les algorithmes publics. Mécanisme : droit d'accès collectif aux données d'entraînement, publication obligatoire des résultats d'audit, recours collectifs facilités. Coalition : associations de défense des droits, syndicats de fonctionnaires, universités, médias d'investigation. *→ On saura que ça marche quand les administrations publieront proactivement les audits de leurs algorithmes avant leur déploiement, et qu'au moins 3 systèmes discriminatoires auront été retirés suite à des contestations collectives documentées.* **🤘 Transformer l'opacité algorithmique en transparence par l'action juridique** Stratégie coordonnée de recours collectifs ciblant les 'boîtes noires' les plus critiques. Mécanisme : mutualiser les coûts juridiques, partager les preuves techniques, créer une jurisprudence contraignante. Effet de levier : chaque victoire judiciaire force la transparence sur tout un secteur d'algorithmes similaires. *→ On saura que ça marche quand les entreprises tech et les administrations négocieront des accords de transparence pour éviter les class actions, et que les audits algorithmiques deviendront un standard d'achat public.* **💪 Documenter collectivement les décisions algorithmiques subies** Créer des bases de données citoyennes des décisions algorithmiques (refus de crédit, d'emploi, d'aide sociale) pour révéler les patterns discriminatoires invisibles. Mécanisme : applications de signalement anonymisées, analyse statistique collaborative, transmission aux régulateurs. Effet multiplicateur : plus il y a de données, plus les biais deviennent évidents et contestables. *→ On saura que ça marche quand au moins 10 000 décisions algorithmiques seront documentées dans une base ouverte, et que les premières enquêtes journalistiques utiliseront ces données pour révéler des discriminations systémiques.* --- **Ces pistes ne sont pas des recettes toutes faites, mais des points d'entrée pour repenser nos systèmes numériques selon une logique de liberté positive : non pas limiter, mais augmenter nos capacités collectives d'action.** Si tu connais des exemples réels qui vont dans ce sens — ou des contre-exemples qui méritent d'être documentés — partage-les en commentaires et discutons-en ensemble [sur Discord](https://discord.gg/BwgNe5nWCA?ref=da.van.ac) ! [ ![Icône Souveraineté - Boussole géométrique représentant le droit de choisir](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/2025/12/davanac_minimalist_compass_icon_with_details_centered_icon_desi_62890f0e-d9b1-40d6-b163-0886f41b9764.png) ](https://da.van.ac/tag/souverainete/) [ **Souveraineté** ](https://da.van.ac/tag/souverainete/) [ ![Icône Imprévisibilité - Papillon s'échappant d'une grille symbolisant le droit de surprendre](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/2025/12/davanac_geometric_butterfly_breaking_free_from_grid_pattern_mai_59d991e4-acf2-4f15-ab25-d95e2082e916.png) ](https://da.van.ac/tag/imprevisibilite/) [ **Imprévisibilité** ](https://da.van.ac/tag/imprevisibilite/) [ ![Icône Mobilité - Empreintes se dissolvant en pixels représentant la liberté de mouvement](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/2025/12/davanac_footprints_dissolving_into_pixels_main_motif_centered_i_e09b4ed3-f649-44d7-9841-dbc8b2ffdb2c.png) ](https://da.van.ac/tag/mobilite/) [ **Mobilité** ](https://da.van.ac/tag/mobilite/) [ ![Icône Factualité - Phare illuminant la vérité dans l'obscurité informationnelle](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/2025/12/davanac_lighthouse_beam_centered_light_source_white_geometric_s_94cfa640-198e-414e-a1d7-8df7b3b14605.png) ](https://da.van.ac/tag/factualite/) [ **Factualité** ](https://da.van.ac/tag/factualite/) [ ![Icône Solidarité - Points de données révélant la Terre pour symboliser l'interconnexion](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/2025/12/davanac_individual_data_point_revealing_The_Earth_main_illustra_38fb5ba1-6bf8-4b33-8c9e-da4a7c4a147e.png) ](https://da.van.ac/tag/solidarite/) [ **Solidarité** ](https://da.van.ac/tag/solidarite/) Cinq piliers pour prendre soin de nos libertés numériques ![](https://storage.ghost.io/c/cc/24/cc24464d-36ed-4062-b65c-671cf600c946/content/images/2025/12/La-liberte----un-bug-ou-une-fonctionnalite---.015-3.jpeg) ## First Learn The Rules. Then Break Them Tous les dimanches à 19h, l'analyse d'une actu majeure, sans jargon et avec des sources fiables. Pas de fatalisme mais des pistes d'action concrètes à expérimenter. Et les coulisses de mes projets avec mes partenaires et mes étudiants. Je m'abonne Email sent! Check your inbox to complete your signup. **No spam. La vraie fidélité, c'est celle de quelqu'un qui peut partir.*