L'algorithme secret de la CAF qui cible les plus vulnérables enfin exposé

Un système-informatique controversé de la CAF note les allocataires depuis presque 15 ans. Une coalition dʼorganisations demande son arrêt immédiat face à ses méthodes discriminatoires

3 novembre 2024, 01:00  •  0 vues

L'algorithme secret de la CAF qui cible les plus vulnérables enfin exposé

Lʼintelligence-artificielle sʼinfiltre silencieusement dans notre quotidien transformant nos services publics et nos interactions sociales (mais peu de gens connaissent son véritable impact)

La surveillance algorithmique se cache derrière une façade de modernisation: les prestations sociales sont devenues le terrain dʼexpérimentation privilégié dun système de notation contesté. Bien que la fraude aux prestations soit bien moins importante que lʼévasion fiscale; le système persiste à cibler les plus démunis

Il y a environ un an‚ Amnesty International avec 14 autres organisations dont La Quadrature du Net ont déposé une plainte historique devant le Conseil dʼÉtat. Leur objectif: stopper un algorithme mis en place depuis presque 15 ans qui attribue des scores de risque aux allocataires

  • Les personnes vivant dans des quartiers défavorisés
  • Les chômeurs et personnes handicapées
  • Les familles mono-parentales
  • Les habitants de certaines zones géographiques

Le code-source révélé en 2023 par La Quadrature du Net montre des corrélations troublantes entre le score de risque et des facteurs socio-économiques: plus le score est élevé plus les contrôles sʼintensifient - un système qui transforme les bénéficiaires en suspects permanents