Lʼintelligence-artificielle sʼinfiltre silencieusement dans notre quotidien transformant nos services publics et nos interactions sociales (mais peu de gens connaissent son véritable impact)
La surveillance algorithmique se cache derrière une façade de modernisation: les prestations sociales sont devenues le terrain dʼexpérimentation privilégié dun système de notation contesté. Bien que la fraude aux prestations soit bien moins importante que lʼévasion fiscale; le système persiste à cibler les plus démunis
Il y a environ un an‚ Amnesty International avec 14 autres organisations dont La Quadrature du Net ont déposé une plainte historique devant le Conseil dʼÉtat. Leur objectif: stopper un algorithme mis en place depuis presque 15 ans qui attribue des scores de risque aux allocataires
- Les personnes vivant dans des quartiers défavorisés
- Les chômeurs et personnes handicapées
- Les familles mono-parentales
- Les habitants de certaines zones géographiques
Le code-source révélé en 2023 par La Quadrature du Net montre des corrélations troublantes entre le score de risque et des facteurs socio-économiques: plus le score est élevé plus les contrôles sʼintensifient - un système qui transforme les bénéficiaires en suspects permanents