Icône

Aidez-nous à poursuivre notre travail de recherche indépendant

Devenez membre

L’intelligence artificielle et les mauvais pauvres

19 mai 2022

Lecture

5min


Alors que les personnes en situation de précarité sont les plus à même d’éprouver des difficultés à avoir une connexion numérique ou à utiliser les plateformes en ligne, le gouvernement a prévu un budget minimum de 25,6M$ pour numériser les dossiers des prestataires de l’aide de dernier recours afin, entre autres, d’intégrer de l’intelligence artificielle à ses processus décisionnels. Cette contradiction révèle le biais moral de cette initiative. Fondées sur des préjugés anciens, les mesures de contrôle croissent sans améliorer les services rendus aux personnes précaires.

À partir des années 1990, les gouvernements des pays dotés d’un filet social ont commencé à agir comme si l’assistance sociale créait une dépendance envers l’État. Pour la combattre, des programmes visant à stimuler la participation au marché de l’emploi ont été mis en place. On assistait au passage du « welfare » au « workfare », soit d’une assistance fondée sur le besoin constaté à une assistance qui doit être méritée par le travail. Une ancienne vision de la pauvreté ressurgissait ainsi : celle du pauvre paresseux et profiteur. L’intervention de l’État prit alors une tournure morale puisqu’elle visait à débarrasser les prestataires de ces mauvais plis. Depuis cette perspective, il faut redoubler d’ardeur pour séparer le bon grain de l’ivraie de la misère.

Cette transformation de la vision des politiques sociales s’est accompagnée d’une multiplication et d’un raffinement renouvelés d’outils de contrôle des prestataires des aides de dernier recours. Depuis quelques années, les outils numériques sont particulièrement dans la mire des États, car ils représentent l’occasion d’automatiser la détection des fraudes. Le forage de données (« data mining ») et l’intelligence artificielle pourraient servir à repérer celles et ceux qui ont reçu un sou indu ou se font passer pour inaptes au travail. De nombreux pays ont entrepris d’implanter de tels programmes automatisés. Ceux-ci connaissent par contre de nombreux ratés. En Australie, le gouvernement a été contraint de verser 1,8 milliard de dollars aux victimes de « Robo-debt », un algorithme qui utilisait une méthode de calcul du revenu jugée illégale. Le gouvernement avait poursuivi injustement 381 000 bénéficiaires de l’aide sociale, un épisode qualifié de « chapitre honteux » de l’administration publique. En France, l’intelligence artificielle a été utilisée pour cibler automatiquement les profils des personnes les plus à risque de frauder ou de recevoir des sommes indues. Plus insidieux qu’en Australie, le résultat a été un contrôle accru et répété des ménages les plus précaires. Les familles monoparentales, les personnes avec des adultes à charge et les ménages ayant des revenus mensuels de moins de 500 euros (environ 675$) en sont devenus les cibles principales.

Au Québec, le gouvernement n’a pas vanté les capacités de surveillance et de contrôle des prestataires de son projet de « gestion partagée de la prestation des services (GPPS) », préférant le présenter comme simple outil de gestion au service des prestataires. Pourtant, l’automatisation de la gestion de risque et de l’identification de « certaines problématiques » fait bel et bien partie des objectifs. Ce faisant, les prestataires des aides de dernier recours auront peu à gagner. Un rapport rédigé par la spécialiste de l’histoire des prestations d’aide sociale au Québec, Catherine Charron, montre que depuis son implantation, une infime partie des prestataires s’y sont inscrit·e·s. Ce n’est pas étonnant puisque non seulement les personnes les plus démunies sont les moins susceptibles de détenir des appareils électroniques individuels, mais ces derniers sont souvent peu adaptés aux procédures administratives (souvent conçues pour les ordinateurs plutôt que les téléphones). Outre le fait que ce transfert vers le numérique soit aussi en décalage avec les pratiques numériques de ce type d’usager·ère·s qui sont souvent axées vers la communication ou les loisirs, les services sont mieux adaptés à leurs besoins lorsqu’ils sont offerts en personne:

Les dossiers d’aide sociale sont parfois très complexes, parce que les parcours de vie des personnes assistées sociales sont souvent marqués par l’instabilité: changements d’employeurs fréquents, cumuls de plusieurs emplois précaires, déménagements, changements dans la vie maritale, etc. Les dossiers sont complexes également parce qu’ils sont le reflet de la complexité de la loi et des exigences administratives auxquelles doivent se conformer les personnes qui reçoivent une aide financière de dernier recours[1].

Alors que les données et les techniques de contrôle croissent, aucune donnée permettant d’évaluer la performance de l’État quant à ses capacités à venir en aide à ceux et celles qui y ont droit n’est disponible. Une estimation pourrait être réalisée avec ce qu’on appelle le taux de non-recours. Ces données existent par exemple en France, un pays où environ 50% des personnes admissibles ne recourent pas à l’aide à laquelle elles ont droit. Déjà, au Québec, la Protectrice du citoyen notait que les procédures complexes privaient les prestataires de sommes qui pouvaient faire la différence dans leur bien-être. Cette absence d’information sur les performances de l’État à rendre un service auquel les citoyen·ne·s ont droit dénote les priorités qui sous-tendent l’usage des technologies numériques par le ministère du Travail, de l’Emploi et de la Solidarité sociale.

Étant donné la modestie des sommes octroyées aux prestataires de l’aide de dernier recours, le déploiement de systèmes algorithmiques au Québec apparaît donc comme la manifestation d’une morale néolibérale qui vise à « corriger les déviances des bénéficiaires » plutôt qu’à corriger les revers d’un système profondément inégalitaire.

[1] Charron, Catherine (2022), Virage numérique et dématérialisation des services au MTESS : quels impacts sur les prestataires d’une aide financière de dernier recours ? Syndicat de la fonction publique et parapublique du Québec (SFPQ).

VOUS AIMEZ LES ANALYSES DE L’IRIS? SONGEZ À DEVENIR MEMBRE!

Icône

Restez au fait
des analyses de l’IRIS

Inscrivez-vous à notre infolettre

Abonnez-vous

Partager

Commenter la publication

Votre adresse courriel ne sera pas publiée.