Depuis environ une dizaine d’années, le gouvernement chinois travaille à la réalisation d’un système de « crédit social » dont la pleine opérationnalisation est prévue pour 2021. Ce crédit social est le résultat d’un vaste système de collecte de données de toutes sortes sur la population : historiques de paiement, dossiers criminels, habitudes de consommation, banales incivilités, types d’endroits et d’individus fréquentés, etc. Ces informations sont collectées par les autorités de Pékin qui attribuent un score à chaque individu dans le but officiel d’augmenter la « confiance » générale au sein de la population, afin de faciliter le développement économique du pays.
En fonction du score obtenu, un individu peut se voir octroyer des privilèges, comme obtenir un prêt, inscrire ses enfants dans une bonne école ou bénéficier d’un temps d’attente réduit pour obtenir des services de l’État. La même personne voyant son score chuter devra toutefois en subir les conséquences, comme être mis sur une « liste noire » pour plusieurs services, par exemple la possibilité de voyager en avion ou en train rapide. En cas d’errements du système de crédit, peu ou pas de recours n’existent pour les individus lésés. Les algorithmes utilisés pour établir ces scores sont évidemment gardés secrets.
Ce système de crédit social est, bien entendu, d’abord et avant tout un outil de contrôle à l’usage du régime chinois aux ambitions totalitaires. Il ne faut toutefois pas sous-estimer le fait qu’il vient bel et bien pallier l’absence de données fiables pour prendre des décisions d’ordre économique; la fameuse « confiance » dont parle le régime et qui est au cœur de toutes les économies capitalistes. Cette confiance, chez nous, est également le fruit d’un amalgame de données amassées sur la population. Il est donc intéressant de dresser les parallèles entre le cas chinois et celui de nos économies dites libérales.
Dans nos sociétés, une foule d’acteurs, principalement des compagnies privées, collectent, colligent, analysent et utilisent des données similaires à celles qui sont au cœur du système chinois. Chaque individu qui a déjà ouvert un compte en banque possède une cote de crédit en fonction de ses activités passées. Cette cote est déterminée par une poignée de compagnies privées qui forment un oligopole et qui font fréquemment l’objet de scandales en matière d’erreurs sur la personne et de fuite de données. Rappelons qu’Equifax, à qui Desjardins a accordé sa confiance suite au vol de données de ses clients, s’est elle-même fait voler les données de 145 millions d’individus en 2017.
Quand on parle de données massives, les GAFAM (Google, Amazon, Facebook, Apple et Microsoft) sont évidemment les chefs de file en matière de « surveillance volontaire » de nos moindres faits et gestes sur internet et au-delà. La surveillance involontaire fait toutefois également partie de leur arsenal, par exemple avec les services de reconnaissance faciale d’Amazon qui sont utilisés par plusieurs corps de police sur notre continent pour scruter les faits et gestes de la population en temps réel.
De plus en plus de compagnies d’assurance-vie proposent des réductions de primes en échange de nos données (données biométriques recueillies à l’aide d’un fit-bit pour les assurances-vie, données GPS de conduite pour les assurances auto, etc.). Enfin, les personnes qui œuvrent dans la gig-économie sont à la merci des cotes de satisfaction qui leur sont données par leurs clients sur les différentes plateformes (Uber, AirBnB, Taskrabbit, etc.) La liste des prétextes pour nous scruter, nous analyser et nous juger est de plus en plus longue. Bientôt, rien ne sera laissé dans l’ombre, la carte sera aussi grande que le territoire.
Ce qui reste secret, toutefois, ce sont les boîtes noires que constituent les algorithmes qui servent à automatiser le traitement de nos informations. Comme dans le régime chinois, les formules utilisées pour classer les individus et encourager certains comportements sont gardées secrètes. Ces algorithmes déterminent de plus en plus qui recevra une subvention du gouvernement, qui sera remis en liberté sous caution, quel quartier sera patrouillé plus attentivement, qui sera admis à l’université, qui aura droit à un prêt, à un emploi, à un logement. Ils sont la sauce secrète et la poule aux œufs d’or des compagnies qui les détiennent. Sans brevets ni secret industriel, ces algorithmes ne seraient tout simplement plus développés par le secteur privé.
La somme des données produites dans les économies capitalistes de nos démocraties libérales n’a donc pas à rougir devant celles collectées par le régime chinois. Ce qui différencie les deux systèmes, cependant, est le fait que la production et le traitement des données dans nos sociétés sont encore relativement dispersés entre plusieurs acteurs publics et privés; ils ne font pas l’objet d’un usage centralisé par un pouvoir monopolistique en particulier.
Toutefois, les méfaits avérés et potentiels de ces nouvelles technologies proviennent également de cette configuration plus décentralisée où les autorités étatiques ne jouent pas leur rôle de protection adéquatement. En conséquence, si l’on veut éviter que nos démocraties libérales ne deviennent l’alter ego du régime chinois en matière de surveillance et de contrôle de ses populations, plus d’État, pas moins, sera nécessaire. L’autorégulation de l’industrie à travers ses déclarations éthiques pompeuses ne saurait être suffisante. Un contrôle accru de ce qui est développé et du type d’informations collectées est de mise.
À condition, bien sûr, que l’État conserve son caractère démocratique, que nos institutions aient la capacité de réguler l’industrie pour l’aligner avec le bien commun. Même si cela voulait dire appuyer sur les freins du développement économique dans le secteur des technologies impliquées. Dans un contexte où les gouvernements du Québec et du Canada investissent des sommes colossales dans l’industrie des données, nous sommes en droit de nous inquiéter du manque de distance des pouvoirs publics face à ces intérêts privés.
