Les GAFAM contre la santé durable : vers une intelligence artificielle au service du réseau public de santé et de services sociaux

En ce moment, une des questions cruciales qui anime les chercheurs et les chercheuses est de savoir si l’IA pourrait contribuer positivement au réseau public de santé et de services sociaux. Plus précisément, on se demande si la technologie pourra contribuer à améliorer les soins, à réduire la maladie et à réduire les coûts pour les systèmes de santé. Les promesses sont nombreuses, mais répondent-elles à ces exigences?

Pour le dire simplement, est-ce que l’intelligence artificielle « sauvera » notre système de santé public?

La réponse courte, c’est malheureusement non.

L’intelligence artificielle est une technologie qui est accompagnée de nombreuses promesses. Celles-ci se retrouvent aussi dans le domaine de la santé. Elles animent et justifient des investissements financiers privés et publics importants dans ce secteur. Ces investissements sont rassurants, car utiliser l’intelligence artificielle pour améliorer la santé paraît être une utilisation responsable d’une technologie controversée.

L’IA permet des analyses extrêmement rapides de quantité jamais vue d’informations. Ces applications potentielles se révèlent nombreuses : produire plus efficacement de la documentation administrative, gérer des stocks d’équipement hospitalier, découvrir des médicaments, détecter des maladies de manière précoce, produire de meilleurs diagnostics, faciliter les communications, organiser les horaires, fournir des informations de qualité aux patients, etc. En bref, avec l’IA vient cette idée que la population pourra être en meilleure santé, que le travail de soin sera plus efficace et que les coûts d’opération seront plus bas.

Néanmoins, entre les promesses et la réalité, il y a un fossé que les expert·e·s du domaine constatent de plus en plus clairement.

En effet, les avantages cliniques, organisationnels et même économiques de l’IA en santé demeurent encore très incertains. Dans les laboratoires, elle fonctionne bien. Mais dans la réalité, son intégration est plus complexe. Et cela, c’est sans compter tous les problèmes éthiques qui émergent, comme ces robots conversationnels (chatbot) dangereux pour les patient·e·s ayant besoin d’aide psychologique.

L’autre enjeu principal concerne les finalités de l’intelligence artificielle. En ce moment, la santé est un des principaux secteurs de son développement industriel. Les grandes entreprises de la Silicon Valley cherchent à se positionner favorablement sur ce marché en effectuant de nombreuses acquisitions. Depuis trois ans, les achats par des méga corporations associées au numérique, comme Amazon, Nvidiaou Google, se multiplient (voir Figure 1). Ce modèle de rachat est typique de l’industrie. Les grandes entreprises ciblent les plus petites qui ont été testées et les acquièrent afin de les intégrer dans leur portefeuille.

Figure 1

Est-ce que cela signifie qu’Uber pourrait bientôt soigner votre grand-mère ?

Oui et non.

La compagnie Uber est intéressée par les soins de santé. Elle offre d’ailleurs des services pour accompagner les soignant·e·s chez leurs patient·e·s. Néanmoins, cette entreprise, comme presque toutes les plateformes du secteur des soins à domicile, se déresponsabilise des services offerts. Uber se place comme un entremetteur et non comme un fournisseur de services. Cette déresponsabilisation est l’un des problèmes-clés de la présence des grandes entreprises dans le domaine de l’IA en santé.

D’ailleurs, les infirmières de la Californie affichent publiquement leur inquiétude pour la qualité des soins et du travail face à l’implantation de ces technologies de gestion du travail. La surveillance accrue des travailleuses et la précarisation du travail forment la toile de fond des nouvelles contraintes qui s’imposent à travers l’automatisation des soins.

Le manque d’investissement en prévention et en services sociaux

On constate en outre que la présence d’une industrie privée de l’intelligence artificielle en santé oriente le développement des produits vers le secteur hospitalier. Les dépenses associées sont généralement élevées. Les spéculations relatives au pouvoir de guérir des maladies rares ou de mieux traiter des maladies fréquentes rendent ce secteur particulièrement attractif. En conséquence, les outils destinés à la guérison augmentent, alors que ceux dédiés à la prévention ou au contrôle des facteurs environnementaux des maladies (comme la pollution) stagnent.

Le financement accordé par les gouvernements provincial et fédéral à l’IA suit cette tendance (voir Figure 2). Cette avenue correspond à l’objectif de faire croître des entreprises qui seront rachetées ou qui seront inscrites en bourse.

Figure 2

Elle traduit également l’organisation du financement. En ce moment, les fonds publics sont distribués à des organisations parapubliques ou privées d’investissement.

La Caisse de dépôt et placement du Québec, Scale AI, MEDTEQ et le Consortium québécois sur la découverte du médicament sont trois consortiums qui contrôlent la part la plus importante des subventions et du financement en provenance du gouvernement (voir Figure 3).

Figure 3

En laissant les acteurs du milieu des affaires sélectionner les projets, le gouvernement du Québec leur accorde aussi la liberté de déterminer la signification du succès en leurs termes (voir Figure 4). C’est ce qui explique qu’actuellement, la distribution des fonds renforce les modèles d’affaires tournés vers la création d’entreprises qui se feront acquérir ou effectueront une entrée en bourse dans l’espoir de devenir la prochaine « licorne ».

À l’inverse, une entreprise ou un organisme qui propose une technologie innovante qui ne rejoint pas un marché international ou qui ne se fait pas au profit d’une privatisation des soins aura un accès restreint aux subventions d’envergure puisque le potentiel d’une valorisation élevée, de retombées économiques importantes et immédiates ou d’exportation font partie des critères de sélection.

Figure 4

Actuellement, la lutte aux inégalités de santé, la réduction globale des coûts du système par la réduction de la maladie est donc exclue des stratégies d’investissement en IA du gouvernement. 

La co-production de l’intelligence artificielle pour contrer la puissance des GAFAM

Les entreprises du numérique sont très puissantes. Cela ne signifie pas que leur pouvoir est absolu. Il est encore temps de se réapproprier les technologies pour les mettre au profit d’une vision de la santé différente, c’est-à-dire pour un système public de santé et de services sociaux pérennes. 

La santé durable est un principe orienté sur les déterminants sociaux de la santé ainsi que sur la réduction globale de la maladie et la durabilité financière des systèmes de santé. Les objectifs et les coûts des technologies doivent donc être aussi pris en compte.

Le principe de co-production des services permettrait de se diriger vers ces objectifs. Cela signifie que les rennes du financement et du développement ne peuvent plus être laissés seulement à l’industrie, mais doivent inclure toutes les parties prenantes, comme les chercheurs et les chercheuses, les patient·e·s de même que les travailleuses et les travailleurs du réseau.

Ceux-ci sont d’ailleurs déjà considérés comme essentiels. Leur participation répond à un problème majeur auquel faisait face l’industrie : elles créent des innovations qui ne sont pas nécessairement adoptées parce qu’elles ne sont pas toujours pertinentes dans le cadre du travail réalisé par les soignant·e·s.

Malgré tout, ils sont exclus des espaces décisionnels qui structurent l’orientation de l’innovation en santé. Ainsi, les gains de leur participation pour le réseau ne sont pas clairs.

Donner du pouvoir aux acteurs du terrain sur l’avenir des technologies, c’est se donner la chance d’avoir des outils adaptés pour un système public qui respecte les principes de la santé durable. Pour éviter que les problèmes déjà observés ailleurs suite à l’adoption du numérique se reproduisent dans le réseau de la santé, ce changement d’orientation doit se faire le plus tôt possible.