Terminator et les changements climatiques

Par

Alors que la dernière mouture de Terminator est présentée dans les salles de cinéma, je vous propose une réflexion concernant les risques existentiels posés par les progrès technologiques. Les risques existentiels réfèrent aux risques de voir l’humanité disparaître. Ce genre de risques fait partie de notre réalité depuis peu : on peut fixer à 1945, avec l’explosion de la première bombe atomique, le début de cette nouvelle ère. Depuis, plusieurs technologies sont apparues qui laissent entrevoir la possibilité de nouveaux risques existentiels avec lesquels l’humanité doit apprendre à composer au plus vite : on peut penser à des armes bactériologiques génétiquement modifiées, des armées de nanorobots ou une super intelligence artificielle qui se retournerait contre l’humanité. Depuis la première version de Frankenstein parue en 1818, la science-fiction est remplie de ces scénarios catastrophes où la créature se retourne contre son créateur.

Tous ces risques existentiels ont pour point commun d’être le pur produit du génie humain. Ils ne peuvent advenir que si des humains décident de développer ces nouvelles technologies et ils ne peuvent être évités que si des humains sont capables d’appliquer les freins avant qu’il ne soit trop tard. Les découvertes scientifiques des dernières décennies nous offrent une série de boîtes de Pandore potentielles qu’il nous revient d’ouvrir ou non. Le hic, c’est que les forces sociales en présence favorisent la prise de risques plutôt que la prudence. La compétition entre les États et entre les compagnies privées fait en sorte que les individus et les organisations qui ont les capacités d’investir dans une course à l’armement technologique sont les mêmes qui ont intérêt à gagner cette course. Pour que les intérêts de survie de l’humanité dans son ensemble passent avant les intérêts de ceux qui peuvent capitaliser sur ce qui signerait notre arrêt de mort, nous devrons trouver les moyens de freiner le développement de certaines technologies, quitte à passer pour des conservateurs technophobes aux yeux de certains.  

Prenons le cas des risques liés au développement d’une super intelligence artificielle et penchons-nous sur l’hypothèse classique du « paperclip maximizer », le maximisateur de trombones. Imaginez une super intelligence artificielle aussi puissante que Skynet (le système informatique qui se rebelle dans la série des films Terminator), mais qui aurait été conçue par la compagnie 3M, avec pour seule tâche de produire un maximum de trombones. Le maximisateur de trombone se met à la tâche, utilise toutes les ressources à sa disposition pour atteindre son objectif unique, et se met à transformer toute la matière qu’il croise en trombones, y compris celle qui constitue les humains et le reste de la vie sur Terre. Rapidement, notre planète se trouve transformée en un vaste désert de trombones. Pas besoin d’un dessein maléfique pour que cette intelligence détruise tout sur son passage, seulement d’un programme mal conçu.

Personne ne s’opposerait à ce que l’on prenne les mesures nécessaires pour éviter cette « apocalypse des trombones ». Or, ces mesures ne sauraient être adoptées à minuit moins une. Il faut réfléchir à ces risques existentiels potentiels en amont et s’assurer que les investissements et les règles éthiques entourant la recherche et le développement des nouvelles technologies soient orientées dès le départ vers une maximisation de la sécurité des générations futures, plutôt que par la quête de profits ou d’un avantage stratégique à court terme.

L’hypothèse du maximisateur de trombones est une manière cocasse et facile de se représenter les dangers inhérents au fait d’accorder autant de pouvoir à un système aussi puissant et ne répondant qu’à sa propre logique avec des moyens illimités. On peut également utiliser cet exercice de pensée pour comprendre un risque existentiel bien réel et plus près de nous, soit les changements climatiques, en remplaçant le maximisateur de trombones par le maximisateur de profits et le désert de trombone par un climat trop chaud pour accueillir l’humanité. Il est de notre responsabilité collective de faire face à ce risque existentiel, alors que les graines de ce danger furent plantées bien avant nous, il y a environ 200 ans, au moment où le capitalisme s’est mis à remplacer l’huile de coude par du charbon. 

Il était minuit moins quart il y a 40 ans, lors de la conférence internationale où le risque des changements climatiques fut expliqué aux dirigeants de ce monde pour la première fois; il est maintenant minuit moins une. Réglons rapidement ce problème et tentons de prendre de l’avance sur les nouveaux risques existentiels que nous voyons poindre à l’horizon. Assurons-nous d’avoir des institutions démocratiques solides qui prennent la question des risques existentiels au sérieux et qui nous permettent de prévenir le pire. C’est seulement par une redistribution du pouvoir dans la société que les intérêts supérieurs de l’humanité pourront supplanter ceux d’une minorité insouciante. 

Commentaire sur l'article

Yves Legault

Je reprends la dernière phrase du texte:
"C’est seulement par une redistribution du pouvoir dans la société que les intérêts supérieurs de l’humanité pourront supplanter ceux d’une minorité insouciante. "

De nos jours, POUVOIR = ARGENT. L'argent est LITTÉRALEMENT le nouveau DIEU!

Quand à cette minorité, je ne la crois pas insouciante. Puisque DIEU veille à lui cacher la réalité, elle ne croit que ce qui peut lui être raconté par les PRÊTRES de DIEU: les banquiers.

Mis à part la pollution chimique, nucléaire et les dépotoirs, sans oublier les plastiques, l'homme n'a que très peu d'influence sur son environnement.

Si on regarde la production énergétique de l'humanité, c'est l'équivalent de 45 minutes de l'énergie que la Terre reçois du Soleil.
L'humanité ne produit pas assez d'énergie pour affecter le climat avec 0.009% de toute l'énergie en jeux.

La production de CO2 de l'humanité est de 56 milliard de tonnes par année.
La nature en produit plus de 650 milliards de tonnes en un an.
L'humanité n'arrive pas à produire 9% de ce que la nature génère en terme de CO2.

Cependant, il est vrai que la déforestations systématique et le détournement des cours d'eau a un effet durable sur l'environnement.

Pourquoi ne pas se donner les moyens de réaliser nos projets?

Je propose ici de détruire pour toujours le pouvoir de créer et d'utiliser l'argent-dette utilisé par le monopole de l'argent pour asservir l'humanité.

Ensuite, nous aurons les moyens de nos ambitions.

Lise Labbé

Votre comparaison n’est pas si farfelue! Mais c’est un changement global de paradigmes dont nous avons besoin. Si nous ne changeons pas l’idéologie de la croissance par une réflexion et une volonté de décroissance, nous n’y arriverons pas. Et ce ne sont pas les entreprises qui ont tout à gagner à court terme avec notre boulimie de consommation qui vont initier ce changement. Elles fonctionnent avec la loi de la jungle et remettre cette idée en question serait de l’hérésie pour elles. On n’a qu’à regarder toute la publicité, entre autres sur les voitures, pour faire le triste constat du déni de l’urgence climatique et de notre volonté d’y apporter rapidement des changements et des solutions.

Jean Forest

Illustration cocasse, il va sans dire, car je n'aurais pu inventer un tel détournement de l'IA tellement je suis peu familier avec l'univers des Terminator de ce monde. Mais ce n'est pas moi qui le dis! Toutefois quelle belle façon d"illustrer que c'est vraiment à nous les contemporains de ce monde à stopper drastiquement et de toute urgence les pollutions que génèrent le mode de vie des pays riches et les inégalités criantes générées par le capitalisme. Mais comment y arriver? Votre article pointe les bonnes cibles: des institutions démocratiques solides et une redistribution du pouvoir dans la société. À minuit moins une, avons-nous vraiment le temps d'une telle reconstruction car, à mon humble avis, c'est bien de cela qu'il s'agit. Nos choix démocratiques me semblent bien plus influencés par la publicité et les idées de droite à la mode à travers tout l'Occident (un Canada divisé comme il l'est présentement en est un triste exemple). Quant à la "redistribution du pouvoir" , elle est certes dans l'air du temps à travers une bonne partie de la planète mais hélas les changements significatifs sont très lents à se mettre en place. Je ne suis pas pessimiste pour autant mais un peu inquiet tout de même. Merci de cette invitation à la réflexion.