IA, cheval de Troie ou stade ultime du paradigme technocratique?

L’encyclique Laudato si’, publiée en 2015, est surtout connue pour son diagnostic de la nature de la crise dans laquelle se débat le monde confronté à un nombre croissant de défis. Selon le pape François cette crise est simultanément écologique et sociale. L’encyclique enjoint les acteurs – publics et privés de bonne volonté – à agir simultanément sur les deux tableaux.

Sans cela, si un des pans de la crise est trop délaissé, les efforts – aussi intenses soient-ils – resterons largement sans effet. Cette mise en garde continue de résonner aux oreilles du monde, sans changer fondamentalement le cours des choses, si l’on en croit la stagnation en matière de réalisation des Objectifs de Développement Durable, dont l’échéance est fixée à 2030.

Le diagnostic papal de la crise découle du cadre conceptuel que l’encyclique élabore et qu’elle nomme le «paradigme technocratique». En effet, le monde contemporain serait sur le point de basculer dans ce paradigme, ce qui ne ferait qu’aggraver la double crise dont il a été question plus haut.

Le paradigme technocratique surgit au point de convergence de trois processus actuellement en marche. Il y a tout d’abord la formidable accumulation de connaissances scientifiques et techniques dont seule une petite frange de la population mondiale est en position de faire usage. Cette frange occupe les postes clé dans le publique et le privé, et dispose du fait de sa position et de ses connaissances d’un formidable pouvoir.

Ensuite, le pouvoir épistémique se double d’un autre pouvoir, celui qui découle de la concentration croissante des ressources financières que ces mêmes élites sont en mesure de mobiliser. Il en résulte une technocratie.

«L’avenir est entre les mains des protagonistes de l’IA, à commencer par les détenteurs du savoir correspondant et des ressources financières»

Le troisième processus en marche qui, avec les deux autres rendent de plus en plus probable l’avènement du paradigme technocratique, est de nature morale: les élites technocratiques agissent animées par la quête de la rentabilité économique, sans trop se soucier des dégâts collatéraux, sociaux et environnementaux. Ainsi, la crise devient de plus en plus aiguë. Pour contrer cette tendance, il faut – dit Laudato si’ et plus récemment Laudate Deum (2023) – juguler les progrès du paradigme technocratique.

Depuis quelques temps, le Vatican s’intéresse de près à l’intelligence artificielle et aux moyens de la mettre au service des plus faibles. Ainsi, en juin dernier, le pape a délivré au G20 un message sur cette question. Contrairement à ce qu’on pourrait attendre, pour le pape, le rôle de l’IA dans le déploiement du paradigme technocratique reste encore indéterminé, tant il est vrai que sa logique et ses nombreux modes d’action peuvent aussi bien contrecarrer qu’accélérer l’avènement du paradigme. En d’autres termes, l’IA peut aussi bien sceller la victoire du paradigme (et donc précipiter la crise, voire l’effondrement) que s’avérer être un cheval de Troie, qui l’affaiblit.

L’avenir donc est ouvert. Il est entre les mains des protagonistes de l’IA, à commencer par les détenteurs du savoir correspondant et des ressources financières, sans oublier les législateurs ni les utilisateurs que nous sommes tous. C’est bien le sens du message au G20 qui se termine par cet appel à faire de l’IA un rempart contre l’extension du paradigme technocratique:

«Le paradigme technologique incarné par l’intelligence artificielle risque alors de céder la place à un paradigme bien plus dangereux, que j’ai déjà identifié sous le nom de ›paradigme technocratique’. Nous ne pouvons pas permettre qu’un outil aussi puissant et indispensable que l’intelligence artificielle renforce un tel paradigme; au contraire, nous devons faire de l’intelligence artificielle un rempart précisément contre son expansion.»

Paul H. Dembinski

18 septembre 2024