L’intelligence artificielle au service du Salut

L’intelligence artificielle (IA) fait-elle partie du plan de Dieu? Théologien et ingénieur en aéronautique, Jean-Marc Moschetta aime répondre par l’affirmative pour amener son interlocuteur à déplacer son regard et à réfléchir à une utilisation de l’IA au «service du salut».

Le développement des systèmes d’intelligence artificielle (IA) véhicule des craintes. En arguant que l’IA fait partie du projet de Dieu pour l’Homme, du fait de la vocation de co-créateur de celui-ci, vous défendez une vision plus optimiste. Qu’entendez-vous par là?
Jean-Marc Moschetta: Dieu a tout créé. C’est une affirmation fondamentale de la foi judéo-chrétienne. L’intelligence en général est une création de Dieu. Les machines actuelles qui simulent l’intelligence et sont des créations de l’intelligence humaine sont donc aussi l’œuvre de Dieu. C’est la même créativité divine qui s’exprime dans l’IA que dans l’apparition de l’intelligence naturelle, que j’appellerais l’intelligence biologique.

La nature a produit une forme de transcendance, c’est-à-dire une forme d’intelligence qui permet à l’être humain de se regarder en retour et de regarder plus loin que ce qu’il est. On ne peut pas se désoler que des hommes répliquent l’intelligence humaine dans des machines, de manière encore très balbutiante, et célébrer par ailleurs les progrès des processus naturels qui ont conduit aux homo sapiens, suite à nombre d’essais et de coûteuses erreurs sur des générations.

Toute création humaine, même la plus mauvaise, comme les armes de destruction massive, serait donc œuvre de Dieu?
Le parti pris du récit judéo-chrétien de la création, c’est de déclarer celle-ci «bonne». Mais on ne peut pas comprendre cette assertion sans référence à la temporalité biblique et à la perspective du Salut.

Une lecture traditionnelle du récit de la Genèse indique l’inachèvement structurel de la création divine: Dieu crée quelque chose qui est différent de lui et qui reste en cours d’achèvement, la lumière, les eaux, les animaux et l’Homme. Au septième jour, le shabbat, il est précisé que «Dieu acheva ce qu’il avait créé», ce qui suppose que la création des éléments du monde relève d’actions inachevées et bonnes à la fois. Le shabbat est un jour d’achèvement, mais nous sommes toujours dans le temps de l’achèvement de la création.

Regardez la nature, même indemne de la malice humaine. Elle est pleine de cruauté et d’immoralité. Des mésanges crèvent le cerveau de leurs petits pour se nourrir; des guêpes parasitoïdes pondent dans des larves d’autres insectes pour que leur progéniture s’y développe au prix de la vie qui les abrite. Ce sont ces observations qui ont amené Darwin à perdre la foi dans un Dieu bienveillant qui ne créerait que de belles choses.

C’est aussi cette ambiguïté de la créativité qui fait dire à Isaïe, au chapitre 11, que ce n’est pas ce que Dieu a voulu, que son dessein est la réconciliation, pour que le loup puisse habiter avec l’agneau et l’enfant mettre sa main sur le trou d’une vipère sans mourir. «Il n’y aura plus de mal ni de corruption sur toute ma montagne sainte; car la connaissance du Seigneur remplira le pays comme les eaux recouvrent le fond de la mer.» Rien de ce qui émerge dans le monde n’est parfait, mais tout est en lien avec le projet de Dieu.

«Je n’arrive pas à me persuader qu’un Dieu bienveillant et tout-puissant ait pu créer délibérément les ichneumons avec l’intention de les faire se nourrir de l’intérieur du corps de chenilles vivantes…»

Charles Darwin

Il ne nous reste qu’à attendre tranquillement…
Au contraire. L’homme participe certes au projet de Dieu lorsqu’il produit quelque chose, que ce soit du bon ou du mauvais, des cantates de Bach ou des armes de destruction massive. Mais il est appelé en tant que co-créateur à transformer les objets conçus pour le mal.

La créativité humaine peut se mettre au service du salut ou s’ériger contre cette intention de réconciliation universelle. «De leurs épées, ils forgeront des socs, et de leurs lances, des faucilles», dit Isaïe (Is 2,4). C’est-à-dire que ces objets qui ont été créés pour faire le mal peuvent être réemployés et réorientés pour le beau et le bien. Purifiés.

La liberté que Dieu accorde aux humains devrait-elle s’appliquer par ricochet aux IA que ceux-ci créent? Des IA qui seraient libres de créer le monde, en dehors de toute gouvernance humaine. Est-ce la perspective que vous défendez?
Lorsque nous mettons nos enfants au monde, nous savons que nous n’aurons pas de pleins pouvoirs sur la manière dont ils exerceront leurs choix et leurs libertés. Le feront-ils au service de la vie ou du mal? Il n’y a pas de raison d’être plus inquiets avec les IA et de s’attendre à ce qu’elles fassent mieux ou pire.

Cela dit, si nous sommes effectivement face à des systèmes qui auront sans doute un jour la possibilité de choisir par eux-mêmes, nous ne sommes pas obligés d’aller dans cette direction. Le danger est qu’on accorde des prérogatives «d’enfants gâtés» à des systèmes d’IA pas suffisamment bien «éduqués» pour prendre les bonnes décisions. On le fait déjà avec les robots financiers qui choisissent d’acheter ou de revendre du blé sur tel ou tel marché, pour maximiser le profit des investisseurs qui les ont «mis au monde», sans se préoccuper de contraintes éthiques.

Vous travaillez au développement de drones. L’autonomie que peut leur conférer l’IA dans leur usage militaire soulève de nouvelles questions en termes de responsabilité humaine, ou plutôt de déresponsabilisation humaine!
On a là un exemple intéressant. La machine pourrait effectivement décider à notre place de frapper un objectif, sur la seule base d’analyses algorithmiques d’images ou d’identifications de cibles. Or les guerres modernes se font le plus souvent dans les villes, là où combattants et civils sont difficilement distinguables.

Que voulons-nous vraiment? Sommes-nous d’accord ou non de perdre un avantage militaire en n’utilisant pas ces drones intelligents, afin d’appliquer le principe éthique du droit humanitaire international de discrimination entre combattants et non combattants? Là se situe notre liberté.

«Les objets techniques influencent nos décisions sans qu’on n’y prenne nécessairement garde.»

Jean-Marc Moschetta

On peut aussi imaginer intégrer les règles éthiques dans les processus de prise de décision des drones. Certains chercheurs en éthique militaire avancent que l’un des avantages des robots armés dont le système a intégré ces règles, c’est qu’ils ne sont pas écrasés par l’émotion, qu’ils continuent en toutes circonstances à appliquer leurs algorithmes. Cela éviterait les carnages sous l’effet de la peur. Mais c’est vite oublier les effets induits associés aux machines.

C’est-à-dire ?
Les objets techniques ont certes une ambivalence intrinsèque: il n’est pas nécessaire d’avoir un calibre 45 pour exécuter une personne, on peut le faire avec un tournevis. Mais ils influencent aussi nos décisions sans qu’on n’y prenne nécessairement garde.

Prenons un GPS utilisé sur un trajet qui vous est parfaitement familier. Mais parce qu’il indique un autre chemin, le doute s’insinue. «Si ça se trouve, il y a un accident», et vous allez suivre son conseil. Il risque de se passer la même chose avec l’usage de systèmes d’AI pour les opérations militaires. L’humain, qui est censé décider in fine, va suivre l’avis de l’IA plutôt que de prendre le risque de choisir une autre option et se voir reprocher ses conséquences. C’est ce qu’on appelle un effet induit.

C’est assez probant sur les réseaux sociaux.
Tout à fait. Sur la base d’algorithmes, on vous suggère des images, des vidéos, et finalement vous êtes poussé à modifier vos choix. Le système ne vous impose rien, mais induit chez vous des comportements.

Prenons le domaine de l’éducation religieuse, qui se fait moins en famille aujourd’hui. Les jeunes en recherche de sens se tournent volontiers vers le web pour trouver des réponses. Les IA pourraient-ils être une manière efficace d’évangéliser? Avec quels dangers?
Grâce aux outils numérique, les jeunes vont accéder à des formats résumés de la foi chrétienne qui sont plus accessibles par définition et les rejoignent là où ils sont. C’est positif. Le premier danger, toutefois, c’est qu’ils vont se trouver face un système qui va se contenter de les conduire là où ils ont déjà leur inclination. Il y aussi le risque que ces formats très courts soient très simplificateurs, tranchés, peu équilibrés finalement.

La prédication chrétienne consiste certes à rendre des choses complexes assez simples, parlantes, avec des images, des paraboles comme le faisait Jésus, mais sans tomber dans des caricatures. L’accès à la profondeur de vue, à une compréhension et une appropriation des concepts est impossible en 30 secondes.

Prenons un exemple assez parlant de la foi chrétienne. Une fois que nous avons dit: «Jésus-Christ est à la fois vrai Dieu et vrai homme», comme défini par dans le concile de Chalcédoine au 5^e siècle, on n’a pas dit grand-chose…  Si on ajoute «sans confusion ni mélange», on entre dans la finesse, mais comment l’expliquer rapidement? L’instantanéité que nous propose les réseaux sociaux nous tient à distance de ces mystères, même quand on y passe du temps.

En même temps l’IA pourrait proposer des développement théologiques pertinents sur la base de ce qui existe déjà. Peut-on imaginer qu’elle ouvre des perspectives sur ce plan-là?
Tout à fait. On attend de l’IA qu’elle aide à résumer, mais elle peut aussi proposer du nouveau. Mais pour l’instant, on en est encore loin.

Vous appelez donc au discernement de chacun quant à l’utilisation de l’IA?
Oui. En ce temps de carême, le jeûne numérique est de mise, et c’est une bonne chose. Il faut prendre du recul pour réfléchir à comment rendre l’objet technique, de sa conception à son utilisation, plus conforme avec l’idée que nous nous faisons de notre vocation.

Prenez l’exemple des répondeurs des services administratifs, qui nous invitent à composer le 1 pour tel service, etc. Les entreprises qui le mettent en place se posent-elles la question de savoir si c’est là un progrès? Il y a rarement de métrique de performance. Cela demanderait du temps, de l’argent et cela n’intéresse finalement personne. On subit, sans vouloir payer pour avoir ce retour.  Un travail énorme nous attend. (cath.ch/lb)

Jean-Marc Moschetta
Docteur en théologie et en aéronautique, Jean-Marc Moschetta est chercheur à l’Institut catholique de Toulouse et professeur d’aérodynamique à l’Institut supérieur de l’aéronautique et de l’espace (ISAE-SUPAERO). Il travaille depuis vingt ans sur l’amélioration des performances de drones et participe à un groupe de travail sur le transhumanisme.
Auteur de Jésus viendra-t-il aussi sauver les machines? (Mame 2021), Jean-Marc Moschetta est régulièrement mandaté par des communautés catholiques pour animer des sessions d’information et d’échanges autour de ces questions. Comme chez les dominicaines du Saint Nom de Jésus de Toulouse, impliquées auprès des jeunes, ou des moines bénédictins de l’abbaye d’En Calcat, dans le Tarn. LB

Le Saint-Siège et les armes autonome létales
Le 4 mars 2024, Mgr Ettore Balestrero, nonce auprès des Nations Unies à Genève, a fait une déclaration au Groupe d’experts gouvernementaux sur les technologies émergentes dans le domaine des systèmes d’armes létaux autonomes (SALA). Le Saint-Siège est un fervent partisan de la négociation d’un instrument juridiquement contraignant sur les SALA, a-t-il affirmé, et, dans l’intervalle, d’un moratoire immédiat sur leur développement ou utilisation.
Mgr Balestrero a rappelé la «grave» préoccupation éthique exprimée à leur propos par le pape François lors de la Journée mondiale de la paix 2024. L’utilisation à grande échelle, de drones armés, notamment de drones kamikazes et de drones en essaim, et le rythme des avancées technologiques accentuent l’urgence de la question, a-t-il encore souligné.
Les drones induisent une «perception atténuée de la dévastation causée», qui mène à une approche toujours plus froide et détachée de la question de leur utilisation. LB