Les défis de l’IA – au-delà de l’éthique individuelle

Plus que les défis géopolitiques ou l’enlisement des campagnes pour les Objectifs de développement durable (ODD), avec leur échéance fixée pour 2030, l’IA est abordée à toutes les sauces et ne laisse personne indifférent.

Certains y voient le salut de l’humanité, d’autres sa déchéance avec l’extinction de la race humaine à la clé. Du côté des optimistes, on aligne les arguments quant à la productivité accrue, à l’innovation technologique porteuse à terme des gains d’efficacité; du côté des sceptiques on pointe le manque de transparence, le potentiel de manipulation et d’exploitation, la course à la captation tous azimuts des données privées. Face à cette multitude d’arguments, difficile de se faire une idée tant soit peu fondée.

Trois questions permettent d’éclairer quelque peu les enjeux. IA: outil ou système? A la base, à l’instar de tout artefact humain, les lignes de code informatique qui donnent vie à l’IA ont été un outil, à l’instar de tout autre programme, à commencer par le traitement de textes que j’utilise pour écrire ces lignes. La dimension systémique pointe à l’horizon à partir du moment où le texte écrit vient alimenter des bases de données dont se nourriront les algorithmes d’écriture automatisées, dont les productions seront à leur tour utilisés pour d’autres générations d’écrits.

Il y a là un processus d’enchaînement récursif qui cesse d’être un simple outil, parce qu’il échappe au contrôle de l’utilisateur. Ce système devient porteur d’asymétries de compréhension propre à toute complexité. Seul un nombre (de plus en plus) restreint d’acteurs est susceptible dc comprendre (et de contrôler) l’outil, devenu système pour la très grande majorité des protagonistes. Ainsi, la transition de l’outil vers le système opère une coupure entre les pilotes – Big Tech – et les autres.

«L’IA est ces avatars, sont tout sauf une farce. C’est un rapport de force qui divise pour s’imposer»

IA – pour quoi faire? La recherche d’efficacité économique et financière est la finalité plus ou moins avouée des efforts d’innovation en d’application des techniques IA. Or, les gains d’efficacité ont de nombreux visages, dont l’information sélective et incomplète des clients fait partie. L’économie de la méga donnée qui sous-tend le développement de l’IA offre un potentiel illimité en la matière. La question est donc: comment organiser le contre-pouvoir, comment assurer un minimum d’équilibre entre le producteur et le destinataire de l’information.

La troisième question porte sur les limites admissibles de la razzia sur les données. En effet, dans le monde du clic et de la caméra qui traque – à notre insu – nos faits et gestes, nous sommes tous de la «chaire à données». Le problème n’est pas l’anonymat, mais le fait de fournir – sans pouvoir s’y opposer ni faire autrement, de la matière première qui finira par faire de nous, à force de segmentation, d’algorithmes et d’information calibrée, les dindons de la farce.

Or, l’IA est ces avatars, sont tout sauf une farce. C’est un rapport de force qui divise pour s’imposer. Pour y faire face, la réponse doit être à la fois politique et éthique. Ni la bonne volonté seule, ni l’éthique individuelle ne suffiront à faire face à rapport de force qui peine à dire son nom. Il faudra une intervention politique et réglementaire, qui peine à émerger, faute de signal clair des urnes et des partis politiques.

Paul H. Dembinski

12 juin 2024