Éric Sadin : « Le pape a raison : avec l’IA, c’est bien la question de notre humanité qui est en jeu »

Le pape Léon XIV vient de publier Magnifica Humanitas, une encyclique consacrée à l’intelligence artificielle. Philosophe, Éric Sadin, spécialiste des technologies numériques et de l’intelligence artificielle, salue le fait que le souverain pontife situe enfin l’IA sur un terrain civilisationnel.

Mais il juge le texte trop prudent, trop abstrait et insuffisamment prescriptif face à une bascule qu’il estime déjà engagée : délégation de nos facultés, fragilisation du langage, menaces sur l’emploi et extension d’un « pouvoir total » des systèmes.

LA TRIBUNE. Le fait qu’un pape décide de prendre position sur un sujet éminemment industriel et économique n’est pas un acte anodin. Selon vous, Léon XIV est-il dans son rôle ?

Éric Sadin. Oui, bien sûr qu’il est dans son rôle en tant qu’autorité spirituelle. L’encyclique s’intitule Magnifica Humanitas, et les termes sont, me semble-t-il, très bien choisis, parce que c’est bien la question de notre humanité, et même de ce que pourrait devenir notre humanité, qui est en jeu.

Ce que nous vivons n’est pas seulement une évolution technique de plus. Nous sommes peut-être au seuil d’une mutation brusque, très profonde, de l’humanité. La vraie alternative est la suivante : allons-nous demeurer capables de sauvegarder ce qui participe de notre grandeur — la sensibilité, l’intelligence, la créativité, le plein usage de nos facultés — ou bien allons-nous renoncer peu à peu à ce qui nous constitue en propre ?

Depuis quelques années, et plus encore depuis l’essor de l’IA générative, quelque chose de nouveau s’est imposé. Il ne s’agit plus seulement de bouleversements sociaux ou culturels comme ceux qu’ont produits les technologies numériques depuis les années 2000. Ce qui pointe désormais, c’est la possibilité d’une rupture anthropologique, c’est-à-dire d’une rupture avec ce qui nous constitue en propre.

À partir du moment où nous laissons aux technologies le soin d’organiser toujours davantage le cours des affaires du monde, and où nous leur déléguons des facultés fondamentales — parler en notre nom, produire des symboles, formuler à notre place — la question philosophique, existentielle et même métaphysique devient inévitable : quel rôle nous restera-t-il sur Terre ?

Peut-on dire que ce n’est pas tant le spirituel qui s’immisce dans l’économie, mais plutôt la technologie qui empiète désormais sur des domaines relevant de l’humain, voire du religieux ?

Je ne le dirais pas exactement ainsi. Je dirais plutôt que la technologie, depuis quelques années, bafoue violemment des principes fondamentaux qui devraient être les nôtres. Ces principes ne sont pas seulement ceux de l’Église ; ils concernent plus largement l’humanité tout entière : la dignité, l’intégrité, l’exercice de nos facultés créatives, autant que notre besoin naturel de sociabilité.

Si cette humanité est dite « magnifique », c’est parce qu’elle porte quelque chose d’irréductible. Or ce qui progresse aujourd’hui, c’est une logique qui privilégie la quantification, l’efficacité, l’optimisation en toutes circonstances, et qui tend à rabattre le réel sur ce seul registre. Léon XIV a le mérite d’avoir replacé le curseur au niveau civilisationnel ; mais il manque encore, à mon sens, une parole more volontariste, plus visionnaire, et plus conséquente quant aux mesures à tirer de ce diagnostic.

Léon XIV appelle à « désarmer l’IA » et à empêcher la technologie de dominer l’humain sans pour autant y renoncer. Que pensez-vous de cette position ?

La domination a déjà commencé. Et il ne s’agit pas seulement d’une domination vague : nous nous mettons progressivement sous le joug de systèmes auxquels nous concédons une forme d’omniscience sans cesse croissante, et dont nous acceptons qu’ils ordonnent de plus en plus le cours de nos existences individuelles et collectives.

C’est cela que j’appelle, dans mon dernier livre, le « magnifique Pouvoir total ». Des schémas logiques, portés par des intérêts industriels bien précis, déterminent de plus en plus ce que nous voyons, ce que nous choisissons, ce que nous consommons, les décisions que nous prenons. C’est une vision du monde entièrement orientée vers l’évitement du moindre risque, de la moindre perte, du moindre défaut, et vers le gain en toutes circonstances.

Là où je trouve le texte trop timide, c’est qu’il en reste surtout à un registre d’avertissement moral. Or, dans une tradition religieuse qui connaît aussi la force de l’interdit, on pouvait attendre davantage qu’un appel général à la vigilance ou à l’éducation.

Pourquoi, par exemple, ne pas appeler explicitement à l’interdiction pure et simple de l’IA générative à l’école ? Pourquoi ne pas dire plus clairement que l’usage individuel et régulier de ces systèmes risque d’altérer notre rapport au langage, au point que nous ne parlions bientôt plus vraiment en première personne ? Ce sont là des questions de liberté, de jugement et de singularité.

Nous allons aussi vers un régime de l’image où il deviendra de plus en plus difficile de déterminer la nature et l’origine de ce que nous voyons. Cela peut nous conduire à des situations extrêmement périlleuses. Sur ces points, une parole plus tranchante, un appel à une interdiction pure et simple, aurait pu produire un effet de mobilisation et de prise de conscience bien plus fort.

Que pensez-vous de la présence du cofondateur d’Anthropic auprès du Vatican ?

J’y vois une profonde incohérence. Anthropic mène, selon moi, une opération de séduction et de prestige extrêmement habile. Elle a su se parer d’un vernis éthique et susciter de la sympathie en refusant de coopérer avec le gouvernement américain sur les questions militaires et de sécurité intérieure.

Or, le problème est que cette entreprise travaille aussi au développement de systèmes qui participent à ce contre quoi l’encyclique prétend mettre en garde : l’automatisation massive de compétences cognitives, la déstabilisation de métiers, l’extension d’une logique de substitution. De ce point de vue, il y a là, me semble-t-il, une contradiction majeure.

Léon XIV alerte également sur les conséquences sociales de l’IA, notamment sur l’emploi et la déqualification du travail. Partagez-vous cette inquiétude ?

Évidemment. Et j’ajouterais qu’il faut cesser de traiter cela comme une simple hypothèse. Depuis trois ans, il m’a paru clair que nous sommes entrés dans ce que j’appelle le « tournant intellectuel et créatif de l’intelligence artificielle ». Dès lors que des systèmes accomplissent, à très grande vitesse, avec des coûts moindres et une efficacité supposée supérieure, une part croissante d’opérations cognitives, comment ne pas voir l’ouragan qui s’annonce sur une grande partie des métiers tertiaires ?

Mais il ne suffit pas d’enregistrer ce constat. Il faut désormais des formes concrètes de mobilisation à toutes les échelles de la société, et en particulier dans le monde du travail, pour déterminer ce que nous sommes prêts à accepter et ce que nous refusons catégoriquement. Sans cela, ces systèmes continueront à s’imposer par simple inertie organisationnelle.

Le second point, à mes yeux, est qu’il ne faut pas seulement parler d’emplois menacés. Il faut repenser les conditions mêmes du travail dans une époque où celui-ci risque d’être profondément redéfini, voire disloqué. Cela suppose une réflexion d’ensemble, qui ne soit pas uniquement économique.

Cette réflexion pourrait s’ordonner autour de principes qui ne sont pas réservés aux croyants : solidarité, dignité, liberté, refus des formes d’exploitation et des asymétries sauvages. C’est à ce niveau-là qu’une parole vraiment forte aurait pu ouvrir un horizon.

Certains voient dans la vision du pape une approche plus européenne de l’IA, plus régulatrice que celle des États-Unis. Partagez-vous cette analyse ?

Oui, dans une certaine mesure. On peut voir dans cette encyclique une proximité avec une vision plus européenne de la régulation. Mais là encore, cela ne suffit pas.

Il aurait fallu faire bien davantage le lien avec Laudato si’ et avec la question du vivant. Car on ne peut pas prétendre défendre le vivant dans la biosphère sans défendre aussi le vivant logé en chacun d’entre nous : notre puissance créative, notre singularité, notre liberté intérieure. C’est à cette articulation entre technique, travail, langage, vie intérieure et monde vivant qu’il aurait fallu donner une expression plus forte.

Si nous voulons défendre cette « magnifique humanité », alors il ne suffit pas de dénoncer les excès de la technique. Il faut aussi nous demander ce que, collectivement, nous sommes prêts à faire de nous-mêmes.

La question morale de fond est peut-être celle-ci : allons-nous continuer à privilégier avant tout l’utilitarisme, le confort et la facilité, ou allons-nous décider de préserver, mais aussi de célébrer, ce qui fait la consistance même de notre humanité ?