les dangers et enjeux de l’IA vus par Mazarine Pingeot et Christine Bost

En l’espace de quelques jours, Bordeaux Métropole a accueilli le forum Eurocities, dans le cadre du congrès autour du thème des droits numériques, ainsi que l’Europe et les villes à l’avant-garde de la révolution digitale. Quelques jours plus tard, l’institution accueillait une convention citoyenne étudiante, en partenariat avec la fondation Bordeaux Université, pour réfléchir à comment les IA génératives transforment l’éducation pour appréhender les opportunités (autonomie, personnalisation) mais aussi les risques (perte de compétences, raisonnement critique).

Au terme de ces échanges, ils formuleront une liste de recommandations. L’occasion de croiser les regards sur cette révolution qui touche tous les pans de la société. Notamment l’enseignement ou la conduite d’une collectivité qui veille au quotidien de 850 000 habitants. Évolution, révolution, pour le meilleur ou le pire ? Échange entre Mazarine Pingeot, organisatrice de la convention étudiante titulaire de la chaire Philosophia, professeure agrégée en philosophie à Sciences Po Bordeaux, et Christine Bost, présidente (PS) de Bordeaux Métropole et maire d’Eysines.

Sommes-nous face à une révolution technologique et scientifique comme on en a peu connu ?

Mazarine Pingeot : Certains comparent l’IA à l’arrivée de l’écriture ou de l’imprimerie, cela bouleverse le rapport à l’écrit et à la diffusion.

Christine Bost : On est en train de vivre une séquence historique et hyper rapide, c’est assez fulgurant. Du jour au lendemain, on voit des utilisations possibles de l’IA dans ce qu’il y a de bon et de moins bon. La technologie va très vite, plus vite que notre capacité à encadrer, organiser, légiférer.

Faut-il s’en méfier ?

M. P. : Ces technologies reposent sur l’utilisateur, l’usage précède nécessairement la réflexion critique et l’encadrement juridique. C’est la grande difficulté et la grande révolution technologique des Gafam, ce sont des entreprises qui fonctionnent sur les utilisateurs. Pour résumer : on contribue nous-mêmes à notre propre perte ! La technologie n’existe pas, si on ne l’utilise pas. Elle est facile, intuitive et facilite un maximum de tâches. Comment s’empêcher d’y aller ? C’est là que le politique intervient.

« Ceux qui savent vont maximiser leurs compétences, ceux qui ne savent pas vont devenir totalement dépendants »

Justement, que peut le politique ?

C. B. : Le législateur doit d’urgence se pencher sur le sujet et encadrer les choses. À l’échelle qui est la mienne, on est en train de passer de la fracture numérique territoriale – aujourd’hui elle à peu près résorbée en Gironde – à une nouvelle fracture. Celle-ci est sociale : est-ce que je sais utiliser, est-ce que je peux utiliser, est-ce que je comprends ce que j’utilise ? Comment cela transforme et bouleverse ma situation de citoyen, mes capacités civiques ? Un des défis est de développer la capacité de chacun à savoir utiliser l’outil et ne pas être dominé par celui-ci.

M. P. : La grande difficulté, c’est que l’IA va favoriser les gens qui savent. Elle est géniale quand on sait l’utiliser, comme complément de recherches, quand on sait ce que l’on va chercher. Le risque est qu’elle vienne remplacer la réflexion, et cela pourrait être le cas, puisqu’elle a réponse à tout. Si on ne réfléchit pas à l’utilisation, la réglementation, si nos enfants utilisent l’IA plutôt que leur cerveau, ça va être un désastre. Cela va creuser les inégalités : ceux qui savent vont maximiser leurs compétences, ceux qui ne savent pas vont devenir totalement dépendants. La question de l’autonomie et même de la liberté individuelle va se poser.

Sommes-nous tous vulnérables face à ces outils ?

C. B. : Au-delà de l’IA, il y a la capacité, toutes générations confondues, d’entretenir un rapport lucide avec l’outil, sans être empêché et sans y être soumis par ignorance. Notre rôle d’acteur local est d’être proche des territoires, des quartiers des habitants et de proposer une médiation numérique au plus près.

M. P. : Il y a un double danger des réseaux sociaux et du numérique en général. Les bulles cognitives, d’abord : sur les différentes plateformes, je ne rencontre plus jamais quelqu’un qui est différent de moi. Ce qui nous arrive est personnalisé, on a l’impression que le monde ressemble à ce que l’on pense. On n’a donc pas de raison de mettre en doute. Ensuite, c’est la fragmentation de l’espace public. Avec les fake news, cette ère de la post-vérité ne va pas s’arranger avec l’IA. Elle n’est pas critique, elle ressort ce qui existe. Si on ne sait pas juger une information sourcée de ce que nous donne l’IA, c’est cela qu’il faut apprendre dans les écoles.

Est-ce un enjeu pour l’éducation ?

C. B. : Il faut systématiser la formation pour les élèves, mais aussi pour les enseignants, à l’esprit critique au même titre que l’instruction civique. Parmi tous les enjeux que posent l’intelligence artificielle et le numérique, il y a aussi une question démocratique. Il suffit de voir ce qui se passe de l’autre côté de l’Atlantique…

M. P. : Hannah Arendt, qui n’était pas contemporaine de ces technologies, disait : « La liberté d’opinion est une farce si l’information sur les faits n’est pas garantie. » Ça n’a pas pris une ride. Que signifie la liberté d’opinion si elle se fonde sur quelque chose qui n’existe pas ? Ça n’a pas de sens. C’est très dangereux. Je crois au droit et à la réglementation.

« Gageons que cela se fasse dans le bon sens. Mais l’IA est et doit rester un simple outil »

Vous appelez à une grande prudence, à un encadrement. Trouvez-vous néanmoins des aspects positifs à l’utilisation de l’IA ?

C. B. : Bien sûr qu’il y en a. Nous commençons à l’utiliser, nous avons par exemple fait le jumeau numérique du fleuve pour mesurer l’impact du risque inondation. Elle peut être un outil pour réguler le trafic, mieux comprendre les questions d’environnement.

M. P. : Elle est capable d’incontestables performances. Cela va changer le travail, les apprentissages. Gageons que cela se fasse dans le bon sens. Mais l’IA est et doit rester un simple outil. On le voit dans l’imagerie médicale : l’IA permet davantage de précision dans la détection, le diagnostic. Mais il ne faut jamais abandonner l’idée que le seul médecin, c’est l’homme.