L’intelligence artificielle : une machine à désinformer – franceinfo

Ce texte correspond à une partie de la retranscription du reportage ci-dessus. Cliquez sur la vidéo pour la regarder dans son intégralité.

Il y a quelques années, l’IA, c’étaient des images mal faites, souvent laides et incohérentes. Doigts trop nombreux, voix peu crédibles et images de mauvaise qualité trahissaient une manipulation. Mais l’IA a beaucoup progressé. Images et textes sont devenus bien plus réalistes grâce à des bonds technologiques ahurissants. « Dans ma vie professionnelle, je n’ai jamais rencontré personne, quel que soit son niveau d’expertise, qui ne soit pas surpris par la rapidité à laquelle les choses vont aujourd’hui », assure Guillemette Picard, conseillère en IA de sociétés numériques, membre du Conseil de l’IA et du numérique. Un emballement technologique qui rapproche le faux du vrai. L’homme a créé un monstre, une gigantesque machine à désinformer.

Il y a cinq ans, le grand public découvre les images créées par l’IA à travers un acteur : Tom Cruise. Nous sommes en 2021. La frontière entre réalité et fiction se brouille. Première inquiétude du grand public. Mais c’est un travail de longue haleine réalisé avec un comédien et à l’époque difficile à reproduire. « Il fallait déjà une certaine maîtrise des outils. Avoir utilisé l’outil pendant six mois pour avoir cette maîtrise à la fois de la partie audio et de la partie visage, faire coller tous les morceaux et c’était à l’époque des fournisseurs de technologies différentes. Rien à voir aujourd’hui« , détaille Guillemette Picard.

Mais certains repèrent tout de suite l’intérêt de cette technologie pour désinformer. Le Kremlin s’essaye alors au deepfake. Mais la première production russe est assez peu convaincante. Une fausse capitulation de l’Ukraine de piètre qualité qui ne trompe pas grand monde. Mais dès les mois suivants, la technologie fait des progrès fulgurants.

L’intelligence artificielle progresse. Des images plus réalistes et toujours plus faciles à produire. Les débuts balbutiants de Will Smith mangeant des spaghettis se transforment en quelques années en vidéos extrêmement réalistes. Un boom difficile à expliquer, même pour les chercheurs. « En dialoguant avec ces IA-là, on n’a pas arrêté de se rendre compte qu’elles avaient des compétences qu’on n’aurait jamais imaginées. Par exemple, les IA entraînées à partir du web savaient traduire, mais elles n’avaient pas été entraînées pour traduire. Elles pouvaient jouer aux échecs. Il y a un énorme mystère du fonctionnement des IA. Alors attention, parce que quand on entraîne une IA, on sait très bien ce qu’on fait. Mais la façon dont les paramètres vont changer et vont s’auto-organiser entre eux, ça on ne maîtrise pas », explique Yann Chevaleyre, professeur et chercheur en intelligence artificielle à l’Université Paris Dauphine.

Un homme en particulier va montrer toute la puissance de cette technologie au service de la désinformation. John Mark Dougan, Américain réfugié à Moscou, est au cœur des opérations de déstabilisation russe boostées à l’IA. Il a ciblé la France en générant et diffusant de faux sites et publications sur les réseaux sociaux par dizaines de milliers pour 56 millions de vues. De la propagande russe propagée par un seul homme grâce à l’IA. « J’utilise l’intelligence artificielle pour amplifier certains sujets. Avec un seul serveur chez moi, j’écris près de 90 000 articles par mois », affirme l’ancien shérif.

Car l’IA permet de créer de fausses images, mais aussi de les partager massivement. Après le deepfake, l’heure est au cheap fake, l’intox pas chère. « Attention, un cheap fake, c’est à mon avis aussi dangereux, si ce n’est plus dangereux que le deepfake. L’IA permet aussi la diffusion beaucoup plus large, beaucoup plus ciblée sur différentes plateformes, sur différents publics. Donc une information qui est fausse et qui est peut-être relativement facilement détectable, peut être diffusée très largement et être aussi nocive pour le public et pour la démocratie qu’un deepfake », indique Guillemette Picard.

Et ces images sont de plus en plus difficiles à repérer. Fini les personnages invraisemblables à six doigts. Pour les entreprises spécialisées dans l’authentification des images, le grand public ne pourra bientôt plus faire la différence. « Il y a encore plein de choses physiques que l’IA n’arrive pas à répliquer, que nous arrivons à détecter. Mais à l’œil nu, pour une personne de tous les jours qui est en train de regarder son téléphone, c’est plus compliqué. Parce qu’avant, j’aurais pu dire : ils ont la peau très lisse ; ils sont un peu trop parfaits ; il y a un ongle qui manque. Toutes ces incohérences commencent à disparaître », observe Emmanuelle Saliba, responsable des enquêtes IA pour l’entreprise de vérification de deepfakes Get Real.

Quatre ans après le fake grossier de la capitulation de Zelensky, la France est ciblée par des vidéos mieux faites. 14 millions de vues pour une vidéo dont on apprendra qu’elle a été faite par un lycéen burkinabé sans aucune aide ni financement. Tout cela grâce à des modèles d’IA qui s’améliorent de manière exponentielle. « Les modèles de 2010 pouvaient tenir sur un petit PC portable. Quand vous regardez les modèles utilisés maintenant par OpenAI, il faut des data centers pour les mettre en œuvre », précise Yann Chevaleyre.

Une course folle que personne ne semble maîtriser et qui offre des capacités de désinformation illimitées. La démarcation entre le réel et la fiction, le vrai et le faux, s’estompe jour après jour.

Yann Chevaleyre, Professeur et chercheur en intelligence artificielle à l’Université Paris Dauphine

Guillemette Picard, conseillère en IA de sociétés numériques, membre du Conseil de l’IA et du numérique

Emmanuelle Saliba, Responsable des enquêtes IA pour l’entreprise de vérification de deepfakes Get Real

Guerre en Ukraine : Qu’est-ce que le deepfake de Zelensky laisse craindre pour la suite du conflit ? 20minutes, mars 2022

« Changer l’IA mondiale avec le récit russe » : comment un ex-policier américain devenu propagandiste du Kremlin veut détourner les IA occidentales. Le Grand Continent, février 2025 (lien payant)

Russian Propaganda Campaign Targets France with AI-Fabricated Scandals. NewsGuard, avril 2025 (lien en anglais)

OpenAI’s Sora Makes Disinformation Extremely Easy and Extremely Real. The New York Times, octobre 2025 (lien en anglais et payant)

Liste non exhaustive