La course de l’Inde à l’adoption de l’IA soulève une question plus profonde : comment la technologie peut-elle respecter les droits humains ? · Global Voices en Français

Cet article fait partie de la série « Ne demandez pas à l’IA, demandez à un pair », une collaboration entre Global Voices, l’Association pour le progrès des communications (APC), et GenderIT. Cette série vise à réaffirmer l’importance du partage des connaissances entre les personnes, comme cela se fait depuis des décennies. Vous pouvez suivre la série sur APC.org, GenderIT.org, et globalvoices.org. Elle fait aussi partie de la série « Perspectives humaines sur l’IA » d’avril 2026, publiée par Global Voices. Vous pouvez soutenir ce reportage en faisant un don ici.

Le cadre actuel du gouvernement de l’IA en Inde comprend des lignes directrices souples, un projet de loi sur l’éthique non adopté et des règles de protection des données. Ensemble, ils créent un système où l’IA peut être déployée d’abord et remise en question plus tard, car le cadre met l’accent sur une IA responsable mais n’impose aucune obligation de transparence ni d’évaluation d’impact préalable au déploiement.

L’essor de la surveillance assistée par l’IA, comme les systèmes de reconnaissance faciale dans les gares et les technologies de police prédictive utilisée par les forces de l’ordre dans différentes villes, s’est poursuivi en grande partie sans protections juridiques suffisantes, soulevant des inquiétudes quant aux droits humains, à la vie privée, à la dignité et aux libertés civiles. Une « IA responsable » sans obligation de rendre des comptes n’est qu’une aspiration. Bien que le cadre prône une approche centrée sur l’humain, les droits humains doivent être le point de départ de la gouvernance de l’IA, et non une considération à ajouter a posteriori.

En février, l’Inde a organisé à New Delhi le Sommet sur l’impact de l’IA 2026 en Inde qui a duré cinq jours et a réuni des dirigeants mondiaux, des plateformes de grandes entreprises technologiques, des acteurs de la société civile et des décideurs politiques afin d’explorer l’avenir de la gouvernance et de la coopération en matière d’IA. L’événement a souligné l’importance économique et géopolitique croissante de l’IA qui continue de transformer les économies mondiales. Le sommet s’est concentré sur la croissance inclusive, le déploiement éthique et l’utilisation de l’IA dans des secteurs tels que la santé, l’agriculture et l’éducation.

Dans une déclaration publiée le 20 février, l’organisation de défense des droits humains Amnesty International a comparé les affirmations du Sommet sur l’impact de l’IA avec la manière dont l’IA est utilisée en Inde. Amnesty International a souligné que des technologies comme l’automatisation par l’IA et la reconnaissance faciale restreignent l’espace civique, facilitent la surveillance étatique et affectent de manière disproportionnée les populations pauvres et marginalisées.

L’événement lui-même a servi de démonstration en direct du réseau de surveillance basé sur l’IA qui se développe à Delhi. Soi-disant pour assurer la sécurité du site du sommet, la police de Delhi a installé 500 caméras de sécurité au centre international des expositions et a transformé le centre de Delhi en une véritable « forteresse numérique » avec plus de 4 000 caméras dotées d’IA déployées dans toute la ville.

Ces caméras utilisaient la reconnaissance faciale pour analyser les flux vidéo en direct, comparant les visages aux bases de données policières recensant les « individus suspects », les manifestants récidivistes et les personnes susceptibles de perturber l’ordre public. Des alertes étaient envoyées instantanément. Ce réseau de surveillance piloté par l’IA était coordonné par 32 salles de contrôle et s’appuyait sur des systèmes de reconnaissance faciale (FRS), l’analyse vidéo en temps réel et des lunettes intelligentes dotées d’IA utilisées par les agents sur le terrain. Plus de 20 000 membres du personnel se fiaient à ce système pour surveiller en temps réel la densité de la foule, les déplacements et les potentiels « fauteurs de troubles » aux abords du sommet sur l’IA.

Les dangers de la surveillance étatique par l’IA

Afin de suivre l’adoption de la technologie de reconnaissance faciale en Inde, l’organisation de défense des droits humains Internet Freedom Foundation (IFF) a lancé le projet Panoptic en 2020. En 2024, elle avait constitué la base de données publique la plus complète sur l’utilisation de la reconnaissance faciale en Inde, après avoir recensé plus de 120 contrats gouvernementaux.

L’organisation indienne de services juridiques à but non lucratif SFLC.in a récemment publié un aperçu des incidents liés à l’IA et à la surveillance survenus en Inde en 2025. Ce rapport met en lumière l’utilisation de cette technologie dans divers domaines, notamment la surveillance des transports par l’IA.

Capture d’écran du système de reconnaissance faciale en Inde. Hébergé par Project Panoptic by IFF. CC-BY

L’application DigiYatra, soutenue par le gouvernement et basée sur l’intelligence artificielle, présentée comme un projet phare de numérisation de l’aviation, combine l’identifiant Aadhaar, la carte d’embarquement et les données biométriques faciales des passagers pour permettre des voyages « sans accroc » et sans papier dans les aéroports indiens. Bien que sur le papier, DigiYatra soit officiellement facultative et « non obligatoire », l’IFF affirme que des passagers aériens à travers l’Inde sont pris en embuscade et contraints à s’y inscrire.

L’IFF ajoute que DigiYatra dispose d’un système de données défaillant et d’un écosystème obscur — il n’y a aucune transparence pour ce qui est de savoir quelles données sont stockées, comment, où et qui y a accès. Le service est géré par la Fondation Digi Yatra, dont environ 75% des actions sont détenues par des entreprises privées, ce qui la soustrait au champ d’application de la loi de 2015 sur le droit à l’information (RTI) concernant la prise de responsabilité.

Par ailleurs, la vidéosurveillance assistée par l’IA est de plus en plus déployée dans les salles d’examen à travers l’Inde pour surveiller les étudiants. Ces technologies suivent les gestes, l’utilisation du téléphone portable et les expressions faciales, comme les mouvements oculaires inhabituels, envoyant des notifications rapides aux surveillants. Dès 2025, elles étaient appliquées aux examens scolaires et aux concours importants dans des États comme l’Uttar Pradesh, le Bihar et le Karnataka.

SFLC.in indique que la surveillance par IA se développe en Inde, sans information suffisante sur le contrôle et la conservation des données, ni sur les moyens de contester une identification erronée. De ce fait, ces technologies s’intègrent aux infrastructures publiques, le consentement est de plus en plus ignoré et les questions relatives aux droits humains sont à peine prises en compte.

Le déploiement de l’IA a des conséquences pour des millions de personnes

Selon une enquête de Decode, une unité d’investigation de BOOM, l’un des principaux organismes indépendants de journalisme numérique et de vérification des faits en Inde, la reconnaissance faciale par IA ne parvient pas à identifier les femmes dont le visage change en raison d’une grossesse, d’une maladie ou du vieillissement, les privant ainsi d’accès aux services publics et à la vérification de leur identité. L’application gouvernementale Poshan Tracker, spécialisée en reconnaissance faciale, n’a pas réussi à faire correspondre leur apparence actuelle aux photos de leur carte d’identité Aadhaar datant de plusieurs années.

Le programme indien des Services intégrés de développement de l’enfant (ICDS) est chargé de nourrir environ 47 millions de femmes enceintes, de mères allaitantes et de jeunes enfants. En juillet 2025, le système de reconnaissance faciale par IA a été introduit pour l’identification. Fin 2025, près de la moitié des personnes devant recevoir de l’aide alimentaire ne l’avaient pas reçue, car le système ne pouvait tout simplement pas reconnaître leur visage.

La reconnaissance faciale est particulièrement difficile en cas de faible luminosité, sur les téléphones bas de gamme et surtout, sur les peaux foncées. Ce dernier défaut est bien documenté, pourtant personne ne semble s’être demandé s’il avait une importance avant de déployer ce programme auprès de certaines des communautés les plus marginalisées d’Inde.

Les mesures indiennes sur l’IA

L’Inde ne dispose pas encore d’une loi contraignante et spécifique sur l’IA. Elle s’appuie plutôt sur un ensemble de lois existantes, telles que la loi sur les technologies de l’information (IT Act), des règles intermédiaires et la protection des données, ainsi que sur des lignes directrices en matière de gouvernance. Les lignes directrices sur la gouvernance de l’IA publiées par le ministère de l’Électronique et des Technologies de l’information en Inde (MeitY) a adopté un modèle non interventionniste en novembre 2025, privilégiant une IA responsable, une surveillance fondée sur les risques et la protection contre les préjudices, mais il s’agit d’un cadre juridique souple non contraignant.

Un nouveau projet de loi sur l’Intelligence Artificielle (éthique et responsabilité), 2025, propose la création par le gouvernement d’un comité d’éthique, l’instauration d’évaluations éthiques obligatoires, d’audits de biais, de restrictions sur certaines utilisations (par exemple, la surveillance, les décisions d’embauche à haut risque) et de mécanismes de traitement des plaintes, témoignant d’une orientation explicite axée sur les droits de l’homme, mais il n’a pas encore été adopté.

Le cadre indien de protection des données personnelles numériques (mis en œuvre par le biais du règlement DPDP 2025) impose aux développeurs et aux utilisateurs d’IA des obligations axées sur le consentement, la limitation des finalités et la minimisation des données, protégeant ainsi indirectement la vie privée et les droits connexes dans le contexte de l’IA.

Le gouvernement indien renforce son rôle d’intermédiaire afin de supprimer rapidement les deepfakes générés par IA et utilisés à des fins de diffamation, d’usurpation d’identité, de tromperie ou de diffusion non consensuelle de contenu sexuel sur les plateformes de médias sociaux. Cependant, même lorsque les plateformes obtempèrent, le mal est souvent déjà fait au moment où ces contenus synthétiques sont retirés.

Approche actuelle des droits humains face à l’IA

Les responsables des droits humains de l’ONU insistent de plus en plus sur le fait que le droit international des droits humains, qui devrait constituer le cadre central de la gouvernance de l’intelligence artificielle, met l’accent sur l’inclusion, la responsabilité, la transparence et la nécessité de corriger les déséquilibres de pouvoir. Cette position reflète une tendance plus large dépassant le cadre du débat volontaire sur « l’éthique de l’IA » pour s’étendre au domaine des obligations juridiques, telles que les restrictions et les mesures correctives. Le haut-commissaire des Nations unies aux droits de l’homme a appelé à des moratoires sur les applications d’IA qui violent les droits fondamentaux, comme certaines formes de surveillance biométrique, ainsi qu’à une diligence raisonnable obligatoire en matière de droits humains à chaque étape du développement et de la mise en œuvre des services basés sur l’IA.

De même, dans une déclaration commune de 2025, la Freedom Online Coalition a exhorté les gouvernements à garantir la diligence raisonnable des entreprises, à renforcer les protections dans les situations à haut risque et à exiger des évaluations d’impact sur les droits humains, notamment en ce qui concerne les risques tels que la manipulation politique, la désinformation et le profilage. Certains observateurs ont suggéré un cadre réglementaire à l’échelle de l‘ASCR, inspiré de la loi européenne sur l’IA, avec des protections claires des droits fondamentaux et des procédures de transparence et de responsabilité renforcées. Cependant, il ne s’agit que d’une recommandation politique et non d’une proposition de loi juridiquement contraignante.

Perspectives d’avenir

Selon les Principes pour l’utilisation responsable de l’intelligence artificielle du gouvernement de l’Ontaria, les obligations relatives aux droits humains doivent être intégrées dès la conception des systèmes d’IA, et non ajoutées après coup. Le Commissaire aux droits de l’homme du Conseil de l’Europe recommande que des évaluations d’impact sur les droits humains soient requises avant le déploiement de systèmes d’IA à haut risque. Il devrait être obligatoire pour les gouvernements et les entreprises utilisant l’IA dans des fonctions en contact avec le public de divulguer les systèmes utilisés, les données d’entraînement et leur taux d’erreur. Des cadres juridiques spécifiques sont nécessaires pour déterminer à quel moment les systèmes d’IA sont considérés comme des entités juridiques aux fins de responsabilité et quelles sont les obligations de diligence de leurs développeurs et utilisateurs envers les personnes affectées. Le problème se pose lorsque les cadres existants ne peuvent pas être mis en œuvre facilement, ou lorsqu’ils excluent l’utilisation de l’IA par l’État.

La mission IndiaAI du MeitY, un programme national approuvé en mars 2024, vise à construire un écosystème d’IA complet en Inde grâce à l’initiative « Projets d’IA sûrs et fiables ». Huit projets d’IA responsable, abordant des thèmes tels que la réduction des biais, les cadres éthiques de l’IA, les outils de protection de la vie privée et l’IA explicable, ainsi que cinq projets supplémentaires ciblant la détection des deepfakes, ont été menés à bien à ce jour. Sur le papier, les initiatives IndiaAI du MeitY s’alignent avec les principes des droits humains. Cependant, les organisations de défense des droits humains estiment que ce cadre est insuffisant car les garanties sont volontaires, le contrôle est faible et l’IA étatique à haut risque (surveillance, automatisation des services sociaux, police prédictive) continue d’être utilisée sans protections contraignantes ni recours efficaces.

Les militants des droits humains suggèrent que l’Inde adopte une législation spécifique pour la surveillance par IA, notamment encadrant les algorithmes, imposant la transparence et renforçant le contrôle des systèmes de surveillance, afin de réduire le risque d’autoritarisme numérique.

Paula Villar est née à Rio de Janeiro, au Brésil, en 1992. Diplômée en psychologie, elle a également suivi une formation post-universitaire en psychologie clinique. Bien qu’elle ait été passionnée de dessin depuis son plus jeune âge, c’est seulement durant la pandémie du COVID-19 qu’elle a décidé de se réorienter professionnellement, se consacrant à l’art numérique et à l’activisme. Elle travaille aussi sur d’autres supports, tels que la peinture à l’huile, le dessin réaliste au crayon et l’encre de Chine.