Intelligence artificielle — Nicolas Croesi : « L’humain devra toujours prévaloir »

Le président de la commission pour le développement du numérique du Conseil national, Nicolas Croesi, analyse pour Monaco Hebdo les grands enjeux législatifs qu’implique la montée en puissance de l’intelligence artificielle. Interview.

À l’heure actuelle l’intelligence artificielle est encadrée par quels textes à Monaco ?

À Monaco comme ailleurs, l’intelligence artificielle (IA) est un chantier en devenir sur le plan juridique. En clair, il n’y a pas à proprement parler de texte « intelligence artificielle » dans notre droit positif, ni à l’étude, pour l’instant, même si la question, vous pouvez l’imaginer, nous intéresse fortement. Elle fera l’objet de mesures adaptées en temps voulu. Nous regardons d’ailleurs avec intérêt ce qu’il se passe ailleurs, chez nos voisins, et en particulier en Europe, qui est la partie du monde la plus avancée dans le domaine. Il est cependant important de souligner que l’IA n’échappe pas au droit commun. D’ailleurs, nous travaillons sur des sujets connexes.

Lesquels ?

En ce moment, la commission culture et patrimoine du Conseil national travaille sur « les œuvres de l’esprit », avec le sujet des droits d’auteur qui est évidemment important. La commission pour le développement du numérique, que je préside, travaille depuis plusieurs mois sur une version monégasque du règlement général sur la protection des données (RGPD) européen, un texte de référence relatif à la protection des données personnelles. D’autre part, nous aurons prochainement à étudier les questions soulevées par la reconnaissance faciale. Ce que je veux dire, c’est que de la même manière que l’intelligence artificielle va peu à peu s’intéresser à tous les domaines, qu’on l’espère ou le craigne, il n’est pas un domaine du droit qui va échapper à ce phénomène.

« Il n’y a pas à proprement parler de texte « intelligence artificielle » dans notre droit positif, ni à l’étude, pour l’instant, même si la question, vous pouvez l’imaginer, nous intéresse fortement. Elle fera l’objet de mesures adaptées en temps voulu »

Comment définir l’intelligence artificielle ?

L’intelligence artificielle recouvre un domaine assez vaste, qui peut avoir plusieurs dimensions. Entre votre cafetière qui vous écoute pour remplir automatiquement votre tasse selon vos habitudes, votre voiture qui reste dans la file, ChatGPT qui vous aide à faire vos recherches ou les « œuvres » d’IA générative, devons-nous construire un seul outil juridique ? De plus, nous ne sommes pas dans le cadre d’une invention « cadrée ». Une ampoule, cela s’allume, cela s’éteint. C’est assez simple à envisager. En revanche, l’IA ne cesse d’évoluer et d’envahir de nouveaux domaines de l’activité humaine. D’ailleurs, l’IA est beaucoup plus disruptive que l’arrivée de l’Internet, car on touche à l’essence même de l’esprit humain. L’enjeu, c’est que l’intelligence artificielle n’a pas pour vocation de faire mieux que l’humain… Mais tout simplement de potentiellement le remplacer, dans certains cas.

Il faudra donc des lois pour encadrer et protéger ?

Il faut, bien évidemment, des garde-fous. Quand j’entends Elon Musk nous dire que d’ici 2029 l’IA sera plus performante que l’ensemble de la pensée humaine, je me dis, et je ne suis pas le seul, qu’il faut en effet nous doter d’outils adaptés, dans le droit comme ailleurs. Pour schématiser de manière un peu abusive, nous nous retrouvons devant des horizons qui ressemblent à ceux posés par l’atome : énergie inépuisable et propre ou destruction de la planète ? C’est aussi notre responsabilité d’élu d’adapter le droit en conséquence. Il faut absolument garder la maîtrise d’un outil, qui peut être aussi bien fabuleux que dangereux.

« L’intelligence artificielle recouvre un domaine assez vaste, qui peut avoir plusieurs dimensions. Entre votre cafetière qui vous écoute pour remplir automatiquement votre tasse selon vos habitudes, votre voiture qui reste dans la file, ChatGPT qui vous aide à faire vos recherches ou les « œuvres » d’IA générative, devons-nous construire un seul outil juridique ? »

Fin 2022, l’apparition de ChatGPT a marqué les esprits : quelles inquiétudes sont remontées jusqu’à vous de la part de Monégasques ou de résidents à propos de l’IA et de ses applications en principauté ?

Demandons à ChatGPT ce qu’il — ou elle ? — en pense [sourire – NDLR]. Plus sérieusement, nous sommes, par nature, au contact des Monégasques et des résidents, comme vous l’êtes de vos lecteurs. Pour être tout à fait franc, en dehors de quelques fantasmes ou de discussions en ville, on ne peut pas dire que cela occupe les esprits à plein temps. Bien sûr, c’est un sujet qui a été très médiatisé ces derniers temps, et on peut partager l’inquiétude latente des enseignants par exemple, aussi bien pour de potentielles tricheries, que pour le risque de soumission de l’esprit, par paresse, donc de l’extinction progressive de la curiosité ou de la « pensée par soi-même ». On peut également s’interroger sur les conséquences sociales majeures de l’adaptation, quand ce n’est pas la disparition, de nombreux métiers. Nous n’en sommes pas encore là. Pour l’instant, les gens voient le côté pratique, et ils sont bien conscients que nous n’en sommes qu’au tout début. Au-delà, de son côté, le monde économique s’interroge très sérieusement sur la question de ne pas louper le train des opportunités qui se présentent.

Quel regard faut-il porter sur l’intelligence artificielle ?

C’est pour cela que nous devons regarder ChatGPT, mais en fait toute l’intelligence artificielle, pas seulement comme un risque, mais également comme une opportunité. Monaco a toutes les armes pour jouer un rôle référent dans le domaine, à condition d’être imaginatif et ambitieux. En ce qui me concerne, dans tous les sujets que nous avons à traiter, ma principale priorité c’est que le numérique et la technologie gardent toujours un aspect humain, que ces outils soient au service de l’Homme avant tout. Il faut un bon équilibre. Je suis personnellement convaincu, philosophiquement, que l’artificiel ne doit pas remplacer in fine totalement le réel et l’humain. Cela doit rester un outil.

De votre côté, en tant que législateur, quels sujets vous préoccupent particulièrement avec la montée en puissance de l’IA ?

La préoccupation, comme dans tous les domaines du droit à Monaco, c’est, d’être pertinent, réactif, adapté aux réalités de notre pays, mais aussi des règles au-delà de nos frontières, et de penser avec un horizon de temps long. Il ne faudra surtout pas être en retard, mais, au contraire, tout faire pour être à la pointe. Sur l’IA, dès que nécessaire, il faudra veiller à adapter le droit, tant pour le volet protection que pour aider les entreprises du domaine. De manière prioritaire, on imagine assez bien que le volet protection concerne le respect de la vie privée et de la propriété intellectuelle. La difficulté tient dans le côté virtuel et mondialisé de la question, avec d’une part la difficulté du contrôle, et de l’autre l’interpénétration, avec les régulations européennes ou américaines, par exemple. L’idée n’est pas d’aboutir à un cadre ex nihilo, mais d’adhérer à ces régulations de manière intelligente, de faire du sur mesure, « à la monégasque ». Mais il y a d’autres enjeux à prendre en compte.

« Il faut, bien évidemment, des garde-fous. Quand j’entends Elon Musk nous dire que d’ici 2029 l’IA sera plus performante que l’ensemble de la pensée humaine, je me dis, et je ne suis pas le seul, qu’il faut en effet nous doter d’outils adaptés, dans le droit comme ailleurs »

Comme quoi, par exemple ?

Je ne citerai que les risques sur l’emploi, la dépendance technologique, la santé mentale et les addictions aux écrans. Et, plus globalement, mais c’est sans doute cela l’essentiel, sur les questions d’éthique et de responsabilité. Autant dire que le sujet est vaste. Tout cela souligne l’importance d’une réglementation et d’une forme de gouvernance appropriée à l’IA, en inventant un véritable modèle monégasque.

Quel regard portez-vous sur l’Artificial Intelligence Act (AIA), une législation inédite au niveau mondial pour réguler l’intelligence artificielle (IA) ?

C’est une formidable opportunité qui a, avant tout, le mérite d’exister. En matière technologique, on avait un peu l’habitude de voir s’organiser les choses sur des considérations plutôt tournées vers le développement du marché, et avec un certain retard, parfois. Avec l’AIA, on voit apparaître une véritable réflexion sur une régulation de l’intelligence artificielle, sans chercher à freiner ses capacités potentielles bénéfiques. On ne doit pas considérer l’AIA comme un bloc de règles isolées. Plus près de nous, en Europe, on doit également prendre en compte la législation sur les marchés numériques, le Digital markets acts (DMA), la législation sur les services numériques avec le Digital services act (DSA), et, plus globalement, le règlement sur la gouvernance des données, avec le Data governance act (DGA).

Les positions européennes sur ce sujet pourraient influencer le monde entier ?

Comme on le voit, la taille et la puissance économique de notre continent font que, ce qui n’est pour l’instant qu’une approche juridique européenne pourrait, je suis optimiste de nature, se répandre comme un jeu de règles universelles. Ce qui me rend optimiste, c’est que, pour une fois, l’Europe ne cherche pas uniquement à tout réguler de manière technocrate, mais elle s’est intéressée à ce que l’on appelle « les applications de l’IA à haut risque », qui concernent la santé, l’énergie, les transports, la justice et d’autres sujets encore, avec des mécanismes de certification possibles. Au-delà, l’AIA propose, elle, d’interdire tout ce qui pourrait manipuler le comportement humain. On le voit, tout cela reste assez préliminaire. Ce n’est pas encore un « code » duplicable, mais cela a le mérite d’exister, et cela pourrait très bien éclairer de prochaines législations, y compris monégasques.

« La difficulté tient dans le côté virtuel et mondialisé de la question, avec d’une part la difficulté du contrôle, et de l’autre l’interpénétration, avec les régulations européennes ou américaines, par exemple. L’idée n’est pas d’aboutir à un cadre ex nihilo, mais d’adhérer à ces régulations de manière intelligente, de faire du sur mesure, « à la monégasque » »

Monaco a-t-il pris du retard dans la régulation de l’intelligence artificielle ?

Prenons garde à ne pas nous lamenter inutilement. Le cadre juridique qu’évoque l’AIA est avant tout destiné aux « apprentis sorciers », si j’ose dire. Autrement dit, aux Google, Apple, Facebook, Amazon et Microsoft (Gafam) et leurs descendants ou cousins exotiques qui pourraient jouer avec le feu. Notre droit, basé sur le principe de « responsabilité » offre déjà les outils pour protéger les utilisateurs que nous sommes, même s’il va falloir sans doute le raffiner, pour prendre en compte de nouvelles situations et laisser la jurisprudence faire son office. Donc oui, on devra être certain que l’utilisation de l’intelligence artificielle en principauté respecte bien un certain nombre de principes, comme ceux que propose l’AIA. En ce sens, il ne s’agit pas de réinventer l’eau chaude, mais de vérifier l’adéquation entre ces règles et le droit monégasque, en les transcrivant et en les adaptant. En revanche, et cela dépasse le strict cadre juridique, Monaco doit prendre toute sa place sur des marchés qui n’en sont qu’à leurs balbutiements, même si certains acteurs dominants sont déjà bien en place.

Faut-il protéger spécifiquement les start-up monégasques spécialisées dans l’IA ?

Je ne suis pas certain que ces acteurs et futurs acteurs attendent de l’État une démarche « protectionniste » de leur activité, qui freinerait leur développement. En revanche, on peut leur donner des ailes avec tous les mécanismes d’accompagnement à disposition. À commencer par la modernisation du droit des sociétés. Sur ce point, nous avons fait le nécessaire, en prenant l’initiative de proposer des lois sur les sociétés unipersonnelles à responsabilité limitée, de même que les sociétés d’innovation monégasque par actions (Sima), permettant le développement de projets innovants à l’aide d’un régime spécifique répondant à la fois aux besoins des créateurs de startups et des investisseurs, dont les projets IA seraient évidemment bénéficiaires. Il est embarrassant de constater que le gouvernement ne place pas dans ses priorités de transformer ces textes, même s’il semble préparer de son côté un texte qui reprendrait ces éléments. Attendons de voir.

« Je ne citerai que les risques sur l’emploi, la dépendance technologique, la santé mentale et les addictions  aux écrans. Et, plus globalement, mais c’est sans doute cela l’essentiel, sur les questions d’éthique et de responsabilité. Autant dire que le sujet est vaste. Tout cela souligne l’importance d’une réglementation et d’une forme de gouvernance appropriée à l’IA, en inventant un véritable modèle monégasque »

Vous êtes optimiste ?

Reconnaissons que la mise en place, avec des moyens appropriés, d’une délégation interministérielle chargée de la transition numérique, en y associant l’attractivité de la principauté ne doit rien au hasard, et prouve l’engagement de l’État monégasque sur la question. Mais on peut sans doute dynamiser encore plus le secteur pour accompagner les entrepreneurs.

Comment ?

Tenez, par exemple, le cadre du fonds bleu pourrait très bien être élargi, pour aller au-delà des prêts, en investissant, avec des subventions, dans des projets ciblés IA. C’est un domaine qui a besoin de ressources. Je vais plus loin, et c’est un point sur lequel mon prédécesseur, Franck Julien, a beaucoup travaillé lors du précédent mandat : le Monaco Cloud a été conçu avec un haut référentiel de sécurité, mais rien ne semble prévu, au-delà du stockage, pour bénéficier d’une puissance de calcul avec des GPU de type Nvidia, dont on connaît l’importance en matière d’IA générative. D’un autre côté, les plateformes que nous utilisons sont centrées sur Windows, alors même qu’on sait que ces solutions n’utilisent pas Azure, le cloud de Microsoft. Donc, quitte à avoir un cloud souverain, autant lui donner toutes les chances d’accompagner ces bouleversements. Bref, soyons ambitieux, avec toujours de hauts niveaux de sécurité. En misant sur la souveraineté de notre cloud, on pourrait gagner en réactivité, en inventivité, et en productivité. Cela n’empêche pas de compléter nos expertises avec des acteurs référents, en France ou ailleurs.

Vous utilisez l’intelligence artificielle au Conseil national ?

Savez-vous que l’intelligence artificielle nous rend de grands services, au Conseil national ? Avec l’appui d’une entreprise monégasque, nous utilisons un logiciel IA de retranscription des réunions — qui sont nombreuses et fournies — doté de reconnaissance vocale et de capacité de produire des résumés. On évite les tâches les plus rébarbatives, ce qui permet aux permanents de se concentrer sur la relecture, et de gagner un temps précieux. Sur ce domaine, comme dans d’autres, je le répète, je suis persuadé que nous pouvons inventer un modèle monégasque. D’un côté, vous avez les États-Unis ou la Chine qui innovent avec une perspective marketing et financière, de l’autre vous avez l’Europe qui cherche à tout réglementer. Prenons appui sur le meilleur de ces deux logiques ! Mais attention, pour revenir aux startups, si l’on veut pousser ce modèle monégasque, il faut s’en donner les moyens, car on a besoin de ressources. Vous me pardonnerez d’être un peu technique, mais les professionnels comprendront : il faudrait, par exemple, mettre en place un principe de « bac à sable », de “sandbox”, pour que les jeunes pousses de l’IA monégasque développent et testent, en local, des solutions sécurisées et efficaces.

« L’Europe s’est intéressée à ce que l’on appelle « les applications de l’IA à haut risque », qui concernent la santé, l’énergie, les transports, la justice et d’autres sujets encore, avec des mécanismes de certification possibles. Au-delà, l’Artificial Intelligence Act (AIA) propose, elle, d’interdire tout ce qui pourrait manipuler le comportement humain. […] Cela pourrait très bien éclairer de prochaines législations, y compris monégasques »

Comment parvenir à trouver un équilibre entre innovation et sécurité ?

Votre question est centrale. Les juristes et, a fortiori, le législateur, savent traiter les sujets bien cadrés : par exemple une situation précise, une interaction humaine, un comportement, ou une profession. En revanche, l’intelligence artificielle nous demande d’adopter une démarche globale qui tienne compte tout à la fois, et pour bientôt presque toutes les activités humaines, de perspectives technologiques, politiques, sociales, économiques, éthiques, et j’en passe. C’est un domaine sans limite précise, et en constante évolution, d’où la difficulté. Donc, pour ne prendre que notre point de vue d’élus, nous devons, certes, envisager une législation qui n’entravera pas le développement de ces solutions. Mais nous devons veiller à ce qu’elles encadreront, en lien avec le monde qui nous entoure, la confidentialité des données, la transparence des algorithmes, la question de la responsabilité en cas de préjudice, et, bien entendu, la sécurité. Par ailleurs, nous devons élargir notre réflexion en évoquant les nécessaires répercutions en termes d’éducation et de sensibilisation, de définition d’une forme de certification, de mécanismes de surveillance… Et de garantie de la prééminence absolue de l’humain sur l’algorithme.

Comment encadrer les IA génératives, de type ChatGPT ?

Demain, nous regarderons ChatGPT comme nos enfants regardent un minitel ou un lecteur de cassette. Je veux dire que c’est évidemment moins l’outil que sa production et sa destination qu’il faut envisager. Il y a donc tout d’abord sa production. De manière théorique, l’IA générative est censée se concentrer sur la création de contenu nouveau et original. La réalité, c’est que cette création s’appuie toujours, je schématise, sur la somme universelle digérée des créations préalables. Donc, est-ce vraiment original ? L’IA a cette capacité d’effectuer de façon ultra rapide et sur un terrain ultra étendu la recherche, la synthèse et la restitution de données existantes. Pour le dire de façon un peu simpliste, c’est en fin de compte « seulement » un ordinateur sur-boosté ! Nous travaillons sur le sujet de manière indirecte, à la source de la création humaine. En effet, la commission culture et patrimoine du Conseil national se concentre actuellement, au travers d’un projet de loi, sur les « œuvres de l’esprit », pour remplacer un texte qui date de 1948. La réflexion porte, entre autres, sur ce qu’on appelle les « droits voisins », mais intègre évidemment le développement de toutes les formes de production d’une œuvre, et la protection des ayants-droits.

Et ensuite ?

Ensuite, il y a la diffusion. Jusqu’à preuve du contraire, un algorithme n’est pas en mesure de limiter sa « création » en fonction de critères moraux. On peut condamner une personne pour apologie de la haine raciale, par exemple. Comment encadrer une IA générative, qui produirait des contenus explicitement racistes, sous prétexte qu’ils ont été élaborés sur la base de contenus anciens ? Comment protéger ceux qui en seraient les destinataires ? Certes le droit tel qu’il existe est déjà bien armé. Mais il se réfère à la responsabilité d’humains, pas d’équations élaborées dans l’éther de serveurs lointains. Sur ce point, il y a bien une réflexion collective à conduire.

« Le sujet de la reconnaissance faciale est arrivé sur le bureau du Conseil national. Nous allons nous y atteler, pour encadrer la technologie d’aujourd’hui et de demain. Inutile de dire que les idées d’une surveillance de masse ou d’une « notation » sociale sont totalement exclus »

Où en est le texte sur la protection des données ?

Je suis heureux que vous posiez la question, car c’est un sujet qui occupe la commission de développement du numérique depuis plusieurs années et que nous aimerions bien voir aboutir. Ce n’est pas faute d’y travailler… Mon prédécesseur, Franck Julien, avait consacré beaucoup d’énergie à la question lors du précédent mandat. Nous avons poursuivi activement les travaux ces derniers mois, et nos récents échanges avec le gouvernement nous laissent un peu pantois.

Pourquoi ?

Pour résumer, nous avons étudié un projet de loi qui vise, pour Monaco, à obtenir de la commission européenne une reconnaissance de l’adéquation de notre législation avec le RGPD, qui s’impose déjà à nous indirectement, mais qui n’est pas inscrit dans le droit monégasque. Une telle reconnaissance officielle, via une « décision d’adéquation », simplifierait les transferts et la protection de données personnelles de la principauté avec les pays de l’Union européenne (UE), et faciliterait dès lors le travail de tous les professionnels de Monaco. Récemment, le gouvernement monégasque nous a fait comprendre que la suspension des négociations avec l’UE rendait moins urgente le vote de ce texte. Ce n’est pas notre avis. Quoiqu’il en soit, pour résumer, de notre côté nous sommes prêts. En effet, la commission que je préside a terminé l’étude de ce texte, au terme de nombreuses réunions. Et nous avons transmis le projet de loi enrichi de nos amendements au gouvernement début février 2024. La balle est désormais dans son camp. Espérons ne pas perdre trop de temps, car c’est un texte très attendu.

Comment encadrer la reconnaissance faciale en temps réel ?

C’est un sujet sensible, sur lequel on doit éviter les raccourcis à l’emporte-pièce et les positions dogmatiques trop passionnées. Comme dans la population, les avis sont partagés parmi les élus, avec des arguments qui s’entendent. C’est là que l’Union prend tout son sens, par la prise en compte de toutes les sensibilités, pour arriver à une position équilibrée et pragmatique. Bien évidemment, personne ne veut d’un monde « orwellien » de contrôle permanent de faits et gestes de chacun. Personne ne veut, non plus, que les autorités ne puissent bénéficier des meilleures solutions techniques pour identifier un criminel ou un terroriste recherché, a fortiori dans le contexte actuel, mais aussi un enfant perdu ou une personne dépendante égarée.

Que faire, alors ?

Nous avons récemment visité le nouveau siège des équipes de la sureté publique. C’est un formidable outil pour appuyer leur efficacité reconnue et enviée, et ainsi renforcer le haut niveau de sécurité de Monaco, qui est l’un des principaux piliers de notre attractivité. Nous avons longuement évoqué le sujet de la reconnaissance faciale avec eux. À ce stade, la technologie a la capacité de « reconnaître » un criminel, sur la base d’une photo introduite dans un logiciel. Elle pourrait également analyser une situation « suspecte » pour attirer l’attention des forces de l’ordre. Mais, en l’absence de texte de loi, il faut souligner que cet outil n’est pas encore utilisé en principauté. On le voit, le sujet mérite que le législateur arbitre. Je suis personnellement favorable à l’idée d’offrir aux autorités une solution efficace, mais dans un cadre légal strict, bien délimité, et sans équivoque, pour faciliter leur mission, sans contrevenir au respect des libertés individuelles et éviter tout abus. Le sujet est arrivé sur le bureau du Conseil national. Nous allons nous y atteler, pour encadrer la technologie d’aujourd’hui et de demain. Inutile de dire que les idées d’une surveillance de masse ou d’une « notation » sociale sont totalement exclues.

Au-delà même de la reconnaissance faciale, l’UE a décidé que les systèmes considérés comme étant à « haut risque », comme, par exemple, le maintien de l’ordre, les infrastructures dites « critiques », mais aussi l’éducation ou les ressources humaines, doivent respecter des obligations supplémentaires, notamment un contrôle humain : comment Monaco doit-il se positionner sur ce sujet sensible ?

La démarche est évidemment intéressante, à condition qu’elle n’accouche pas d’une souris… Ni d’un monstre ! A notre échelle, nous devons nous poser les bonnes questions, sur les systèmes susceptibles de causer des préjudices graves ou de menacer nos droits fondamentaux en cas de dérive, ou d’un manque de maîtrise. La supervision humaine est évidemment essentielle, mais elle ne suffit parfois pas. L’outil technologique et l’humain doivent donc être complémentaires. Nous opérons une veille sur ce qui se fait en Europe, mais pas seulement. Comme évoqué, je suis persuadé que Monaco peut être un exemple dans le développement d’activités à haute valeur ajoutée dans le domaine de l’intelligence artificielle. Évidemment, c’est notre devoir de mettre en place un cadre légal qui garantisse une utilisation éthique, sûre et respectueuse des droits fondamentaux. Notre rôle d’élu, c’est aussi de tout faire pour permettre aux entrepreneurs d’aujourd’hui, et de demain, de se développer dans un environnement concurrentiel qui restera difficile, mais qui peut offrir à Monaco une chance d’être un acteur référent de cette révolution.

Quels autres garde-fous faut-il instaurer vis-à-vis de l’IA ?

Ce qui nous différencie de l’intelligence artificielle, c’est — parait-il — que l’intelligence artificielle est réputée ne pas disposer de conscience. Veillons à ce que la nôtre ne s’endorme pas. Comme je vous le disais, un bon équilibre est fondamental. Une chose est sûre : l’humain devra toujours prévaloir.