Le directeur de l’IA Microsoft: Magnifica humanitas, un atout pour le développement de l’IA

Devin Watkins – Cité du Vatican

Les progrès considérables réalisés ces dernières années dans le domaine des systèmes d’intelligence artificielle destinés au grand public ont conduit l’Église à s’engager plus profondément auprès des entreprises qui développent les technologies de demain. Ce mouvement a suscité des critiques à l’égard de l’engagement de l’Église auprès des entreprises technologiques, pour aider à orienter le développement de l’IA, ainsi que des critiques au sein du monde technologique à l’encontre de ceux qui dialoguent avec l’Église. Mais en reléguant la religion et la théologie à un «domaine facultatif», les développeurs risquent de passer à côté d’une compréhension plus profonde de la façon dont leurs clients pensent, selon Taylor Black qui occupe le poste de directeur de l’IA et des écosystèmes d’entreprise au sein du bureau du directeur technique chez Microsoft, ainsi que celui de premier directeur du ‘‘Leonum Institute for AI and Emerging Technologies’’ à l’Université catholique d’Amérique. Ces doubles fonctions – ainsi que ses études de diaconat pour l’éparchie catholique byzantine de Phoenix – lui offrent l’occasion de mener une réflexion philosophique sur l’avenir de l’IA tout en contribuant à orienter les investissements de Microsoft dans les start-ups spécialisées dans l’IA.

S’exprimant à titre personnel auprès de Vatican News, Taylor Black a souligné que la technologie n’a pas d’anthropologie ni de vision spécifique de la personne humaine. Au contraire, souligne-t-il, les produits d’IA générative ou agentique sont probabilistes: ils devinent le mot suivant d’une séquence, chaque action étant fondée sur les données avec lesquelles ils ont été entraînés et sur la demande de l’utilisateur. Il en résulte que les utilisateurs co-créent leurs expériences, et les produits doivent donc reposer sur une bonne compréhension de la façon de penser de l’utilisateur.

En réponse à ce nouveau paradigme de développement technologique, en janvier 2025, le dicastère pour la Doctrine de la foi et le dicastère pour la Culture et l’Éducation ont publié «Antiqua et nova: Note sur la relation entre l’intelligence artificielle et l’intelligence humaine». Puis, le 25 mai 2026, le Pape Léon XIV a exercé son magistère papal avec la publication de sa première encyclique ‘‘Magnifica humanitas’’. Ces deux documents visent à appliquer la profonde expérience et la compréhension de la personne humaine dont dispose l’Église catholique à la technologie émergente de l’IA. Taylor Black a déclaré que l’encyclique du Pape Léon reconnaît que l’IA peut façonner le développement de ses utilisateurs s’ils renoncent à la pensée critique et acceptent sans vérification tout ce que le «chatbot» IA leur propose.

Ce risque est particulièrement pertinent pour les enfants, dont le lobe préfrontal continue de se développer jusqu’à l’âge de 25 ans environ, a déclaré Taylor Black. Il a donné l’exemple d’un parent qui confie son enfant à un adulte aux mœurs douteuses, qui peut certes être très compétent, mais qui risque aussi de transmettre à l’enfant des informations que le parent ne souhaiterait pas lui voir acquérir, même sans intention malveillante. Dans le but de nous aider, l’IA peut également modifier notre voix ou notre visage, reléguant parfois notre véritable personnalité au second plan au profit d’une version idéalisée. «Elle nous façonne d’une manière à laquelle nous pouvons adhérer si nous en avons envie», a déclaré Taylor Black. «Mais encore une fois, si nous sommes des enfants, nous ne pouvons pas vraiment adhérer pleinement à ce façonnage sans y apporter notre propre contribution créative, notre voix, notre façon d’être au monde, comme le peuvent les adultes.»

Vous êtes très impliqué dans le domaine de l’intelligence artificielle et d’autres technologies émergentes, tant sur le plan philosophique que financier avec Microsoft. Comment ‘‘Magnifica humanitas’’ peut-elle contribuer à orienter le développement éthique de l’IA dans l’industrie technologique?

[Taylor Black:] Je pense que l’une des raisons pour lesquelles les industries technologiques se sont tournées vers diverses traditions religieuses pour mieux comprendre la personne humaine est que, lorsque nous créons des produits de nature générative ou agentique en matière d’IA, ceux-ci sont probabilistes. Cela signifie que l’utilisateur de nos produits cocrée désormais son expérience en collaboration avec ce que nous avons construit. C’est une nouveauté dans l’histoire des produits technologiques. Avant l’IA, nous étions capables de créer des choses qui étaient déterministes. Nous savions ce qui se passerait lorsque l’utilisateur ferait usage de notre produit. Nous avons désormais une idée moins précise de ce que l’utilisateur est capable de co-créer. Par conséquent, nous devons mieux comprendre nos utilisateurs pour appréhender les résultats possibles de leur utilisation de nos produits spécifiques.

La technologie ne s’intéresse pas à l’anthropologie. Elle n’y adhère pas. Elle ne prétend pas être experte en anthropologie humaine. Mais nous devons désormais y réfléchir plus en profondeur, car cela a un impact sur la manière dont nos produits sont conçus et développés, afin que nos utilisateurs bénéficient d’une meilleure expérience et, très honnêtement, que nous puissions les fidéliser, car ils trouvent de la valeur dans leur interaction et leurs actes de co-création avec nos produits.

Votre travail chez Microsoft consiste à sélectionner les start-ups qui auront accès à un financement pour leurs idées et leurs business plans. Comment l’encyclique et la relation entre l’Église et les géants de la tech peuvent-elles guider le travail de vos pairs en tant qu’allocataires de capitaux?

Cela nous ramène encore une fois à cette réflexion axée sur le produit. Si nous avons un produit ou une start-up qui a mis au point quelque chose utilisant l’IA, et si celle-ci a envisagé un utilisateur qui n’existe pas en raison d’une anthropologie trop simpliste, alors son produit ne connaîtra pas autant de succès sur le marché qu’il aurait pu en avoir s’il avait réellement respecté la façon dont les humains pensent et jugent. C’est en raison de cette réflexion, et de la manière dont l’encyclique l’exprime, que nous nous intéressons particulièrement aux start-ups et aux produits qui respectent davantage le fonctionnement réel des êtres humains; car, de ce fait, leurs clients – ceux des start-ups comme ceux des géants de la tech – bénéficieront d’une meilleure expérience d’utilisation.

Par conséquent, nous accordons une importance capitale à la manière dont une start-up ou un produit aborde sa méthodologie de conception, à la façon dont elle ou il conçoit une IA responsable, et à la manière dont elle ou il construit les interfaces et les interactions de ces IA, car l’IA s’intègre de plus en plus profondément dans la cognition propre à la personne humaine et dans les modes d’interaction des individus ou des équipes face à des interfaces plus actives. Ces deux aspects supposent une meilleure compréhension de la personne humaine que celle dont la technologie a dû tenir compte jusqu’à présent, en raison de la manière dont la technologie s’intègre plus profondément à la personne humaine.

En tant que directeur fondateur de l’Institut d’IA de l’Université catholique d’Amérique, et en tant que père, comment espérez-vous utiliser ‘‘Magnifica humanitas’’ pour enseigner aux jeunes comment interagir avec l’IA?

En fait, je venais justement de donner une conférence en début de semaine à un groupe de parents, à l’école catholique classique de mes enfants, dans la région de Seattle. L’un des points dont nous avons discuté concernait la recommandation de l’encyclique selon laquelle il fallait faire preuve d’une grande prudence quant au type d’interfaces d’écran, d’interfaces de réseaux sociaux et, bien sûr, d’interfaces d’IA destinées aux enfants, notamment parce que l’utilisation de ces interfaces d’IA agentique et des interfaces d’IA générative exige un grand discernement, puisqu’il faut déterminer si ce qu’elles vous disent est vrai. De plus, il y a ici une autre préoccupation concernant la capacité à développer sa propre voix avant que celle-ci ne soit façonnée pour vous. Ces deux aspects ont façonné la conversation que j’ai eue avec ces parents, ainsi que ma propre façon d’élever mes enfants, en ce qui concerne la réduction de leur exposition à la technologie avant qu’ils n’aient la capacité intellectuelle de vraiment bien la maîtriser.

J’aime rappeler aux gens que les enfants ne sont pas seulement confrontés à des problèmes de logiciel, mais aussi à des problèmes de matériel, dans le sens où leur lobe préfrontal n’est pas complètement formé avant le début de la vingtaine. Je pense que cela devrait nous inciter à faire une pause et à réfléchir aux types d’expériences que nous proposons aux enfants dans ce contexte. J’ai donné un exemple, en discutant avec les parents, où l’on laisserait son enfant seul avec un de ses amis adultes, brillant mais moralement ambigu. Cet ami adulte pourrait sans doute apporter un éclairage très intéressant sur les étoiles, les galaxies, la chimie, l’écriture et toutes sortes de sujets de ce genre. Mais, du fait de son ambiguïté morale, il pourrait aussi dire à l’enfant des choses qu’ils ne devraient pas entendre, ou qu’il ne faudrait pas leur dire, ou leur suggérer de dire des choses qu’ils ne devraient probablement pas dire, même sans aucune intention malveillante. C’est une question de probabilité purement statistique. Mais l’enfant n’a pas les outils nécessaires pour faire ce discernement aussi bien que nous, adultes pleinement formés.

Il y a aussi cet aspect intéressant, auquel le Pape Léon fait référence dans l’encyclique, ainsi que dans certains commentaires plus tôt cette année, concernant la capacité à s’approprier sa propre voix et sa propre image. Lorsque je médite sur cet aspect, je trouve que nous, adultes, avons eu l’avantage de grandir et de passer beaucoup de temps à développer notre propre façon de penser, d’écrire et de parler sans recourir à ces outils d’IA générative. Les outils d’IA générative, dans leur tentative obstinée de se rendre utiles, façonnent notre langage. Ils peuvent modifier la sonorité de notre voix. Ils peuvent modifier l’apparence de notre visage dans les médias numériques, au point qu’il ne nous ressemble plus. Ils nous façonnent d’une manière à laquelle nous pouvons adhérer si nous le souhaitons. Mais encore une fois, si nous sommes des enfants, nous ne pouvons pas vraiment adhérer pleinement à ce façonnage sans y apporter notre propre contribution créative, celle de notre voix, de notre façon d’être au monde, comme le peuvent les adultes. Maintenant que nous disposons de ces outils, nous sommes en mesure de créer quelque chose qui correspond davantage à ce que nous aurions souhaité entendre tout au long de notre vie. Pour les enfants, cela peut être un échec, dans la mesure où l’IA devient un moyen par lequel leur propre voix est orientée dans une direction qu’ils ne souhaitent pas forcément eux-mêmes.

La publication de l’encyclique du Pape Léon XIV constitue un tremplin pour le parcours de l’Église avec l’IA. Selon vous, quelles devraient être les prochaines étapes dans la relation de l’Église avec les développeurs d’IA?

Je pense qu’un travail vraiment intéressant est mené par un certain nombre d’organisations à but non lucratif et de groupes de recherche dans ce domaine, qui consiste à prendre ce que l’Église a dit à un niveau général et élevé pour le mettre en œuvre dans la structure, la conception et l’ingénierie concrètes de ces systèmes. En effet, l’encyclique elle-même souligne le poids moral, culturel et sociétal du travail que ces développeurs accomplissent. J’attends avec impatience un lien plus étroit entre la théorie que le Vatican est en mesure de proposer et la pratique que nous, en tant que créateurs, devons mettre en œuvre lorsque nous nous mettons réellement au clavier ou que nous donnons la parole à un agent lors du développement de ces outils.

C’est là que les choses se concrétisent vraiment, et pouvoir avoir cette interaction, pouvoir amener les technologues à présenter le problème à l’Église ou à la philosophie et à la théologie en disant: «Voici comment cela fonctionne d’un point de vue technique.» Et forts de cette réflexion des théologiens, des philosophes et de l’Église, nous pouvons dire: «Puisque vous m’expliquez comment cette technologie fonctionne réellement, vous devriez la concevoir ou l’orienter dans cette direction.» Cette interaction, cette nécessité d’aborder les discussions difficiles au cœur même de la construction, est mise en avant tout au long de l’encyclique, ce que j’apprécie énormément, et j’attends avec impatience l’approfondissement et le développement de ce type de relations.

Les catholiques ont été critiqués par certains pour leur collaboration avec des développeurs d’IA que certains jugent moralement douteux. Parallèlement, les développeurs ont été critiqués pour le simple fait de dialoguer avec l’Église et de se demander de quel droit celle-ci s’exprime sur ces questions sociales. Avez-vous remarqué ce genre de critiques de la part des développeurs?

Oui, et je pense sincèrement que ce n’est pas une critique très réfléchie de part et d’autre. La raison, selon moi, trouve généralement son origine dans la manière plutôt naïve dont les États-Unis ont séparé l’Église et l’État, ce qui est, bien sûr, un artefact historique intéressant. Mais en conséquence, cela relègue en quelque sorte la religion, la théologie et ces questions plus profondes dans un domaine facultatif, plutôt que de refléter la manière réelle dont nous ressentons tous le besoin de transcendant ou le besoin de culte. Voilà ma réponse théorique.

Concrètement, bien sûr, nous essayons de mieux comprendre comment nos clients travaillent. Avant l’avènement de l’IA, lorsque nous développions des produits, nous observions nos clients travailler via une interface ou effectuer une série de tâches, nous regardions comment ils s’y prenaient, nous les observions accomplir ces tâches avec les outils que nous avions créés, puis nous modifiions l’interface ou le fonctionnement de l’outil de manière déterministe, afin que l’utilisateur soit mieux à même d’accomplir sa tâche. Lorsque nous observons quelqu’un taper une question puis ne pas être satisfait de la réponse, tout cela se passe dans la tête de cette personne. Aujourd’hui, dans notre recherche sur les utilisateurs, bien sûr, nous disposons désormais d’une capacité de second ordre pour comprendre comment cet utilisateur interagit réellement avec nos produits et cocrée ce qu’il espère concevoir grâce à cette interface d’IA générative. Cela soulève des questions sur la personne humaine, ne serait-ce que du point de vue de la création de produits.

Ainsi, ne pas être capable d’explorer les différentes conceptions de la personne humaine en dialoguant avec des entités qui ont des opinions très tranchées sur ce qu’est la personne humaine et comment elle fonctionne, je pense, est une manière erronée et réductrice de créer des produits que les clients connaissent et aiment. Et je trouve amusant que des entreprises technologiques, grandes ou petites, tronquent la réalité de la création de produits sur la seule base d’artefacts historiques tels que la séparation de l’Église et de l’État.