Cela peut ressembler à un oxymore, mais le cerveau le plus important du Vatican en matière de technologie qui façonne le plus notre monde à l’heure actuelle est issu d’un ordre médiéval.
Le frère Paolo Benanti porte la robe marron unie de son ordre franciscain médiéval alors qu’il s’attaque à l’un des problèmes les plus urgents de l’époque contemporaine : comment gouverner l’intelligence artificielle (IA) afin qu’elle enrichisse – et non exploite – la vie des gens.
Benanti est la personne de référence du Vatican en matière de technologie et il a l’oreille du pape François ainsi que de certains des meilleurs ingénieurs et dirigeants de la Silicon Valley.
Ingénieur de formation, docteur en théologie morale et passionné par ce qu’il appelle « l’éthique de la technologie », le prêtre italien de 50 ans est investi d’une mission urgente qu’il partage avec François, qui, dans son message de paix annuel pour 2024, a poussé à un traité international pour garantir l’utilisation éthique de la technologie de l’IA.
« Quelle est la différence entre un homme qui existe et une machine qui fonctionne ? » a déclaré Benanti dans une interview avec l’Associated Press lors d’une pause à l’Université pontificale grégorienne, où il enseigne des cours tels que la théologie morale et la bioéthique aux étudiants se préparant au sacerdoce.
« C’est peut-être la plus grande question de notre époque, car nous sommes témoins d’un défi qui s’approfondit chaque jour davantage avec une machine qui s’humanise ».
Conseiller en IA
Benanti est membre du Conseil consultatif sur l’intelligence artificielle des Nations Unies et chef d’une commission gouvernementale italienne chargée de fournir des recommandations sur la manière de protéger le journalisme contre les fausses nouvelles et autres désinformations.
Il est également consultant auprès de l’Académie pontificale pour la vie du Vatican.
Benanti dit qu’il aide à « mieux clarifier les termes plus techniques pour le Saint-Père » lors de leurs rencontres.
Ses connaissances se sont révélées utiles lors d’une réunion en 2023 au Vatican entre François et le président de Microsoft, Brad Smith, qui portait sur la manière dont l’IA pourrait aider ou nuire à l’humanité.
Francis et Smith avaient également discuté de l’intelligence artificielle « au service du bien commun » lors d’une réunion quelques années plus tôt, selon le Vatican.
Avec une papauté très attentive à ceux qui vivent en marge de la société, François a clairement exprimé sa préoccupation quant au fait que la technologie de l’IA pourrait limiter les droits de l’homme, par exemple en ayant un impact négatif sur la demande de prêt hypothécaire d’un acheteur, la demande d’asile d’un migrant ou l’évaluation de la probabilité d’un délinquant de répéter un crime.
« Il est clair que si nous choisissons certaines données qui ne sont pas suffisamment inclusives, nous aurons des choix qui ne le seront pas », a déclaré Benanti, dont l’ordre religieux a été fondé au début du XIIIe siècle par saint François d’Assise, qui a renoncé à la vie terrestre. richesses et promu des œuvres caritatives.
Microsoft a contacté Benanti pour la première fois il y a plusieurs années pour lui faire part de ses réflexions sur la technologie, a déclaré le frère.
En 2023, Smith a réalisé un podcast avec Benanti à Rome, décrivant le frère comme apportant « l’une des combinaisons les plus fascinantes au monde » en termes de son expérience en ingénierie, éthique et technologie, au débat sur l’IA.
Trouver les bons usages de l’IA
Benanti, qui était à un an d’obtenir son diplôme d’ingénieur à l’Université Sapienza de Rome lorsqu’il a abandonné ce diplôme – ainsi que sa petite amie – pour rejoindre les Franciscains dans la vingtaine, a décrit comment l’IA pourrait être un « outil vraiment puissant » pour faire tomber le le coût des médicaments et donner aux médecins les moyens d’aider davantage de personnes.
Mais il a également décrit les implications éthiques d’une technologie qui pourrait avoir les mêmes capacités qu’un humain – ou peut-être même plus.
« Ce n’est pas un problème d’utilisation de (l’IA), mais c’est un problème de gouvernance », a déclaré le frère. « Et c’est ici qu’intervient l’éthique : trouver le bon niveau d’utilisation dans un contexte social ».
Benanti a noté qu’une grande partie des données qui alimentent l’IA sont alimentées par des travailleurs à bas salaires, dont beaucoup vivent dans des pays en développement enracinés dans une histoire de colonialisme et une main-d’œuvre exploitée.
« Je ne veux pas que l’on se souvienne de cette période comme de la saison au cours de laquelle nous extrayons des ressources cognitives des pays du Sud », a-t-il déclaré.
Si l’on examine « les meilleurs outils que nous produisons en IA » en Occident, on constate que l’IA est « formée avec des travailleurs sous-payés issus d’anciennes colonies anglophones ».
La manière de gouverner l’IA est une question que les pays du monde entier tentent de résoudre. L’Union européenne est devenue un pionnier à la fin de l’année dernière lorsque les négociateurs ont conclu un accord ouvrant la voie à une surveillance juridique de la technologie de l’IA.
En Italie, la première ministre Giorgia Meloni, qui craint que l’IA n’entraîne des pertes d’emplois, fera de la technologie un thème central du sommet du G7 de cette année, organisé en Italie.
Dans le cadre de ces efforts, Meloni a rencontré jeudi à Rome le fondateur de Microsoft, Bill Gates, une rencontre à laquelle Benanti a participé.
Pour sa part, le frère a déclaré à AP que réglementer l’intelligence artificielle ne devrait pas signifier limiter son développement.
« Cela signifie les maintenir compatibles avec ce système fragile qu’est la démocratie, qui semble aujourd’hui être le meilleur système », a déclaré Benanti.
