Les avantages économiques et sociaux de l’IA sont géographiquement concentrés, principalement dans les pays du Nord. Dans cette édition d’L’Observatoire de l’Europe Débats, notre panel d’experts aborde l’épineuse question de savoir comment mettre en place une bonne gouvernance de l’IA.
L’intelligence artificielle offre une multitude de possibilités d’innovation pour aider à résoudre certains des défis de société les plus critiques.
Mais la technologie pourrait également entraîner des dangers tels que la désinformation, le développement d’armes et les inégalités économiques. Il est donc crucial de bien réglementer pour garantir que l’IA soit utilisée à bon escient.
Un panel d’experts internationaux s’est penché sur ces questions dans le cadre d’un débat coproduit par CGTN et L’Observatoire de l’Europe.
Le panel comprenait Yi Zeng, professeur d’éthique de l’IA et des ODD à l’Académie des sciences de Pékin, le Dr Amr Awadallah, PDG et co-fondateur de la plateforme de recherche d’IA générative Vectara, Srikant Chakravarti, co-fondateur et co-PDG de l’IA. société de presse Curio AI et Rose Luckin, professeur de conception centrée sur l’apprenant à l’UCL Knowledge Lab.
Quels sont les avantages et les craintes de l’IA ?
L’une des façons dont l’IA peut être utilisée à bon escient est l’analyse pour aider la biodiversité, qui à son tour peut également aider les humains. « Je pense que ce n’est que le début de la manière dont l’IA peut être utilisée à des fins positives », a déclaré Yi Zeng, professeur d’éthique de l’IA et des ODD à l’Académie des sciences de Pékin, lors d’un panel sur l’IA organisé par CGTN et L’Observatoire de l’Europe.
L’IA est également essentielle à l’éducation et aux soins de santé dans des endroits qui ne disposent peut-être pas des meilleurs systèmes.
Il a averti que ce qui le préoccupait, c’était la manière dont l’IA pourrait être utilisée dans la guerre, car on craint que la technologie puisse trouver de nouvelles façons de fabriquer des armes chimiques.
« L’une des choses que j’aimerais voir, c’est comment l’IA peut empêcher la guerre », a-t-il déclaré.
« La technologie n’est pas la raison pour laquelle nous avons des problèmes, ce sont les humains qui le sont si nous utilisons la technologie de la mauvaise manière », a-t-il ajouté.
Réglementer correctement
Les gouvernements du monde entier tentent de garantir que la technologie est utilisée correctement par le biais de réglementations. L’Union européenne a fixé ses règles dans le EU AI ACT et les États-Unis et la Chine élaborent leur propre réglementation.
Le 24 septembre, les Nations Unies ont également publié un rapport contenant une série de recommandations pour l’IA, notamment un fonds pour l’IA qui permettrait également aux pays en développement de bénéficier de la technologie et la création d’un groupe scientifique international sur l’IA, qui publierait un rapport annuel sur l’IA. rapport sur les « capacités, opportunités, risques et incertitudes » liés à l’IA.
Cependant, amener le monde entier à respecter une seule réglementation comporte son lot de défis.
« Ce qui peut être bon pour un endroit peut ne pas l’être pour un autre », a-t-il déclaré au panel.
Chakravarti estime que le meilleur moyen d’obtenir une réglementation est de réglementer les applications, expliquant que, par exemple, la technologie de l’IA en santé serait réglementée par le biais de normes de santé, qui font déjà l’objet d’un consensus mondial.
Pour lui, l’essentiel est d’augmenter les infrastructures, comme les centres de données, afin que les pays les moins développés puissent construire leurs propres technologies d’IA.
Cependant, Zeng a plaidé en faveur d’une réglementation mondiale, affirmant qu’« on ne peut pas s’entendre sur tout mais on peut s’entendre sur des principes fondamentaux ».
« Nous devons être prudents face aux défis à long terme, car plus tard, il sera trop tard », a-t-il prévenu.
Monopole des Big Tech et technologie open source
Les avantages économiques et sociaux de l’IA sont géographiquement concentrés, principalement dans les pays du Nord.
Les grandes entreprises technologiques américaines dirigent le salon de l’IA, Microsoft investissant massivement dans le créateur de ChatGPT OpenAI, tandis que Google, Meta et Elon Musk lancent leurs propres plates-formes d’IA générative.
L’IA pourrait contribuer jusqu’à 15 700 milliards de dollars à l’économie mondiale d’ici 2030, selon PwC. Le rapport de 2023 révèle que si toutes les régions de l’économie mondiale devraient bénéficier de l’IA, l’Amérique du Nord et la Chine connaîtront les gains de PIB les plus importants.
L’inquiétude est que des pays plus développés créeront ces technologies, ce qui signifie qu’ils fixeront les règles du monde et élargiront la fracture économique mondiale.
Mais le panel a convenu que l’IA open source pourrait être une solution pour un système plus équitable.
L’IA open source signifie qu’un modèle peut être modifié à n’importe quelle fin, y compris changer sa sortie et partager le système pour que d’autres puissent l’utiliser avec ou sans modifications.
Cela permettrait à n’importe qui de modifier et de voir le modèle et de créer ses propres systèmes d’IA.
Awadallah a déclaré il y a quelques années qu’il se serait préoccupé de savoir qui contrôle AI. Mais il s’est dit optimiste car « l’IA open source empêche une ou deux entreprises de contrôler les systèmes d’IA ».
Rose Luckin, professeur de conception centrée sur l’apprenant à l’UCL Knowledge Lab, a déclaré que l’IA open source est une « énorme opportunité pour les pays les moins développés de sauter le pas. Je pense qu’il existe une réelle opportunité, mais les pays doivent comprendre (la technologie). »
« Je pense que nous verrons quelque chose de vraiment innovant et qui pourrait venir d’un petit pays qui pense différemment », a-t-elle ajouté.
