Dans une lettre ouverte, les experts appellent les dirigeants mondiaux et les géants de la technologie à donner la priorité au multilinguisme dans le développement de l’IA.
Les universitaires francophones tirent la sonnette d’alarme sur la domination de l’anglais dans le développement de l’intelligence artificielle (IA), mettant en garde contre les risques potentiels pour la « diversité culturelle mondiale » et la « souveraineté nationale ».
Dans une lettre ouverte publiée vendredi par le Future of Life Institute, les experts ont déclaré qu’il y avait un manque de diversité linguistique et culturelle dans les modèles d’IA et les évaluations de sécurité.
Ils affirment que ces lacunes « constituent une menace pour la souveraineté nationale des États dans lesquels ils sont distribués et pour la sécurité des utilisateurs ».
Les experts appellent les dirigeants mondiaux et les géants de la technologie à donner la priorité au multilinguisme dans le développement de l’IA, en le considérant non pas comme une réflexion après coup, mais comme un aspect fondamental de la création d’une IA sûre, équitable et véritablement mondiale.
En janvier, des chercheurs de l’Université Brown ont découvert que les mesures de protection conçues pour empêcher le GPT-4 d’OpenAI de répondre à des invites dangereuses échouaient lorsqu’il recevait des requêtes dans des langues telles que le zoulou ou le gaélique écossais. Cela a permis aux chercheurs d’obtenir des réponses générées par l’IA sur la façon de construire une bombe artisanale.
Cette vulnérabilité a été rendue possible car les instructions ont été données à l’IA dans des langues qui sont pour la plupart absentes de ses données de formation. Les traductions ont été réalisées avec Google Translate.
La publication de la lettre intervient le jour même du début du sommet de la Francophonie et alors que la France se prépare à accueillir le sommet d’action sur l’IA en février.
La France n’a pas caché son intention de devenir un pôle d’IA, le gouvernement investissant dans les superstars de la technologie et de l’IA générative, MistralAI et H Company.
Cependant, les grandes entreprises technologiques publient et développent leurs modèles d’IA en anglais.
Bien que les modèles d’IA soient disponibles dans de nombreuses autres langues, de nombreuses langues locales ne sont pas incluses et les ensembles de données sont généralement formés en anglais.
Les chercheurs estiment que l’approche centrée sur la langue anglaise d’IA peut conduire à des interprétations erronées et à des prises de décision erronées dans divers contextes linguistiques.
Les signataires de la lettre comprennent Mohamed Farahat, vice-président du groupe consultatif multipartite (MAG) du Forum africain sur la gouvernance de l’Internet (AFIGF) et des représentants parmi lesquels l’École polytechnique fédérale de Lausanne et le ministère tunisien de l’Éducation.
« La lettre appelle à des normes internationales pour garantir qu’un système est sûr et bénéfique pour tous les utilisateurs, et elle répond au besoin critique d’évaluations multilingues et multiculturelles », a déclaré Imane Bello, responsable du sommet sur la sécurité de l’IA au Future of Life Institute, à L’Observatoire de l’Europe Next. .
Toutefois, elle a ajouté que cela était également important pour les pays anglophones.
« Si les considérations liées à la sécurité de l’IA multilinguistique ne sont pas intégrées, les travaux actuels et en cours autour de la science des évaluations pourraient passer à côté d’une partie très importante », a-t-elle déclaré.
« La deuxième chose est que le fait de ne pas avoir cet article particulièrement important peut nuire aux communautés vulnérables », a-t-elle ajouté.
