Le Sommet du futur de l’ONU a placé la gouvernance des technologies et de l’IA en tête de l’agenda mondial de l’organisme multinational.
L’Organisation des Nations Unies (ONU) a publié le premier cadre mondial complet pour la coopération numérique et la gouvernance de l’intelligence artificielle (IA).
Cette initiative s’inscrit dans le cadre du « Pacte pour l’avenir » annoncé dimanche par l’Assemblée générale des Nations Unies, qui vise à constituer un « changement radical vers un multilatéralisme plus efficace, inclusif et en réseau », selon le secrétaire général de l’ONU, Antonio Guterres.
Le Pacte numérique mondial, annexé au Pacte pour l’avenir et adopté sans vote, engage les principaux acteurs mondiaux à discuter de la manière de gouverner l’IA et des responsabilités des entreprises technologiques.
Voici un aperçu de ce que le document de 66 pages et les 56 grandes actions signifient pour la technologie.
À propos de l’IA
Le Pacte numérique appelle à une gouvernance de l’IA avec une feuille de route qui comprend un panel scientifique international et un dialogue politique mondial sur l’IA.
Pour les entreprises technologiques, le Pacte les appelle à améliorer la transparence et la responsabilité de leurs systèmes, ce qui inclut la modération du contenu et le traitement des données personnelles des utilisateurs.
Elle exhorte également les entreprises technologiques à développer des solutions et à communiquer publiquement des actions pour contrer les dommages potentiels – tels que les discours de haine et la discrimination – causés par le contenu de l’IA.
Toutefois, le document ne précise pas si les entreprises doivent être transparentes sur les ensembles de données sur lesquels l’IA est formée, mais indique que toute mesure devrait inclure l’incorporation de mesures de protection dans les processus de formation des modèles d’IA, l’identification du matériel généré par l’IA, la certification de l’authenticité du contenu et des origines, l’étiquetage, le filigrane et d’autres techniques.
Le document appelle également à l’utilisation de technologies open source et d’innovation ouverte. Cela signifie que les conceptions des entreprises technologiques seraient accessibles au public. On ne sait pas exactement comment cela fonctionnerait avec des entreprises comme OpenAI, qui sont des entreprises à code source fermé.
L’exigence d’open source ne s’applique pas uniquement à l’IA et servirait à développer le savoir-faire nécessaire aux Objectifs de développement durable des Nations Unies, en particulier dans les pays en développement.
Sur Internet et la fracture numérique
Le Pacte affirme son engagement à connecter tout le monde à Internet et reconnaît que cela nécessiterait des investissements financiers accrus dans les pays en développement de la part des gouvernements et d’autres parties prenantes, en particulier du secteur privé.
Cela comprendrait des satellites et des initiatives de réseaux locaux, qui fourniraient une couverture réseau sûre et sécurisée à toutes les zones, y compris les zones rurales, éloignées et « difficiles d’accès ».
En plus de permettre à tout le monde d’accéder à Internet, le Pacte définit également l’ambition d’établir une stratégie nationale de compétences numériques, qui comprend l’éducation à l’ère numérique, et d’augmenter les plateformes technologiques numériques abordables.
« Notre objectif est de couvrir au maximum les compétences numériques de base pour le plus grand nombre possible, tout en faisant progresser les compétences numériques intermédiaires ou avancées », indique le document.
Il vise également à combler les fractures numériques et à encourager la coopération Nord-Sud, Sud-Sud et triangulaire, notamment entre les universités, les instituts de recherche et le secteur privé, afin d’accélérer le développement des connaissances numériques et l’accès aux capacités de recherche.
Un engagement a été pris pour soutenir la participation des femmes et des filles aux matières STEM (sciences, technologie, ingénierie et mathématiques).
À propos des entreprises technologiques et de la protection des enfants
Le Pacte affirme qu’il est urgent de lutter contre toutes les formes de violence, y compris la violence sexuelle et sexiste, qui se produit ou est « amplifiée par l’utilisation de la technologie ».
Elle appelle également à agir contre les discours de haine et la discrimination, la mésinformation et la désinformation, la cyberintimidation et l’exploitation et les abus sexuels sur les enfants.
Ce document intervient alors que les plateformes de médias sociaux subissent une forte pression pour protéger les jeunes utilisateurs sur les réseaux sociaux.
En janvier, le patron de Meta, Mark Zuckerberg, a présenté ses excuses devant le Congrès américain aux familles d’enfants qui avaient été abusés ou exploités sexuellement sur ses plateformes.
Le Pacte appelle également les entreprises de technologie et de médias sociaux à mettre en place des mécanismes de signalement sûrs et sécurisés permettant aux utilisateurs de signaler d’éventuelles violations des politiques, y compris des mécanismes de signalement spéciaux adaptés aux enfants et aux personnes handicapées.
Enfin, l’ONU espère que les médias sociaux et les entreprises technologiques amélioreront la transparence et la responsabilité de leurs systèmes, notamment en ce qui concerne les conditions de service, la modération du contenu et les algorithmes de recommandation, ainsi que la gestion des données personnelles des utilisateurs dans les langues locales.
Est-ce que ça marchera ?
Alors que l’ONU inscrit à son ordre du jour un engagement mondial en faveur de la gouvernance des données, le Pacte et le Pacte ne sont pas tous deux contraignants, ce qui signifie qu’il n’est pas certain qu’ils soient mis en œuvre par les États membres de l’ONU.
Le président de l’Assemblée générale, Philémon Yunji, a souligné que le Pacte « jetterait les bases d’un ordre mondial durable, juste et pacifique – pour tous les peuples et toutes les nations ».
