Tandis que nous nous efforçons d’élaborer de nouvelles lois pour régir l’IA elle-même, il est impératif que nous formions les juges, les procureurs et les fonctionnaires afin qu’ils puissent nous protéger dès maintenant des méfaits liés à l’IA, écrit Tawfik Jelassi.
Le moment est enfin venu, nous sommes enfin tous sur la même longueur d’onde : il est temps d’adopter une réglementation éthique et fondée sur les droits de l’homme de l’intelligence artificielle.
Les perturbations causées par l’IA générative ont contraint les pays et les entreprises à s’asseoir et à en prendre conscience.
Cette année, les décideurs politiques du monde entier ont soudainement pris conscience des dommages que l’utilisation non réglementée de l’IA peut causer. De plus, le secteur privé, hésitant par le passé à l’égard de la réglementation, est désormais favorable à une surveillance gouvernementale du déploiement des systèmes d’IA.
L’UE et les pays d’Amérique du Nord progressent dans la définition de principes de réglementation et proposent des lois pour relever certains des défis les plus urgents.
Cela prendra du temps
La Recommandation de l’UNESCO sur l’éthique de l’IA, adoptée par les 193 États membres de l’UNESCO fin 2021, sert de modèle complet et solide pour construire des régimes de réglementation fondés sur des valeurs et des principes universellement acceptés.
Les gouvernements du monde entier étudient des mesures réglementaires pour gérer les risques liés à l’utilisation de l’IA.
Cette année, l’UNESCO aidera 50 pays à concevoir des politiques éthiques en matière d’IA. Pour que ces nouvelles politiques soient mises en œuvre efficacement, le terrain doit être minutieusement préparé.
L’UNESCO évaluera d’abord la résilience des lois nationales existantes, puis évaluera les capacités techniques des fonctionnaires et des institutions.
Le Chili avance dans ce processus et a dévoilé en juin 2023 une nouvelle stratégie en matière d’IA, développée main dans la main avec l’UNESCO. Mais il faut du temps pour bâtir des réglementations et des institutions solides.
Les juges peuvent agir immédiatement
Alors, comment protéger la personne faussement identifiée par la technologie de reconnaissance faciale déployée par la police ou l’artiste qui estime que sa propriété intellectuelle a été volée par les développeurs d’IA générative ?
Eh bien, les juges et les procureurs ont un rôle essentiel à jouer ; ils peuvent créer de puissants précédents juridiques dans leurs jugements sur des cas individuels, permettant ainsi à un pays de faire un bond en avant dans un domaine particulier du droit.
Des affaires judiciaires récentes ont montré que le pouvoir judiciaire peut s’appuyer sur le droit international des droits de l’homme, les garanties constitutionnelles et les lois sur la protection des données pour se prémunir contre les systèmes d’IA discriminatoires et biaisés.
L’Institut brésilien pour la protection des consommateurs a contesté l’utilisation de panneaux d’affichage intelligents prétendant anticiper l’émotion, l’âge et le sexe des usagers du métro afin de leur fournir de « meilleures publicités ». Les tribunaux ont infligé une amende à la ligne de métro pour violation de la vie privée des usagers.
L’autorité italienne de protection des données a infligé une amende à une application de livraison de nourriture pour avoir utilisé des systèmes de prise de décision automatisés discriminatoires à l’encontre de ses livreurs et pour ne pas avoir respecté les normes appropriées de transparence et de confidentialité.
Et dans un arrêt historique, la Cour européenne des droits de l’homme a statué que l’utilisation de la technologie de reconnaissance faciale par un État pour localiser et arrêter un manifestant pacifique viole le droit de l’individu à la vie privée et à la liberté d’expression.
Si les juges veulent jouer efficacement ce rôle vital, nous devons renforcer leurs connaissances et leur compréhension du fonctionnement des systèmes d’IA et de la manière dont le droit international des droits de l’homme peut être appliqué à l’IA.
L’UNESCO a jusqu’à présent formé plus de 5 400 acteurs judiciaires de plus de 140 pays sur les avantages, les défis et les risques des systèmes d’IA afin de les soutenir dans leur rôle de défenseurs des droits de l’homme et des libertés fondamentales.
Fonctionnaires : Gouverner l’IA au quotidien et développer la régulation
Les gouvernements utilisent de plus en plus les systèmes d’IA pour améliorer la prestation de services publics, améliorant ainsi la répartition de la protection sociale. Cependant, les biais des algorithmes peuvent avoir des conséquences mortelles.
En Australie, le système « Robodebt », utilisé pour détecter la fraude dans les versements d’aide sociale aux bénéficiaires, a refusé à tort l’aide sociale à des milliers de personnes en raison d’un algorithme mal conçu, poussant certains à s’endetter sérieusement.
Aux Pays-Bas, un système similaire de lutte contre la fraude fiscale qualifiait à tort les individus de frauduleux.
Il existe un besoin urgent de développer les compétences en IA dans les organismes publics, afin de garantir une utilisation responsable de l’intelligence artificielle au sein du gouvernement et d’orienter sa gouvernance.
L’année dernière, l’UNESCO a lancé le cadre définitif sur les aptitudes et les compétences dont les fonctionnaires ont besoin pour gérer les technologies numériques. Nous soutenons désormais les pays dans leur parcours de transformation numérique grâce à notre programme de renforcement des capacités.
Alors que nous nous efforçons d’élaborer de nouvelles lois pour régir l’IA, ce qui est un projet à long terme, il est impératif que nous formions les juges, les procureurs et les fonctionnaires, afin qu’ils puissent nous protéger dès maintenant des méfaits liés à l’IA.
