La Commission européenne s’est révélée être un régulateur efficace dans le passé. Une interdiction générale du FRT dans les forces de l’ordre ne profitera qu’aux criminels, écrivent Tony Porter et le Dr Nicole Benjamin Fink.
La loi sur l’IA de l’UE a franchi un obstacle majeur à la mi-juin lorsque les législateurs du bloc ont donné le feu vert à ce qui sera les premières règles mondiales sur l’intelligence artificielle.
Mais une proposition se distingue : une interdiction totale de la technologie de reconnaissance faciale, ou FRT.
Si elle est maintenue, cette règle bandera les yeux des forces de l’ordre qui font un travail vital pour protéger les plus vulnérables de la société. Cela encouragera les groupes criminels tels que ceux qui font le trafic d’animaux sauvages et de victimes humaines, mettant ainsi des vies en danger.
Toutes les capacités de surveillance empiètent dans une certaine mesure sur les droits de l’homme. La question est de savoir si nous pouvons réglementer efficacement l’utilisation du FRT pour atténuer tout impact sur ces droits.
La protection de la vie privée par rapport à la protection des personnes est un équilibre que les législateurs européens peuvent et doivent trouver. Une interdiction générale est l’option facile, mais pas responsable.
Les problèmes de confidentialité doivent être confrontés à la réalité
Les députés européens ont voté à une écrasante majorité en faveur d’une interdiction de l’utilisation du FRT en direct dans les espaces accessibles au public, et d’une interdiction similaire de l’utilisation du FRT « après l’événement » à moins qu’une ordonnance judiciaire ne soit obtenue.
Aujourd’hui, l’attention s’est sans aucun doute tournée vers des négociations en trilogue houleux entre le Parlement européen, le Conseil européen et les États membres.
FRT utilise essentiellement des caméras alimentées par des algorithmes d’intelligence artificielle pour analyser les traits du visage d’une personne, permettant potentiellement aux autorités de faire correspondre des individus à une base de données d’images préexistantes, afin de les identifier.
Les militants de la protection de la vie privée soutiennent depuis longtemps que les avantages potentiels de l’utilisation de ces technologies ne valent pas l’impact négatif sur les droits de l’homme. Mais bon nombre de ces arguments ne résistent pas à l’examen. en fait, ils sont basés sur des mythes définitivement démystifiés.
La première est que la technologie est inexacte et qu’elle désavantage de manière disproportionnée les personnes de couleur.
Cela a peut-être été le cas des toutes premières itérations de la technologie, mais ce n’est certainement pas le cas aujourd’hui. Corsight a été étalonné par le National Institute of Standards and Technology (NIST) des États-Unis avec un taux de précision de 99,8 %, par exemple.
Par ailleurs, un rapport du NIST de 2020 a affirmé que la FRT fonctionnait beaucoup plus efficacement dans tous les groupes raciaux et démographiques que largement rapporté, les technologies les plus précises affichant des différences «indétectables» entre les groupes.
Il est également faussement prétendu que le FRT est inefficace. En effet, Interpol a déclaré en 2021 avoir pu identifier près de 1 500 terroristes, criminels, fugitifs, personnes d’intérêt et personnes disparues depuis 2016 grâce au FRT. Ce chiffre devrait avoir augmenté de façon exponentielle depuis.
Un dernier mythe, selon lequel le FRT empiète sur les droits de l’homme tels qu’ils sont consacrés par la Convention européenne du même nom, a été effectivement renversé par la Cour d’appel de Londres. Dans cette affaire de 2020, les juges ont statué que la numérisation des visages et la suppression instantanée des données si aucune correspondance ne peut être trouvée ont un impact négligeable sur les droits de l’homme.
Il s’agit d’arrêter les trafiquants
D’autre part, s’il est utilisé conformément à des réglementations strictes, un FRT de haute qualité a la capacité de sauver d’innombrables vies et de protéger les personnes et les communautés contre les dommages.
La traite des êtres humains est un commerce de la misère qui permet l’exploitation sexuelle, le travail forcé et d’autres crimes odieux. On estime qu’il affecte des dizaines de millions de personnes dans le monde, y compris des enfants.
Mais si des images faciales de victimes connues ou de trafiquants sont filmées, la police pourrait être alertée en temps réel pour intervenir.
Étant donné que les trafiquants font généralement de grands efforts pour cacher leur identité et que les victimes – en particulier les enfants – possèdent rarement des pièces d’identité officielles, le FRT offre une rare opportunité de faire la différence.
Le trafic d’espèces sauvages est également clandestin. Il s’agit d’un commerce mondial estimé il y a de nombreuses années à 20,9 milliards d’euros – la quatrième activité illégale au monde après le trafic d’armes, de drogue et d’êtres humains.
Avec une grande partie du commerce effectué par des syndicats criminels en ligne, il existe une piste de preuves potentielle si les enquêteurs peuvent faire correspondre les images faciales d’animaux victimes de la traite aux images publiées ultérieurement sur les réseaux sociaux.
Les acheteurs peuvent alors être interrogés pour savoir à qui ils se sont procuré un animal particulier. Des applications voient déjà le jour pour aider à suivre les trafiquants d’espèces sauvages de cette manière.
Il y a une meilleure façon d’avancer
Compte tenu de ce qui est en jeu ici, les législateurs européens devraient réfléchir aux moyens de tirer parti d’une technologie éprouvée pour aider à réduire les dommages sociétaux – mais d’une manière qui atténue les risques pour les droits de l’homme.
La bonne nouvelle est que cela peut être fait avec les bons garde-fous réglementaires. En fait, la loi sur l’IA de l’UE fournit déjà une excellente base pour cela, en proposant une norme d’excellence pour les technologies d’IA à laquelle le FRT pourrait être tenu.
Sur cette base, le FRT devrait être conservé comme outil opérationnel partout où il existe un risque « substantiel » pour le public et une base légitime pour protéger les citoyens contre les préjudices.
Son utilisation doit toujours être nécessaire et proportionnée à ce besoin pressant, et soumise à une évaluation rigoureuse des droits de l’homme.
Un contrôle éthique et réglementaire indépendant doit bien sûr être appliqué, avec la mise en place d’une autorité de contrôle centralisée. Et des politiques claires devraient être publiées, détaillant les utilisations proposées.
Les communautés touchées doivent être consultées et les données publiées détaillant le succès ou l’échec des déploiements et des évaluations des droits de l’homme.
La Commission européenne s’est révélée être un régulateur efficace dans le passé. Alors, régulons le FRT. Une interdiction générale ne profitera qu’aux criminels.
