Le rapport soutient que la loi sur l’IA adopte une approche favorable aux entreprises, dans laquelle les questions complexes et relatives aux droits fondamentaux sont laissées entre les mains des organisations de normalisation.
Les grandes entreprises technologiques sont impliquées de manière disproportionnée dans l’élaboration de normes reconnues par l’UE pour les outils d’intelligence artificielle, selon un rapport du groupe de campagne Corporate Europe Observatory (CEO).
Le rapport identifie que plus de la moitié (55 %) des 143 membres participant au comité technique mixte sur l’IA (JTC21) – mis en place par les organismes européens de normalisation CEN et CENELEC – représentent des entreprises ou des cabinets de conseil, dont 54 des premiers et 24 de ces derniers.
Parmi eux, près de 25 % sont des représentants d’entreprises américaines, dont quatre membres chacun de Microsoft et IBM, deux d’Amazon et au moins trois de Google.
En revanche, la participation de la société civile est limitée : elle ne représente que 9 % des membres du JTC21, ce qui, selon le PDG, soulève des inquiétudes quant à l’inclusivité dans le processus d’élaboration des normes.
L’AI Act, la première tentative mondiale de réglementation de l’IA via une approche basée sur les risques, a été approuvée en août dernier et les dispositions commenceront progressivement à s’appliquer.
La Commission européenne a demandé au CEN-CELENEC et à l’ETSI en mai 2023 de préparer les normes sous-jacentes pour l’industrie, qui s’appliqueront à des produits allant des dispositifs médicaux aux jouets. Grâce à ces normes harmonisées, une entreprise peut garantir que son produit est conforme aux exigences essentielles de sécurité énoncées dans les règles de l’UE.
« La décision de la Commission européenne de déléguer l’élaboration des politiques publiques en matière d’IA à un organisme privé est profondément problématique. Pour la première fois, l’établissement de normes est utilisé pour mettre en œuvre des exigences liées aux droits fondamentaux, à l’équité, à la fiabilité et aux préjugés », déclare Bram Vranken, Corporate Europe. Chercheur et militant de l’Observatoire.
Le rapport soutient que la loi sur l’IA adopte une approche favorable aux entreprises, dans laquelle les questions complexes et relatives aux droits fondamentaux sont laissées entre les mains des organisations de normalisation.
Organismes nationaux de normalisation
Les organismes de normalisation ont tendance à se concentrer davantage sur un processus que sur un résultat spécifique. « Cela peut s’avérer insatisfaisant dans la mesure où cela tend à rendre plus difficile l’application d’un résultat », a déclaré le président du JTC21, Sebastian Hallensleben, dans le rapport.
Un système d’IA peut avoir un marquage CE, que les entreprises reçoivent en suivant les processus définis dans les normes harmonisées, mais cela ne garantira pas que le système d’IA ne sera pas biaisé ou discriminatoire, a-t-il déclaré.
En outre, CEO a examiné l’adhésion à des organismes nationaux de normalisation travaillant sur l’IA en France, au Royaume-Uni et aux Pays-Bas. Dans ces pays, la part des experts représentant les intérêts des entreprises est respectivement de 56 %, 50 % et 58 %, selon le rapport.
La Commission a déclaré en réponse aux préoccupations du PDG que les normes délivrées par le CEN-CENELEC « seront soumises à une évaluation par la Commission européenne et ne seront citées au Journal officiel que si elles répondent correctement aux objectifs de la loi sur l’IA et reflètent de manière adéquate les exigences pour les systèmes d’IA à haut risque.
« En outre, un certain nombre d’autres garanties existent pour garantir un certain contrôle sur le processus, comme la possibilité pour les États membres et le Parlement européen de s’opposer aux normes harmonisées », ajoute le communiqué.
Dans une interview accordée à L’Observatoire de l’Europe publiée le mois dernier, un haut responsable de l’organisme néerlandais de surveillance de la vie privée Autoriteit Persoonsgegevens (AP) – le nouveau régulateur national de l’IA – a averti que le processus d’établissement de normes devra être plus rapide et que le temps « presse ». .
« Les processus de normalisation prennent normalement plusieurs années. Nous pensons certainement que cela doit être intensifié », a-t-il déclaré.
Le président de l’ETSI, Jan Ellsberger, a déclaré à L’Observatoire de l’Europe lors de sa prise de fonction en août, qu’il pourrait s’écouler des mois, voire plusieurs années, avant que les normes soient adoptées.
« La normalisation est une demande volontaire de l’industrie. Plus nous avons d’engagement de la part de l’industrie, plus cela ira vite », a déclaré Ellsberger.
