Par Amanda Kavanagh
Entre crainte de pertes d’emploi et inquiétudes en matière de cybersécurité, l’intelligence artificielle (IA) a suscité de nombreux titres négatifs ces dernières années.
C’est également un sujet brûlant au niveau européen et le mois dernier, après 36 heures de négociations, les responsables sont parvenus à un accord provisoire sur des lois globales réglementant l’utilisation de l’IA.
Le principe directeur de ces lois est de réglementer l’IA en fonction de sa capacité à nuire à la société, selon une approche « basée sur le risque ». Ainsi, plus le risque est élevé, plus les règles sont strictes.
En tant que première proposition législative de ce type, ces lois pourraient établir une norme mondiale pour la réglementation de l’IA, tout comme le règlement général sur la protection des données (RGPD) l’a fait pour la confidentialité des données.
Les principaux aspects de l’accord préliminaire comprennent des règles à fort impact pour les modèles d’IA à usage général pouvant entraîner des risques pour le système, ainsi qu’une structure de gouvernance révisée pour les systèmes d’IA à haut risque.
Il inclut une extension des interdictions mais avec la possibilité pour certains organismes chargés de l’application de la loi d’utiliser l’identification biométrique à distance (RBI) dans les espaces publics – les systèmes RBI peuvent identifier les personnes à distance en comparant des attributs biométriques uniques, comme les visages et la démarche, avec des bases de données.
L’accord provisoire prévoit également une meilleure protection des droits, dans la mesure où les déployeurs de systèmes d’IA à haut risque doivent effectuer des évaluations d’impact sur les droits fondamentaux avant le déploiement. Les systèmes d’IA qui présentent très peu de danger seront soumis à des exigences de transparence très minimes, comme par exemple indiquer que le contenu a été créé à l’aide de l’IA.
Bien que la loi sur l’IA soit votée au début de cette année, la législation proprement dite ne sera promulguée qu’en 2025 au plus tôt. Ainsi, même si la loi aura un impact sur les emplois en IA, nous avons tout le temps de nous préparer.
Voici ce que nous savons et quelles entreprises embauchent déjà.
1. Les aspects juridiques et la conformité seront demandés
Étant donné que les systèmes d’IA sont développés et distribués à travers des chaînes de valeur complexes, l’accord comprend des clarifications sur la répartition des responsabilités et les rôles des différents acteurs dans ces chaînes.
Les amendes en cas de violation de la loi sur l’IA seront également élevées et représenteront un montant ou un pourcentage fixe du chiffre d’affaires annuel global de l’entreprise contrevenante de l’exercice précédent.
Cela équivaut à 35 millions d’euros ou 7 pour cent pour l’utilisation d’applications d’IA interdites, 15 millions d’euros ou 3 pour cent pour violation des exigences de la loi sur l’IA et 7,5 millions d’euros ou 1,5 pour cent pour fourniture de fausses informations.
À ce titre, les juristes et les experts en conformité seront des employés particulièrement appréciés dans les organisations d’IA opérant au sein de l’UE.
À Paris, Goldman Sachs recrute un vice-président de la conformité, FICC, doté d’une excellente compréhension des réglementations ACPR/AMF, européennes, européennes et américaines, pour assumer la responsabilité de fournir une interprétation et des conseils réglementaires au sein de l’entreprise, renforçant ainsi sa conformité.
2. Les systèmes d’IA à haut risque seront limités et interdits
Les systèmes d’IA à haut risque seront soumis à des exigences et obligations pour accéder au marché de l’UE, et certains seront interdits de l’UE si le niveau de risque est jugé inacceptable.
Par exemple, l’accord provisoire interdit la manipulation cognitivo-comportementale, la récupération non ciblée d’images faciales sur Internet ou la vidéosurveillance, la reconnaissance des émotions dans l’éducation et sur le lieu de travail, la notation sociale, la catégorisation biométrique pour déduire des données sensibles telles que l’orientation sexuelle ou les croyances religieuses, et certains cas. de police prédictive pour les individus, qui consiste à utiliser les mathématiques et l’analyse prédictive pour identifier les activités criminelles.
Les demandeurs d’emploi prudents dans l’industrie européenne de l’IA se concentreront sur les organisations dont le déploiement de l’IA est à faible risque et sur les entreprises qui ont mené des évaluations proactives des risques.
Dans le cadre de son ambition de faire de SAP le leader du marché de l’IA d’entreprise d’ici 2025, l’organisation recrute pour plusieurs postes, notamment ce consultant senior en stratégie d’IA / expert en stratégie d’IA basé à Berlin qui travaillera avec des équipes interfonctionnelles pour identifier les opportunités, évaluer les risques et les avantages et favoriser l’adoption de solutions d’IA.
3. Les autorités chargées de l’application des lois connaîtront quelques exceptions
En ce qui concerne les outils d’IA à haut risque, il y aura des exceptions pour certaines autorités répressives qui, sous réserve de garanties appropriées, pourront utiliser des systèmes qui n’ont pas passé avec succès la procédure d’évaluation de la conformité, en cas d’urgence.
Les systèmes d’identification biométrique à distance (RBI) en temps réel dans les zones accessibles au public sont un sujet brûlant.
En vertu de cet accord, les responsables de l’application des lois peuvent bénéficier d’autorisations spéciales pour déployer ces systèmes dans des circonstances limitées, par exemple pour prévenir de véritables menaces, telles que des attaques terroristes, et pour rechercher des suspects des crimes les plus graves.
À moins de travailler dans la police ou la défense, les demandeurs d’emploi stratégiques en IA éviteront de se perfectionner dans des systèmes à plus haut risque, où les emplois seront plus limités.
4. Les personnes suremployées pourraient devoir revenir à l’essentiel
Des lignes directrices spécifiques, y compris des exigences de transparence, ont été convenues pour les modèles fondamentaux, qui sont de grands systèmes capables de générer des vidéos, du texte, des images, du code informatique ainsi que des conversations linguistiques latérales.
Cela peut affecter les employés suremployés et occupant deux emplois ou plus à la fois, en raison de l’automatisation des tâches grâce à l’IA.
5. De nouveaux rôles seront disponibles au niveau de l’UE
Un certain nombre de nouveaux postes seront ouverts au niveau de l’UE en matière de gouvernance.
Un nouveau Bureau de l’IA appliquera les nouvelles règles, supervisera les modèles d’IA les plus avancés et contribuera à promouvoir les normes et les pratiques de test.
Ce bureau sera guidé par un panel scientifique d’experts indépendants et un conseil d’IA composé de représentants des États membres.
De plus, un forum consultatif sera créé pour fournir une expertise technique au Conseil d’IA, et comprendra des représentants de l’industrie, des PME, des start-ups, de la société civile et du monde universitaire.
6. Il vise à stimuler l’innovation en matière d’IA
Plusieurs mesures de soutien à l’innovation ont été considérablement modifiées dans l’accord, notamment la précision selon laquelle les bacs à sable réglementaires de l’IA devraient également permettre de tester des systèmes d’IA innovants dans des conditions réelles, sous des conditions et des garanties spécifiques.
Plus précisément, il comprend une liste d’actions à entreprendre pour alléger le fardeau administratif des petites entreprises. La multinationale américaine innovante Intel recrute un ingénieur en frameworks d’IA pour travailler sur son campus de Leixlip, près de la capitale irlandaise. Le candidat retenu sera responsable de la création de flux de travail d’apprentissage automatique et de l’infrastructure nécessaire pour produire des modèles d’IA et les maintenir en production.
Si vous recherchez une opportunité en IA en 2024, consultez le L’Observatoire de l’Europe Jobs Board pour les entreprises qui embauchent maintenant.
