Il y a eu un tollé lorsque des politiciens de la ville brésilienne de Porto Allegre ont découvert que la loi qu’ils avaient promulguée avait été écrite par le chatbot populaire d’OpenAI.
Les législateurs municipaux du Brésil ont adopté ce qui semble être la première législation du pays entièrement écrite par l’intelligence artificielle (IA), même s’ils ne le savaient pas à l’époque.
L’ordonnance expérimentale a été adoptée en octobre dans la ville méridionale de Porto Alegre et le conseiller municipal Ramiro Rosário a révélé cette semaine qu’elle avait été rédigée par un chatbot, suscitant des objections et soulevant des questions sur le rôle de l’IA dans les politiques publiques.
Rosário a déclaré à l’Associated Press qu’il avait demandé au chatbot ChatGPT d’OpenAI d’élaborer une proposition visant à empêcher la ville de facturer aux contribuables le remplacement des compteurs de consommation d’eau en cas de vol.
Il l’a ensuite présenté à ses 35 pairs du conseil sans y apporter un seul changement ni même leur faire connaître son origine inédite.
« Si je l’avais révélé auparavant, la proposition n’aurait certainement pas été soumise au vote », a déclaré Rosário à l’AP.
Le conseil composé de 36 membres l’a approuvé à l’unanimité et l’ordonnance est entrée en vigueur le 23 novembre.
« Il serait injuste envers la population de courir le risque que le projet ne soit pas approuvé simplement parce qu’il a été écrit par l’intelligence artificielle », a-t-il ajouté.
Créer un « dangereux précédent »
L’arrivée de ChatGPT sur le marché il y a tout juste un an a déclenché un débat mondial sur les impacts des chatbots potentiellement révolutionnaires basés sur l’IA.
Bien que certains y voient un outil prometteur, il a également suscité des inquiétudes quant aux impacts involontaires ou indésirables des tâches de manipulation d’une machine actuellement effectuées par des humains.
Porto Alegre, avec une population de 1,3 million d’habitants, est la deuxième plus grande ville du sud du Brésil.
Le président du conseil municipal, Hamilton Sossmeier, a découvert que Rosário avait demandé à ChatGPT de rédiger la proposition lorsque le conseiller municipal s’est vanté de cette réussite sur les réseaux sociaux mercredi.
Sossmeier a d’abord déclaré aux médias locaux qu’il pensait qu’il s’agissait d’un « précédent dangereux ».
Les grands modèles de langage d’IA qui alimentent les chatbots comme ChatGPT fonctionnent en essayant à plusieurs reprises de deviner le mot suivant dans une phrase et ont tendance à inventer de fausses informations, un phénomène parfois appelé hallucination.
Tous les chatbots introduisent parfois de fausses informations lors de la synthèse d’un document, allant d’environ 3 % du temps pour le modèle GPT le plus avancé à un taux d’environ 27 % pour l’un des modèles de Google, selon une étude récemment publiée par la société technologique Vectara. .
Dans un article publié sur le site Web du Center of Legal Profession de la Harvard Law School plus tôt cette année, Andrew Perlman, doyen de la Suffolk University Law School, a écrit que ChatGPT « pourrait présager un changement encore plus important que l’avènement d’Internet », mais aussi a mis en garde contre ses éventuelles lacunes.
« Il n’est pas toujours possible de rendre compte des nuances et des complexités de la loi.
« Étant donné que ChatGPT est un système d’apprentissage automatique, il peut ne pas avoir le même niveau de compréhension et de jugement qu’un avocat humain lorsqu’il s’agit d’interpréter les principes et les précédents juridiques. Cela pourrait entraîner des problèmes dans les situations où une analyse juridique plus approfondie est nécessaire. requis », a écrit Perlman.
Projet de loi rédigé par ChatGPT aux États-Unis
Rosário de Porto Alegre n’a pas été le premier législateur au monde à tester les capacités de ChatGPT. D’autres l’ont fait de manière plus limitée ou avec des résultats moins positifs.
Dans le Massachusetts, le sénateur démocrate Barry Finegold s’est tourné vers ChatGPT pour l’aider à rédiger un projet de loi visant à réglementer les modèles d’IA, y compris ChatGPT. Déposé plus tôt cette année, il n’a pas encore été voté.
Finegold a déclaré mercredi que ChatGPT peut aider avec certains des éléments les plus fastidieux du processus législatif, notamment la recherche et la citation correctes et rapides des lois déjà en vigueur.
Cependant, il est essentiel que tout le monde sache que ChatGPT ou un outil similaire a été utilisé dans le processus, a-t-il ajouté.
« Nous voulons que le travail généré par ChatGPT soit filigrané », a-t-il déclaré, ajoutant que l’utilisation de l’IA pour aider à rédiger de nouvelles lois est inévitable. « Je suis favorable à ce que les gens utilisent ChatGPT pour rédiger des factures tant que c’est clair ».
Il n’y avait pas une telle transparence dans la proposition de Rosário à Porto Alegre. Sossmeier a déclaré que Rosário n’avait pas informé les autres membres du conseil que ChatGPT avait rédigé la proposition.
Garder secrète l’origine de la proposition était intentionnel. Rosário a déclaré à l’AP que son objectif n’était pas seulement de résoudre un problème local, mais aussi de susciter un débat. Il a déclaré qu’il avait entré une invite de 49 mots dans ChatGPT et que celui-ci avait renvoyé le projet complet de proposition en quelques secondes, y compris les justifications.
« Je suis convaincu que… l’humanité va connaître une nouvelle révolution technologique », a-t-il déclaré. « Tous les outils que nous avons développés en tant que civilisation peuvent être utilisés pour le bien et le mal. C’est pourquoi nous devons montrer comment ils peuvent être utilisés pour le bien ».
Et le président du conseil, qui avait initialement décrié cette méthode, semble déjà convaincu.
« J’ai changé d’avis », a déclaré Sossmeier. « J’ai commencé à lire plus en profondeur et j’ai vu que, malheureusement ou heureusement, cela allait être une tendance ».
