« Perdre le contrôle d’AGI, c’est comme tomber d’une falaise, auquel cas c’est la fin de la partie pour l’humanité », a prévenu Max Tegmark.
L’influence d’Elon Musk sur le président élu des États-Unis, Donald Trump, pourrait conduire à davantage de normes de sécurité en matière d’intelligence artificielle (IA), a déclaré le scientifique américano-suédois Max Tegmark, qui a également averti que toute course aux armements géopolitiques en matière d’IA entraînerait une « course au suicide » de l’humanité.
S’adressant à L’Observatoire de l’Europe Next lors du Web Summit à Lisbonne, Tegmark, président du Future of Life Institute, a déclaré que l’obtention par les États-Unis d’une réglementation plus stricte en matière de sécurité de l’IA dépendra également de l’écoute de Trump.
« Instinctivement, le Parti républicain a tendance à être très opposé à toute réglementation », a-t-il déclaré, contrairement à Musk qui « a joint le geste à la parole » et a rompu les rangs avec le PDG d’OpenAI, Sam Altman, et Google pour soutenir un projet de loi californien sur l’IA. .
Trump s’est également engagé à abroger un décret de l’administration Biden sur la sécurité de l’IA, mais Tegmark a déclaré que cela ne ferait pas beaucoup de différence dans l’élaboration de normes de sécurité en matière d’IA car il s’agissait d’une « réglementation assez faible ».
La plus grande crainte du scientifique n’est pas l’IA générative, comme ChatGPT, mais plutôt l’intelligence artificielle générale (AGI), un type d’IA qui égale ou dépasse les capacités cognitives humaines, et dont nous pourrions perdre le contrôle.
« Perdre le contrôle d’AGI, c’est comme tomber d’une falaise, auquel cas c’est la fin de la partie pour l’humanité », a déclaré Tegmark.
« Je pense que cela fera une grande différence si Trump écoute davantage Elon (Musk) sur ce sujet ou davantage ses intentions anti-réglementation », a-t-il ajouté.
Qu’est-ce que l’intelligence artificielle générale ?
AGI, considéré comme le « Saint Graal » par les entreprises technologiques, a été mis en avant par Altman, parmi d’autres figures de proue de la technologie qui tentent de lever des fonds.
Pour Altman, l’AGI est définie comme une forme hypothétique d’intelligence artificielle capable de résoudre n’importe quelle tâche humaine grâce à des méthodes non limitées à sa formation. Altman a déclaré que cela pouvait « élever l’humanité » et ne fait pas référence à la prise en charge par les machines.
Le PDG d’OpenAI a déclaré qu’AGI pourrait arriver dès l’année prochaine, tandis que de nombreux autres ont prédit son arrivée au cours de la prochaine décennie.
« Beaucoup de gens s’accrochent maintenant à la marque AGI pour faire du battage publicitaire et tentent de la redéfinir comme étant ce qu’ils vendent actuellement, ou qu’ils construisent maintenant pour pouvoir collecter des fonds », a déclaré Tegmark.
Il a déclaré que la définition originale de l’AGI remonte aux années 1950, qui la définit comme une IA capable d’effectuer tous les travaux humains, ce qui signifie que l’IA pourrait remplacer les travailleurs humains et également développer et construire les machines AGI elles-mêmes.
« On ne parle plus seulement d’une nouvelle technologie comme les machines à vapeur ou Internet. Vous parlez d’une nouvelle espèce. C’est pourquoi c’est si important », a déclaré Tegmark.
La prise de contrôle des machines est le résultat par défaut, selon une prédiction faite dans les années 1950 par l’informaticien Alan Turing.
Turing a déclaré à l’époque que ce résultat était lointain et a créé un ensemble de tests pour montrer quand le moment était proche, appelé à l’origine le « jeu d’imitation », mais maintenant appelé le test de Turing.
Le test vise à déterminer si une machine présente une intelligence semblable à celle d’un humain en répondant à une série de questions posées par un humain. L’humain ne sait pas si les réponses sont fournies par une machine ou par un humain.
Selon certains chercheurs, le test a été réussi l’année dernière.
Cependant, AGI n’existe pas pour le moment et on ne sait pas quand elle existera, ni même si elle existera un jour, malgré le battage médiatique des entreprises.
Une course aux armements pour l’IA
Selon Tegmark, outre la course aux entreprises en matière d’IA, il existe également une course aux armements en matière d’IA.
« Il y a une course aux armements aux États-Unis entre différentes entreprises et la seule façon d’y mettre un terme est, bien sûr, d’avoir des normes de sécurité nationales aux États-Unis », a-t-il déclaré.
Trump a laissé entendre que l’avance des États-Unis en matière d’IA serait une priorité pour son gouvernement.
« Nous devons être à l’avant-garde… Nous devons prendre les devants sur la Chine », a-t-il déclaré sur le podcast Impaulsive en juin.
« Il y a la course géopolitique (IA). Et là, tout le cadre est faux parce qu’il ne s’agit pas réellement d’une course aux armements, construire d’abord l’AGI, c’est juste une course au suicide », a déclaré Tegmark.
« Il n’y a personne pour contrôler ce genre de choses ».
« Si vous parvenez à disparaître, peu importe si vous êtes chinois, français ou américain », a-t-il ajouté.
Il est essentiel de mettre en place des réglementations adaptées à chaque pays, a-t-il déclaré, plutôt que de devoir conclure des accords entre les pays.
« Ma vision du succès ici est beaucoup plus simple. C’est que les Chinois décident d’imposer des normes de sécurité nationales en Chine pour empêcher leurs entreprises chinoises de causer des dommages. Nous, Américains, avons simplement imposé des normes de sécurité nationales aux États-Unis, non pas pour apaiser la Chine, mais simplement pour leurs propres objectifs », a déclaré Tegmark.
Une fois que cela se produira théoriquement, les États-Unis et la Chine seront incités à pousser leurs alliés mondiaux à les rejoindre.
« Je suis en fait assez optimiste que nous obtiendrons (des normes de sécurité) à l’échelle mondiale. Et puis nous entrons dans une phase vraiment merveilleuse de l’histoire humaine où nous avons cette ère d’abondance et de prospérité incroyables où nous disposons de toute cette technologie étonnante », a-t-il déclaré.
« Les entreprises seront capables d’innover pour aider à guérir le cancer, à éliminer la pauvreté et les décès inutiles sur les routes, ainsi que toutes les choses merveilleuses dont nous entendons parler parmi les gens et les entrepreneurs », a-t-il déclaré.
