Les modèles GenAI doivent répondre à des questions sur des sujets politiques sensibles et sur le président Xi Jinping.
Les entreprises d’intelligence artificielle (IA) en Chine sont testées par le gouvernement pour voir si leurs grands modèles linguistiques (LLM) « incarnent les valeurs socialistes fondamentales », selon un rapport.
Selon le Financial Times (FT), les start-ups comme les grandes entreprises technologiques telles que ByteDance, propriétaire de TikTok, et Alibaba seront examinées par le principal régulateur d’Internet du gouvernement, l’Administration du cyberespace de Chine (CAC).
Les responsables du CAC testeront les modèles d’IA pour leurs réponses aux questions liées aux sujets politiques et au président Xi Jinping, entre autres.
Cette réglementation a conduit les chatbots les plus populaires de Chine à refuser les questions sur des sujets tels que les manifestations de la place Tiananmen de 1989.
Les pays tentent d’établir un modèle pour la réglementation de l’IA et la Chine a été parmi les premiers à établir des règles pour régir l’IA générative (GenAI), qui comprenaient des exigences telles que l’adhésion aux « valeurs fondamentales du socialisme ».
Une société d’IA en Chine a déclaré au FT que son modèle n’avait pas passé la première série de tests pour des raisons qui n’étaient pas claires, mais qu’il y était parvenu après avoir « deviné et ajusté » le modèle.
Le rapport indique que le « filtrage de sécurité », qui consiste à supprimer les « informations problématiques » des données de formation du modèle d’IA, puis à ajouter une base de données de mots sensibles, est le moyen de répondre aux exigences de la politique de censure.
Les ensembles de formation de données sont plus problématiques pour respecter les règles car la plupart des LLM sont formés sur des données en anglais, ont déclaré les ingénieurs au FT.
Le CAC tente de trouver un équilibre entre faire de la Chine un leader compétitif en matière d’IA et satisfaire aux convictions socialistes du gouvernement.
Les services GenAI ont besoin d’une licence pour fonctionner et s’ils sont reconnus comme fournissant du contenu « illégal », ils doivent prendre des mesures pour cesser de générer ce contenu et le signaler à l’autorité compétente, a déclaré la CAC l’année dernière.
Malgré la réglementation, la Chine est le pays qui a déposé le plus de brevets GenAI au monde, ByteDance et la start-up Zhipu développant leurs propres chatbots d’IA générative.
