L’éducation a une obligation particulière d’être finement adaptée aux risques de l’IA. En ce moment, nous ne devons pas être tellement éblouis par ses sauts évolutifs que nous ignorons ces risques, écrit Stefania Giannini.
L’utilisation de l’IA générative dans les écoles se déploie à un rythme rapide, avec un manque inquiétant de contrôles, de règles ou de réglementations.
Je suis convaincu que ces outils d’IA ouvrent de nouveaux horizons pour l’éducation, ce qui peut profiter aux apprenants et aux enseignants.
Dans le même temps, je suis préoccupé par le fait que leur adoption se fait souvent sans aucun examen, même si la capacité de biais et d’erreurs factuelles graves de ces outils est un fait largement reconnu.
L’IA peut être exploitée, contrairement aux suggestions populaires
Pourquoi les freins et contrepoids « normaux » appliqués aux supports pédagogiques ne sont-ils pas appliqués à l’utilisation de l’IA générative telle que ChatGPT en classe ?
Dans une certaine mesure, l’IA générative est un mystère pour ses concepteurs ; Les grands modèles d’IA en langage qui alimentent l’IA sont souvent décrits comme « expérimentaux » par leurs développeurs.
Si leurs propres créateurs ne comprennent pas encore pourquoi les grands modèles de langage hallucinent les faits, alors nous devons nous arrêter maintenant et faire une pause pour réfléchir avant de libérer cette technologie sur les apprenants.
La sphère de l’éducation est celle dans laquelle un régulateur devrait exercer un contrôle, même si, aujourd’hui, cela ne se produit pas dans le marché libre.
L’utilisation de l’IA peut être exploitée ou limitée, comme c’est le cas pour d’autres technologies, même s’il est devenu populaire de suggérer que ce n’est en quelque sorte pas faisable.
Nous avons des règles strictes dans de nombreux pays qui contrôlent et restreignent l’utilisation de technologies connues pour être dangereuses ou qui sont encore trop récentes pour justifier une diffusion large ou incontrôlée.
Bien que ces règles ne soient pas toujours parfaites, elles sont assez efficaces.
Nous devrions nous préoccuper des écoles sans enseignants et de l’éducation sans école
En mai, une enquête mondiale de l’UNESCO auprès de plus de 450 écoles et universités a révélé que moins de 10 % avaient élaboré des politiques institutionnelles ou des orientations formelles sur l’utilisation des applications génératives d’IA.
Dans la plupart des pays, le temps, les étapes et les autorisations nécessaires pour valider un nouveau manuel dépassent de loin ceux requis pour déplacer les utilitaires d’IA générative dans les écoles et les salles de classe.
Les manuels scolaires sont généralement évalués pour l’exactitude du contenu, l’adéquation à l’âge, la pertinence de la pédagogie et l’exactitude du contenu.
De plus, ils sont évalués pour leur adéquation culturelle et sociale, ce qui comprend des vérifications pour se protéger contre les préjugés, avant d’être utilisés en classe.
Alors que nous voyons tous l’impact positif des parcours d’apprentissage personnalisés, qu’il s’agisse de contenu, de méthodologie d’enseignement ou de pédagogie, je crains que l’arrivée soudaine de nouveaux outils d’IA générative n’accélère une tendance à l’automatisation de l’apprentissage : écoles sans enseignant et école- moins d’éducation.
Au lieu de cela, nous devrions conduire pour l’exact inverse d’un avenir aussi dystopique ; nous devons élever le statut des enseignants et ne jamais douter de l’importance cruciale de la fréquentation scolaire.
Accès, créativité et imagination
L’éducation est un acte profondément humain ancré dans l’interaction sociale. Ainsi, l’éducation devrait utiliser la technologie pour renforcer la créativité et l’imagination des apprenants.
Il devrait également être utilisé pour permettre aux enseignants de faciliter l’accès à de multiples sources d’informations et de connaissances tout en donnant la priorité à l’apprentissage et aux compétences socio-émotionnels.
Pendant la pandémie de COVID-19, lorsque la technologie numérique est devenue le principal moyen d’éducation, nous avons été témoins de la souffrance de nombreux étudiants à la fois sur le plan scolaire, mental et social.
L’investissement dans les écoles et dans les enseignants est le seul moyen de résoudre le problème qu’aujourd’hui, à l’aube de l’ère de l’IA, plus de 750 millions de personnes ne savent toujours pas lire ou écrire un SMS.
Les preuves montrent que de bonnes écoles et de bons enseignants peuvent résoudre ce défi éducatif persistant – pourtant, le monde continue de les sous-financer.
Au cours de ma carrière, j’ai été témoin d’au moins quatre révolutions numériques : l’avènement et la prolifération des ordinateurs personnels ; l’expansion d’Internet et de la recherche ; l’essor des médias sociaux; et l’omniprésence croissante de l’informatique mobile et de la connectivité.
Internet et les ordinateurs portables n’ont pas été immédiatement accueillis dans les écoles dès leur invention. Nous avons découvert des moyens productifs de les intégrer, mais ce n’était pas un processus du jour au lendemain.
Les sauts évolutifs éblouissants de l’IA ne doivent pas nous distraire de ses risques
Le rapport annuel de l’UNESCO sur l’éducation, le Rapport mondial de suivi sur l’éducation axé sur l’utilisation de la technologie dans l’éducation vient d’être publié.
Le rapport exhorte les pays à examiner attentivement l’utilisation de la technologie dans leurs écoles, avertissant que les réglementations génériques peuvent ne pas être suffisantes pour le secteur de l’éducation.
Afin de valider de nouvelles applications complexes d’IA pour une utilisation formelle dans les écoles, l’UNESCO appelle les ministères de l’éducation à renforcer leurs capacités en coordination avec d’autres branches réglementaires du gouvernement, en particulier celles qui réglementent les technologies.
En 2021, l’UNESCO a conduit ses États membres à parvenir à un accord historique sur les principes qui devraient sous-tendre la conception et l’utilisation de l’IA partout dans le monde.
La recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle stipule clairement qu’il est du devoir des gouvernements du monde entier de veiller à ce que l’IA adhère toujours aux principes de sécurité, d’inclusion, de diversité, de transparence et de qualité.
L’éducation a l’obligation particulière d’être finement adaptée aux risques de l’IA – à la fois les risques connus et ceux qui viennent tout juste d’apparaître.
En ce moment, nous ne devons pas être tellement éblouis par ses sauts évolutifs que nous ignorons ces risques, mais grâce à une approche équilibrée de l’IA, nous devrions être en mesure de libérer son potentiel d’amélioration de l’apprentissage et de l’avenir de l’éducation.
