La démocratisation récente des IA génératives semble à première vue faciliter l’accès des individus au savoir. Certaines d’entre elles permettent effectivement d’obtenir très rapidement, facilement et gratuitement une grande quantité d’informations sur de nombreux sujets, qui dans d’autres contextes, auraient pu nécessiter une recherche laborieuse.
En contrepartie, dans le contexte de l’enseignement supérieur, plusieurs caractéristiques ou effets potentiels des IA génératives pourraient avoir un impact négatif sur la relation au savoir des étudiants et, plus particulièrement, sur le développement ou l’exercice de vertus épistémiques chez ces derniers. Les vertus épistémiques sont un « ensemble d’attitudes et de dispositions intellectuelles qui permettent l’acquisition de connaissances robustes et motivent un individu à poursuivre la [recherche de la] vérité. [Ces vertus] permettent aux citoyennes et aux citoyens de porter des jugements critiques et avisés sur les problèmes et les enjeux qui les concernent » [1]. Parmi ces attitudes et dispositions, on trouve notamment l’esprit critique, la curiosité intellectuelle, le goût de la recherche et le sens de l’effort intellectuel nécessaire pour l’entreprendre.
L’enseignement supérieur a notamment pour but de créer un environnement d'apprentissage favorable au développement et à l'expression de ces attitudes chez les étudiants et les étudiantes. On pense notamment à leur esprit critique vis-à-vis des connaissances, par exemple en attirant leur attention sur les différents types d’informations disponibles en ligne. Les étudiants en enseignement supérieur apprennent entre autres à attribuer un niveau de crédibilité à différentes sources et à faire la distinction entre les opinions, les témoignages et les résultats de recherche qui proviennent des différentes disciplines scientifiques [2].
Opacité des algorithmes et esprit critique
Or, plusieurs IA génératives, dont ChatGPT, ne fournissent pas de sources ni de références précises pour appuyer le contenu original qu’elles génèrent [3], et il peut s’avérer difficile de comprendre tous les paramètres qui guident la création de ce contenu. On parle d’opacité des algorithmes (ou de boîte noire) pour désigner la difficulté voire l’impossibilité d’expliquer et de retracer le chemin décisionnel ayant mené à un certain résultat. L’opacité peut avoir plusieurs origines, dont la complexité du fonctionnement des modèles d'apprentissage automatique et le manque de littératie numérique [4] des individus. Elle peut aussi découler du manque de transparence des développeurs de ces IA, notamment sur les instructions composant le programme informatique (« code source ») et la provenance, la création et l'utilisation des jeux de données d'apprentissage automatique. Certains auteurs parlent ainsi d’« encapsulation » des connaissances pour désigner le fait que « les connaissances sont incorporées dans les modèles prédictifs [opaques] ». Ce phénomène tendrait « à créer une asymétrie, en termes de connaissances, entre les systèmes d’IA et les individus », puisque qu’il devient difficile, pour ces derniers, de se référer aux données d’origine.
En raison de l’opacité des IA génératives et de « l’encapsulation des connaissances », certains étudiants ou étudiantes pourraient avoir de la difficulté à discerner les différents types d’informations mobilisés dans les contenus générés par les IA génératives et donc, à exercer leur esprit critique [5] vis-à-vis de ces contenus.
Soutenir le désir d’apprendre
L'enseignement supérieur a également pour but de promouvoir le développement du goût d'apprendre des étudiants et des étudiantes.
Or, l’utilisation de certaines technologies peut avoir pour conséquence de décharger leurs utilisateurs de certaines tâches intellectuelles. À titre d’exemple, certaines études suggèrent que les individus peuvent avoir tendance à s’appuyer sur Internet lorsqu’ils sont confrontés à des questions difficiles. Le contenu facilement accessible du cyberespace agit alors comme une forme de substitution extérieure de la mémoire des individus, ce qui permet aux individus de ne pas faire l’effort intellectuel de mémoriser certaines informations.
Bien que les recherches relatives aux impacts des IA génératives sur la cognition soient encore trop peu nombreuses, on peut supposer qu’en réalisant des tâches complexes à la place des personnes étudiantes (par exemple, produire le résumé d’un texte ou rédiger un essai), ces technologies permettent à ces dernières de se décharger de certains efforts qui pourraient néanmoins contribuer, pour certains, à leur apprentissage. En effet, certaines tâches laborieuses qui pourraient être déléguées aux IA génératives pourraient toutefois se révéler nécessaires à l’apprentissage des notions fondamentales d’une discipline et essentielles au développement de la pensée critique et d’autres compétences des personnes étudiantes. L’utilisation des IA génératives pourrait entre autres décourager les personnes étudiantes de recourir aux sources primaires, puisque l’exercice s’avère plus laborieux en temps et en énergie que de poser une question à un grand modèle de langage. Certains experts avancent, en somme, que les IA génératives pourraient modifier le rapport au savoir, notamment en diminuant fortement le désir d’apprendre et de mémoriser des connaissances.
Dans le contexte de l’enseignement supérieur, la promotion des IA génératives pourrait ainsi entrer en tension avec le développement ou l’exercice de vertus épistémiques chez les étudiants et les étudiantes.
Il importe de mentionner en terminant que, pour d’autres experts, la décharge cognitive opérée par les technologies pour certaines tâches spécifiques pourrait au contraire bénéficier aux individus, en leur permettant de libérer des ressources internes qui pourraient alors être utilisées pour d'autres tâches. L’utilisation des IA génératives pour la formation des personnes étudiantes inviterait alors à repenser ce à quoi ces personnes devraient être formées, et à opérer un changement de posture, tout en veillant à préserver et à soutenir le développement de leurs vertus épistémiques.
[1] L'utilisation de l'information scientifique par les décideurs publics au sein d'une société démocratique: enjeux éthiques (gouv.qc.ca)
[2] Desaulniers, M.-P., & Jutras, F. (2016). L’éthique professionnelle en enseignement, 2e édition actualisée : Fondements et pratiques (2e éd.). Presses de l’Université du Québec. https://doi.org/10.2307/j.ctv1n35cvh
[3] Notons que certaines en fournissent. C’est par exemple le cas de Bing Chat.
[4] La littératie numérique désigne l’ensemble des connaissances et savoir-faire qui permettent à un individu ou à une collectivité d’utiliser, d’évaluer, de produire et de partager des technologies et des informations numériques.
[5] L’esprit critique peut être compris comme une disposition intellectuelle à examiner en profondeur les affirmations et les déclarations sur des faits, des valeurs et des normes, en questionnant leurs fondements et en évaluant leur validité, plutôt que de les accepter sans discernement.
