Une étude du MIT en phase de pré-publication concluait que l’utilisation des LLMs pouvait provoquer un déclin cognitif
Quelle surprise : si vous demandez à une machine de réfléchir à votre place au lieu de le faire par vous-même, cela affectera votre apprentissage, votre mémoire, votre créativité et votre capacité à traiter l’information.
Le mois dernier, une étude du MIT en phase de pré-publication concluait que l’utilisation des LLMs pouvait provoquer un déclin cognitif.
Certes, il ne s’agit pas du premier travail qui tire des conclusions similares, son résultat était prévisible et l'échantillon de participants réduit, mais le fait que cela ait pu être mesuré neurologiquement reste pertinent.
Le protocole de l’expérience menée a consisté à demander à 54 étudiants qu’ils rédigent un travail sur un sujet choisi parmi neuf. Ils ont été divisés en trois groupes, selon le type d’assistance reçue pour travailler :
- Sans aucune assistance externe (“brain-only”
- Avec l’aide de moteurs de recherches et l’accès à internet mais sans LLM
- Avec l’aide de ChatGPT-4
Pendant la rédaction de leur travail, l’activité cérébrale de chaque étudiant a été surveillée en observant les zones du cerveau mobilisées à l’aide d'électrode mesurant l’activité neurophysiologique. Par ailleurs, leurs textes ont été analysés et les étudiants ont été interviewés a posteriori.
Les principales conclusions sont les suivantes :
La connectivité cérébrale diminue à mesure que le soutien externe s’intensifie.
- Le groupe “brain-only”, ne bénéficiant pas d’assistance externe, développe les réseaux neuronaux les plus solides et étendus.
- Ceux qui utilisent des moteurs de recherche et des sites voient leur activité cognitive baisser entre 34 y 48%.
- Les étudiants été assistés par des LLM mobilisent 55% moins leurs capacités cognitive.
En plus, la dynamique fonctionnelle du réseau activé pendant la rédaction du travail dans le groupe “brain-only” a eu un impact positif sur la mémoire, l’auto-contrôle et le sentiment d’appropriation de leur travail.
En revanche, contrairement aux “brain-only”, 83% des participants ayant utilisé ChatGPT ont éprouvé des difficultés pour citer leur propre travail, se trompant quasi-systématiquement.
Autre fait révélateur : ceux ayant utilisé les LLMs pour effectuer le premier travail ont rencontré davantage de difficultés pour réaliser le second sans assistance que ceux qui n’avaient disposé que de leur cerveau pour le premier.
À long terme, les personnes qui accumulent une “dette cognitive” du fait de ne pas s’efforcer par eux-mêmes” pourraient développer “un esprit critique amoindri, une plus grande vulnérabilité face à la manipulation et une moindre créativité”, conclut l'étude.
Plus philosophiquement, l’IA exacerbe le dilemme que les humains avons affronté depuis tout temps entre la satisfaction de nos désirs d’immédiateté et les celle de nos intérêts à plus long terme.
Peut-être devrait-on assumer qu'à chaque fois qu’on réalise un “prompt”, on renonce à une opportunité d’exercer et de renforcer notre propre capacité de réflexion.
Vous souhaitez réagir à ce billet ou lire d’autres contenus sur les défis auxquels nous faisons face en lien avec le numérique ?
⮕ Rendez-vous sur LinkedIn.
⮕ Souscrivez à OFF, la newsletter pour reprendre le contrôle.