🎤 Pourquoi l'IA peut nous rendre moins intelligents (Marion Carré, Askmona)

[00:00:01] Cet été je vous propose de retrouver quelques-unes des meilleures interviews de Monde Numérique. Innovateurs, experts, observateurs, ils ou elles partagent leurs projets, leurs visions, leurs analyses. Tendez l'oreille, vous ne l'engrapperez pas. Monde Numérique Pour moi l'enjeu de ce livre c'est plutôt de dire que si on veut réaliser le plein potentiel de l'intelligence artificielle, c'est aussi à nous d'ajuster nos usages, nos attentes, la façon dont on s'en sert,

[00:00:29] pour que ça permette à ces technologies de tenir ses promesses et éviter d'avoir cette dérive où en fait on se met en autopilote, on laisse les IA faire des choses à notre place et petit à petit on appauvrit nos réflexions et notre créativité parce qu'à mon sens on s'en sert pas de la bonne façon. Bonjour Marion Carré. Bonjour. Entrepreneur dans l'IA à la tête de la société Askmona,

[00:01:00] je suis également enseignante à Sciences Po et surtout autrice d'un livre, un nouveau livre qui s'intitule « Le paradoxe du tapis roulant » chez Jean-Claude Lattès. Alors, comme son titre ne l'indique pas, c'est un bouquin qui parle d'intelligence artificielle, c'est un essai, mais quel rapport entre l'IA et le tapis roulant ? Alors, le parallèle que je fais, c'est que l'intelligence artificielle à la manière d'un tapis roulant nous permet tous d'aller plus vite,

[00:01:27] mais ce faisant nous emmène au même endroit, dans la même direction. Donc c'est ça en quelques mots le paradoxe du tapis roulant. Et mon point de vue, c'est qu'on se trouve aujourd'hui à la croisée des chemins entre le tapis roulant et donc ce que je désigne là, mais on peut aussi changer nos usages de l'intelligence artificielle pour en faire un tapis de course.

[00:01:48] Donc, on se retourne sur le tapis, on change le tapis roulant en tapis de course pour nous permettre de renforcer notre créativité, notre réflexion et vraiment nous muscler au lieu de nous assister. Alors, c'est vrai qu'on dit souvent qu' l'IA sert à nous augmenter en quelque sorte, à nous rendre plus intelligents, en tout cas plus efficaces.

[00:02:11] Mais ça veut dire que selon toi, le risque est aussi qu'elle peut nous rendre flémards en quelque sorte ? Alors, pour moi, tout l'enjeu se joue sur la délégation. Et d'ailleurs, c'est le sous-titre qui accompagne le titre, c'est « Vaincre notre paresse intellectuelle face à l'intelligence artificielle ».

[00:02:31] Et je pense que ce qui se joue aujourd'hui, c'est la question de l'effort et la question de comment est-ce qu'on peut avoir une délégation éclairée auprès des intelligences artificielles. C'est-à-dire qu'à mon sens, ce n'est pas parce qu'on mobilise l'intelligence artificielle qu'on ne doit rien faire. Au contraire, ça déplace notre effort plus en amont pour vraiment nourrir l'intelligence artificielle avec un maximum d'éléments

[00:02:59] et plus en aval pour challenger aussi ce qu'elle produit. Et donc, je pense que c'est cette façon dont on évite de l'utiliser en autopilote, mais vraiment comme un outil qui vient nous renforcer et nous permettre d'aller plus loin au lieu de faire à notre place et de complètement abandonner la réflexion. Concrètement, au quotidien, ça veut dire quoi Marion ? C'est quoi ? C'est dans la vie professionnelle, dans la vie personnelle ?

[00:03:29] Alors, effectivement, ce qui est frappant aujourd'hui avec ces outils d'intelligence artificielle générative, c'est qu'ils sont partout. Ils pénètrent aussi bien notre vie personnelle avec plein de cas d'usage, de personnes qui s'en servent pour avoir des conseils au quotidien. Dans la vie professionnelle aussi, c'est un outil qui est de plus en plus présent. Avec ces chiffres, on a près d'un Français sur deux qui s'en sert, plus de 80% des 18-24 ans. Donc, c'est un outil qui est extrêmement présent.

[00:03:58] Et donc, je pense qu'il y a des choses qu'on peut mettre en œuvre assez facilement en gardant à l'esprit, par exemple, quand on s'en sert, de toujours garder, par exemple, le premier et le dernier kilomètre de la réflexion. Donc, de la mobiliser, mais de veiller, comme je disais, à garder le bon niveau d'input et aussi ne pas se dire que comme on va plus vite et qu'on veut à tout prix aller plus vite, on ne prend pas le temps de vérifier, de challenger.

[00:04:27] Donc, il y a un enjeu sur le temps qu'on continue à investir, même si l'intelligence artificielle permet de faire des choses plus vite. Ça ne veut pas dire qu'elle peut tout faire à notre place et qu'il faut du coup abandonner le temps qui est nécessaire à la réflexion et à la vérification. Il y a aussi, je pense, un fort enjeu autour de la manière dont on se forme à l'intelligence artificielle et aussi dont on développe nos compétences au global. Donc, c'est vraiment ce que je mets en avant dans cette partie plus transformer le tapis roulant en tapis de course,

[00:04:57] c'est comment on peut changer la façon dont on considère cette technologie, dont on s'insère au quotidien, dont on développe nos compétences et aussi dont cette technologie est développée pour mieux nous accompagner dans cette perspective. Et alors, est-ce que ce sont des principes que tu appliques toi-même dans ta vie personnelle ou professionnelle ? Comment est-ce que tu appliques ces idées-là ? Alors, ce que je raconte dans le livre, c'est qu'il y a une forme de mise en abîme

[00:05:24] parce qu'au moment où je me dis que je vais écrire cet ouvrage, j'ai déjà écrit et publié plusieurs ouvrages. Ça fait très longtemps que j'écris. Sauf que comme j'utilise l'intelligence artificielle de façon très intensive dans ma vie professionnelle, j'ai un espèce de blocage au début où je me dis, mais est-ce que je vais réussir de nouveau à rédiger un livre sans m'appuyer sur l'intelligence artificielle ?

[00:05:51] Et donc, j'ai un peu cette impression comme quand on a le poignet engourdi, quand on écrit, alors que ça fait très longtemps qu'on tape sur son clavier. On ne sait plus écrire à la main. C'est ça. Et donc, moi, j'ai ressenti ça vis-à-vis du fait d'écrire sans l'aide de l'intelligence artificielle au début. Et donc, j'ai tout un cheminement que je décris aussi dans le livre sur le fait de trouver la bonne place pour l'intelligence artificielle, donc de reprendre vraiment le contrôle de l'écriture et de la mettre à distance là-dessus,

[00:06:20] mais de m'en servir pour des enjeux de relecture avec un certain nombre de limites aussi que je pointe là-dessus et de choses qui sont passées. Et à la fin, j'arrive plutôt dans un rapport à l'intelligence artificielle où je m'en sers vraiment justement comme un tapis de course, c'est-à-dire qu'elle me sert à avoir ce que j'appelle ping-pong de la pensée où je vais chercher à m'en servir pour identifier les angles morts dans un chapitre,

[00:06:48] les contre-arguments à une idée, ce type de choses, mais c'est plus pour m'aider à penser contre moi-même que pour faire les choses à ma place. Et donc, c'est vraiment quelque chose qui s'est joué aussi pendant toute l'écriture de ce livre, de considérer et de reconsidérer mon rapport à l'intelligence artificielle. Donc, tu t'es forcée à l'écrire en utilisant le moins possible de l'IA ?

[00:07:13] Je me suis forcée à l'écrire en restant complètement souveraine de ma rédaction. Je m'en suis servie pour des enjeux de compléter mes recherches, mes sources, etc. Donc ça, c'est des usages que j'ai pu avoir pour m'aider un peu à élargir le champ des possibles. Et je m'en suis servie aussi pour des enjeux de relecture, même si des fois, je me rendais compte que l'IA ne se contentait pas de...

[00:07:40] Et c'est ce que je mets aussi en avant sur cet enjeu qu'on voit tous au quotidien, où l'IA veut toujours faire un peu l'extra mile. C'est-à-dire qu'elle va encore plus loin que ce qu'on lui demande. Et donc, même quand on demande, par exemple, de lister les fautes d'orthographe dans un texte, on se retrouve assez rapidement avec une réécriture du texte, qui n'est pas exactement ce qu'on a sollicité. Oui, il en fait un peu trop, en général. C'est ça.

[00:08:04] Et donc, c'est vraiment ce type de choses sur comment trouver le juste milieu pour mobiliser cette technologie et tout ce qu'elle peut apporter, mais tout en gardant vraiment la patte et la main sur la rédaction. Et donc, c'était vraiment ça, je pense, qui était au cœur du challenge de l'écriture de ce livre et qui est aussi le sujet qui est soulevé dans les pages.

[00:08:32] Mais Marion, est-ce que ce n'est pas la conséquence d'une forme de désillusion, de lassitude et même de désillusion par rapport aux potentialités de l'IA ? Non, je pense que c'est plutôt un enjeu de maturité dans notre rapport à l'intelligence artificielle où je pense qu'il y a une première phase un peu grisante où on monte sur le tapis de course en disant que ça va nous donner plus d'idées, ça va nous permettre d'être plus rapide.

[00:09:01] Et ce constat de se dire qu'en fait, si on délègue sans déléguer de façon éclairée et qu'on confie tout à l'intelligence artificielle, alors on a ces risques, que je mentionne aussi, de finir par raconter un peu la même chose que tout le monde et d'affaiblir aussi notre réflexion. Donc pour moi, l'enjeu de ce livre, c'est plutôt de dire que si on veut réaliser le plein potentiel de l'intelligence artificielle, c'est aussi à nous d'ajuster nos usages, nos attentes,

[00:09:29] la façon dont on s'en sert pour que ça permette à cette technologie de tenir ses promesses et éviter d'avoir cette dérive où en fait, on se met en autopilote, on laisse les IA faire des choses à notre place et petit à petit, on appauvrit nos réflexions et notre créativité parce qu'à mon sens, on ne s'en sert pas de la bonne façon. Et je pense que l'usage le plus prometteur de l'intelligence artificielle, c'est non pas ce tapis roulant, mais c'est ce tapis de course et c'est en ayant cette approche-là qu'on peut du coup vraiment mettre cette technologie au service de nos réflexions

[00:09:59] et d'enrichir notre créativité. Ça veut dire qu'il faudrait réserver l'usage de l'IA à des choses qu'on ne sait pas faire soi-même ? Pas forcément. D'ailleurs, sur cet enjeu de délégation, je pense que c'est important, au contraire, d'apprendre à faire par soi-même ce qu'on veut déléguer ensuite à l'intelligence artificielle dans une progressivité, je pense, qui est celle qu'on a avec d'autres technologies. Par exemple, on apprend à faire des tables de multiplication, on les apprend par cœur

[00:10:29] avant d'apprendre à servir d'une calculatrice, alors qu'en soi, on pourrait tout de suite aller vers la calculatrice. Et je pense que vis-à-vis de l'intelligence artificielle, c'est intéressant d'avoir la même progressivité pour apprendre à maîtriser des savoirs socles et des compétences avant de déléguer à l'intelligence artificielle pour pouvoir être en mesure de ne pas dépendre de l'intelligence artificielle, de pouvoir le faire soi-même, mais surtout de faire aussi ce dernier kilomètre, c'est-à-dire de pouvoir vérifier, challenger

[00:10:56] ce qu'on peut faire quand on a la maîtrise d'une compétence et ce qu'on ne peut pas faire quand on utilise l'IA pour faire des choses qu'on n'est pas en mesure d'examiner puisqu'on n'a pas la compétence pour le faire soi-même. Oui, mais est-ce que ça ne veut pas dire justement que quelque part l'IA devrait être déconseillée aux jeunes et aux plus jeunes en phase d'apprentissage parce qu'on le voit, faire faire ses devoirs par Tchadjipiti, c'est pire que tout parce que du coup on n'apprend rien.

[00:11:24] En revanche, dans des entreprises, des professionnels expérimentés qui ont une vraie connaissance, qui ont des années et des années de pratique, eux, ils peuvent se dire bon bah écoutez, ça, ça va, je l'ai fait pendant des années, là je vais me décharger si un outil peut le faire à ma place, tout ce qui est tâches répétitives, écrire des mails, des présentations, des choses comme ça. On sait le faire, donc du coup on peut le déléguer à l'IA. Effectivement, dans le monde de l'entreprise, il y a plusieurs études qui montrent que dès lors qu'on a des professionnels expérimentés,

[00:11:53] c'est très bénéfique pour eux parce que ça leur fait gagner du temps, mais ils ont la compétence et l'expertise et l'expérience pour prendre du recul vis-à-vis de ce que produit l'IA, la challenger et leur permettre d'aller plus loin. Alors que dans le monde, vraiment dans la vie étudiante, ça peut soulever un certain nombre de questions parce que c'est le moment où on consolide ces compétences et si on prend l'habitude que l'IA fasse des choses à notre place, alors on n'a pas l'occasion de passer par des tâches

[00:12:23] qui sont parfois certes automatisables, mais qui permettent de forger des réflexes, une expérience. Et pour moi, ça, c'est aussi un enjeu sur la manière dont on conçoit les intelligences artificielles. Et on se rend compte qu'il y a des initiatives qui vont dans ce sens-là puisqu'il y a différentes versions des plateformes, que ce soit des principales d'IA génératifs qu'on utilise, qui sortent des modules pour l'éducation et qui vont employer des méthodologies qui me semblent assez intéressantes

[00:12:52] autour, par exemple, du dialogue socratique, du questionnement socratique sur la manière dont, en fait, au lieu d'apporter tout de suite les réponses, on va plutôt guider la réflexion et poser des questions pour aider la personne à faire ce cheminement par elle-même. Et donc, c'est plein de choses que moi, je vois où il y a les usages qu'on fait de l'intelligence artificielle en tant que personne. Collectivement, comment est-ce qu'on organise aussi notre travail autour de l'intelligence artificielle pour laisser le temps à la réflexion, mais même la manière

[00:13:21] dont ces outils sont conçus pour que, là, dans l'exemple qu'on prend, par exemple, qui est celui de l'éducation, on permette qu'ils encouragent cette réflexion sans avoir cette tentation de laisser l'IA faire à notre place et donc d'affaiblir l'apprentissage. Même si c'est très nouveau, ces outils un peu adaptés à l'éducation. Et ce qu'il faut préciser aussi, et on le voit, c'est que les enseignants qui s'emparent de l'IA,

[00:13:52] essayent justement de l'intégrer parce qu'on ne peut plus dire aux élèves ne touchez pas à l'IA. Donc autant l'intégrer, mais un peu pour le challenger et pour apporter quelque chose de nouveau, finalement. Mais c'est toute la difficulté, c'est le comment faire. Ça, c'est un vrai sujet. Moi, j'ai aussi cette casquette d'enseignante par ailleurs parce que j'enseigne notamment à Sciences Po Paris, mais aussi à d'autres endroits. Et c'est vrai que moi,

[00:14:21] assez tôt, je me suis dit que du coup, avec l'émergence de l'IA, ça demandait de revoir les pratiques pédagogiques, notamment dans les attentes vis-à-vis de l'évaluation. J'ai pu expérimenter des choses avec du coup Valentin Schmitt, avec qui je donne ce cours, où par exemple, une des choses qu'on a expérimentées, c'est pour un essai final, qui est un peu souvent l'exercice qu'on demande de faire un essai sur tel ou tel sujet. Nous, on demande aux élèves de faire cet essai

[00:14:51] en utilisant Schmitt et ce qu'on va évaluer, ce n'est pas tellement l'essai final, c'est toute la conversation avec Schmitt, un peu comme en mathématiques, on analyserait la démonstration plus que la manière dont on arrive au résultat final en se disant comment. Et donc avant ça, on forme les étudiants sur comment servir l'intelligence artificielle, comment certes prompter, mais comment faire pour la nourrir avec ses propres idées, pour l'orienter, pour garder vraiment

[00:15:20] la main sur le rendu final, même si on se rend compte aussi en évaluant, alors ça prend beaucoup plus de temps d'évaluer ça que des essais classiques, parce qu'on évalue des heures de conversation, mais on se rend compte Il faut le faire faire par un lien. Oui, mais justement, on veut encore garder la main sur un certain nombre de choses et donc on se rend compte que c'est quand même quelque chose qui se joue et qui est un peu délicat pour les étudiants de réussir à garder la main sur ce que dit

[00:15:48] l'intelligence artificielle pour que ça aille dans le sens de leur réflexion et qu'ils ne se laissent pas entraîner par ce que propose l'intelligence artificielle. Donc ça, c'est un vrai sujet, mais globalement, ça interroge beaucoup la communauté enseignante. Moi, je vois beaucoup d'enseignants qui me posent des questions là-dessus. Je vois aussi une forme de décalage entre là où en sont les enseignants et là où en sont les étudiants. Pas plus tard qu'hier, j'avais un étudiant qui me disait « Mais en fait, moi, c'est génial parce que ça me fait gagner beaucoup plus de temps.

[00:16:18] J'ai beaucoup plus de temps libre grâce à l'intelligence artificielle. Et je ne sais pas si les enseignants s'en rendent compte et moi, je pense que non. » Donc, il y a vraiment un peu cette maturité qui est un peu à deux vitesses entre des étudiants qui s'en servent déjà beaucoup et des enseignants et de comment est-ce qu'on peut ajuster les pratiques pédagogiques pour que ce soit cohérent, pour éviter la frustration qu'ont beaucoup d'enseignants

[00:16:47] d'évaluer des choses qui ont été faites par des IA et pas par leurs élèves. Ce qui est détrimental au final pour les élèves eux-mêmes parce que quand ils délèguent complètement quelque chose à l'IA, ils n'emmagasinent pas les compétences et l'expertise de ce que permettait le devoir initialement. Oui, moi, j'ai des retours d'étudiants, peut-être particulièrement consciencieux, mais qui me disent « Mais moi, je me force à ne pas trop utiliser l'IA parce que je m'aperçois que je n'apprends plus rien et je ne fais pas

[00:17:17] ce pourquoi je suis là en train de suivre tel ou tel cursus, etc. » Mais il faut une sacrée prise de conscience pour faire ça, je pense. Une dernière question, Marion. Est-ce que tout ça, finalement, c'est de l'IA, c'est du « cognitif » donc c'est assez spectaculaire, mais est-ce que ce n'est pas toujours la même histoire qui se répète ? Quand les calculatrices sont arrivées, on a arrêté d'être bons en arithmétique. Quand le correcteur orthographique

[00:17:46] de traitement de texte est arrivé, on a arrêté de faire vraiment attention à son orthographe parce qu'on pouvait déléguer tout ça. Bon, est-ce que finalement, ce n'est pas toujours la même histoire et tout va se réguler ? Alors, effectivement, il y a cette généalogie avec des technologies où on se rend compte que, par exemple, le GPS, les personnes qui s'en servent beaucoup ont un moins bon sens de l'orientation que celles qui s'en servent peu. Donc ça, ça a été démontré pour différentes technologies. Là, ce qui est problématique

[00:18:15] avec l'intelligence artificielle, c'est qu'on passe de notre réflexion, on parle de notre réflexion. Donc ça, c'est quelque chose où amoindrir nos capacités cognitives et notre capacité à réfléchir par nous-mêmes, c'est vraiment un enjeu, sachant qu'en fait, l'intelligence artificielle pourrait être utilisée pour, au contraire, la renforcer. Et c'est vraiment, en fait, le plaidoyer de cet ouvrage qui est de dire qu'il y a cette voie-là qui se présente qui est celle

[00:18:45] du tapis roulant. Ce n'est pas une fatalité, mais c'est à nous d'en prendre conscience et d'adapter maintenant nos usages pour éviter d'arriver dans ce que décrivent des scientifiques comme étant le système zéro, en référence au système 1 et 2 de la pensée de Kahneman, système 1 qui est vraiment tout ce qui fait appel au réflexe, la pensée rapide, système 2, la pensée plus lente et réfléchie, et eux postulent qu'on a un système zéro qui émerge où on prend l'habitude de déléguer

[00:19:15] à l'intelligence artificielle de plus en plus de tâches de réflexion, ce qui peut être une bonne chose pour des réflexions complexes qu'on n'arrive pas à faire nous-mêmes sur par exemple le fait d'analyser les grands corpus de données ou des choses comme ça, ce qui pose plus problème dès lors qu'on finit par dépendre de l'IA pour réfléchir sur un certain nombre de sujets à notre place parce qu'on a pris l'habitude de déléguer ça. Donc pour moi, l'enjeu de cet ouvrage c'est vraiment ça, c'est prendre conscience que il en va

[00:19:44] de ce qu'on décide et de nos usages pour vraiment avoir le meilleur usage possible de l'intelligence artificielle et non pas s'en servir comme quelque chose qui amoindrit notre capacité à réfléchir par nous-mêmes. Eh bien, on renvoie à ce livre Le paradoxe du tapis roulant chez Jean-Claude Lattès. Merci beaucoup Marion Carré. Merci beaucoup.