🎤 Interview - Le paradoxe du tapis roulant : l’IA, entre confort et dépendance (Marion Carré, Ask Mona)

Marion Carré: [0:01] Pour moi, l'enjeu de ce livre, c'est plutôt de dire que si on veut réaliser le plein potentiel de l'intelligence artificielle, c'est aussi à nous d'ajuster nos usages, nos attentes, la façon dont on s'en sert, pour que ça permette à cette technologie de tenir ses promesses et éviter d'avoir cette dérive où en fait, on se met en autopilote, on laisse les IA faire des choses à notre place et petit à petit, on appauvrit nos réflexions et notre créativité, parce qu'à mon sens, on ne s'en sert pas de la bonne façon. Monde Numérique : [0:35] Bonjour Marion Carré. Marion Carré: [0:36] Bonjour. Monde Numérique : [0:38] Entrepreneur dans l'IA, à la tête de la société Askmona, tu es également enseignante à Sciences Po et surtout, autrice d'un livre, un nouveau livre, qui s'intitule « Le paradoxe du tapis roulant » chez Jean-Claude Lattès. Alors, comme son titre ne l'indique pas, c'est un bouquin qui parle d'intelligence artificielle. C'est un essai, mais quel rapport entre l'IA et le tapis roulant ? Marion Carré: [1:01] Alors, le parallèle que je fais, c'est que l'intelligence artificielle, à la manière d'un tapis roulant, nous permet tous d'aller plus vite, mais ce faisant nous emmène au même endroit, dans la même direction. Marion Carré: [1:14] Donc c'est ça en quelques mots le paradoxe du tapis roulant, et mon point de vue c'est qu'on se trouve aujourd'hui à la croisée des chemins entre le tapis roulant et donc ce que je désigne là mais on peut aussi changer nos usages de l'intelligence artificielle pour en faire un tapis de course donc on se retourne sur le tapis, on change le tapis roulant en tapis de course pour nous permettre de renforcer notre créativité, notre réflexion et vraiment nous muscler au lieu de nous assister. Monde Numérique : [1:45] C'est vrai qu'on dit souvent qu'IA sert à nous augmenter en quelque sorte, à nous rendre plus intelligents ou en tout cas plus efficaces. Mais ça veut dire que selon toi, le risque est aussi qu'elle peut nous rendre flémards en quelque sorte ? Marion Carré: [2:03] Alors, pour moi, tout l'enjeu se joue sur la délégation. Et d'ailleurs, c'est le sous-titre qui accompagne le titre, c'est « Vaincre notre paresse intellectuelle face à l'intelligence artificielle ». Et je pense que ce qui se joue aujourd'hui, c'est la question de l'effort et la question de comment est-ce qu'on peut avoir une délégation éclairée auprès des intelligences artificielles. C'est-à-dire qu'à mon sens, ce n'est pas parce qu'on mobilise l'intelligence artificielle qu'on ne doit rien faire. Au contraire, ça déplace notre effort plus en amont pour vraiment nourrir l'intelligence Marion Carré: [2:40] artificielle avec un maximum d'éléments et plus en aval pour challenger aussi ce qu'elle produit. Et donc, je pense que c'est cette façon dont on évite de l'utiliser en autopilote, mais vraiment comme un outil qui vient nous renforcer et nous permettre d'aller plus loin au lieu de faire à notre place et de complètement abandonner la réflexion. Monde Numérique : [3:04] Concrètement, au quotidien, ça veut dire quoi Marion ? C'est quoi ? C'est dans la vie professionnelle, dans la vie personnelle ? Marion Carré: [3:12] Alors, effectivement, ce qui est frappant aujourd'hui avec ces outils d'intelligence artificielle générative, c'est qu'ils sont partout. Ils pénètrent aussi bien notre vie personnelle avec plein de cas d'usage, de personnes qui s'en servent pour avoir des conseils au quotidien. Dans la vie professionnelle aussi, c'est un outil qui est de plus en plus présent avec ces chiffres où on a près d'un Français sur deux qui s'en sert plus de 80% des 18-24 ans donc c'est un outil qui est extrêmement présent, et donc je pense qu'il y a des choses qu'on peut mettre en oeuvre assez facilement en gardant à l'esprit par exemple quand on s'en sert de toujours garder par exemple le premier et le dernier kilomètre de la réflexion, donc de la mobiliser mais de veiller comme je disais à garder le bon niveau d'input et aussi ne pas se dire que comme on va plus vite et qu'on veut à tout prix aller plus vite, on ne prend pas le temps de vérifier, de challenger. Il y a un enjeu sur le temps qu'on continue à investir, même si l'intelligence artificielle permet de faire des choses plus vite. Ça ne veut pas dire qu'elle peut tout faire à notre place et qu'il faut du coup abandonner le temps qui est nécessaire à la réflexion et à la vérification. Il y a aussi, je pense, un fort enjeu autour de la manière dont on se forme à l'intelligence artificielle et aussi dont on développe nos compétences au global. Donc, c'est vraiment ce que je mets en avant dans cette partie. Marion Carré: [4:37] Plus transformer le tapis roulant en tapis de course, c'est comment on peut changer la façon dont on considère cette technologie, dont on s'en sert au quotidien, dont on développe nos compétences et aussi dont cette technologie est développée pour mieux nous accompagner dans cette perspective. Monde Numérique : [4:53] Et alors, est-ce que ce sont des principes que tu appliques toi-même dans ta vie personnelle ou professionnelle ? Comment est-ce que tu appliques ces idées-là ? Marion Carré: [5:03] Alors, ce que je raconte dans le livre, c'est qu'il y a une forme de mise en abîme, parce qu'au moment où je me dis que je vais écrire cet ouvrage, j'ai déjà écrit et publié plusieurs ouvrages, ça fait très longtemps que j'écris, sauf que comme j'utilise l'intelligence artificielle de façon très intensive dans ma vie professionnelle, j'ai un espèce de blocage au début où je me dis mais est-ce que je vais réussir de nouveau. Marion Carré: [5:31] À rédiger un livre sans m'appuyer sur l'intelligence artificielle et donc j'ai un peu cette impression comme quand on a le poignet engourdi quand on écrit alors que ça fait très longtemps qu'on tape sur son clavier et qu'on a pu écrire à la main, c'est ça et donc moi j'ai ressenti ça vis-à-vis du fait d'écrire sans l'aide de l'intelligence artificielle au début et donc j'ai tout un cheminement que je décris aussi dans le livre sur le fait de trouver la bonne place pour l'intelligence artificielle, donc de reprendre vraiment le contrôle de l'écriture et de la mettre à distance là-dessus, mais de m'en servir pour des enjeux de relecture avec un certain nombre de limites aussi que je pointe là-dessus et de choses qui sont passées. Et à la fin, j'arrive plutôt dans un rapport à l'intelligence artificielle où je m'en qu'elle me sert à avoir ce que j'appelle ping-pong de la pensée où je vais chercher à m'en servir pour identifier les angles morts dans un chapitre, les contre-arguments à une idée, ce type de choses. Marion Carré: [6:35] Mais c'est plus pour m'aider à penser contre moi-même que pour faire les choses à ma place. Et donc, c'est vraiment quelque chose qui s'est joué aussi pendant toute l'écriture de ce livre, de considérer et de reconsidérer mon rapport à l'intelligence artificielle. Monde Numérique : [6:51] Donc, tu t'es forcé à l'écrire en utilisant le moins possible de l'IA ? Marion Carré: [6:56] Je me suis forcée à l'écrire en restant complètement souveraine de ma rédaction. Je m'en suis servie pour des enjeux de compléter mes recherches, mes sources, etc. Donc ça, c'est des usages que j'ai pu avoir pour m'aider un peu à élargir le champ des possibles. Et je m'en suis servi aussi pour des enjeux de relecture, même si des fois je me rendais compte que l'IA se contentait pas de... Et c'est ce que je mets aussi en avant sur cet enjeu qu'on voit tous au quotidien où l'IA veut toujours faire un peu l'extra mile, c'est-à-dire qu'elle va encore plus loin que ce qu'on lui demande et donc même quand on demande par exemple de lister les fautes d'orthographe dans un texte on se retrouve assez rapidement avec une réécriture du texte qui est pas exactement ce qu'on a sollicité. Monde Numérique : [7:44] Oui, il en fait un peu trop, en général. Marion Carré: [7:47] C'est ça. Et donc, c'est vraiment ce type de choses sur comment est-ce que trouver le juste milieu pour mobiliser cette technologie et tout ce qu'elle peut apporter, mais tout en gardant vraiment, la patte et la main sur la rédaction. Et donc, c'était vraiment ça, je pense, qui était au cœur du challenge de l'écriture de ce livre et qui est aussi le sujet qui est soulevé dans les pages. Monde Numérique : [8:15] Mais Marion, est-ce que ce n'est pas la conséquence d'une forme de désillusion, de lassitude et même de désillusion par rapport aux potentialités de l'IA ? Marion Carré: [8:30] Non, je pense que c'est plutôt un enjeu de maturité dans notre rapport à l'intelligence artificielle où je pense qu'il y a une première phase un peu grisante où on monte sur le tapis de course en disant que ça va nous donner plus d'idées, ça va nous permettre d'être plus rapide. Et ce constat de se dire qu'en fait, si on délègue sans déléguer de façon éclairée et qu'on confie tout à l'intelligence artificielle, alors on a ces risques, que je mentionne aussi, de finir par raconter un peu la même chose que tout le monde et d'affaiblir aussi notre réflexion. Donc pour moi, l'enjeu de ce livre, c'est plutôt de dire que si on veut, réaliser le plein potentiel de l'intelligence artificielle, c'est aussi à nous d'ajuster nos usages nos attentes, la façon dont on s'en sert pour que ça permette à cette technologie de tenir ses promesses et éviter d'avoir cette dérive où en fait on se met en autopilote, on laisse les IA faire des choses à notre place et petit à petit on appauvrit nos réflexions et notre créativité parce qu'à mon sens on s'en sert pas de la bonne façon et je pense que l'usage le plus prometteur de l'intelligence artificielle, Marion Carré: [9:32] c'est non pas ce tapis roulant, mais c'est ce tapis de course. Et c'est en ayant cette approche-là qu'on peut du coup vraiment mettre cette technologie au service de nos réflexions, d'enrichir notre créativité. Monde Numérique : [9:45] Ça veut dire qu'il faudrait réserver l'usage de l'IA à des choses qu'on ne sait pas faire soi-même ? Marion Carré: [9:51] Pas forcément. D'ailleurs, sur cet enjeu de délégation, je pense que c'est important, au contraire, d'apprendre à faire par soi-même ce qu'on veut déléguer ensuite à l'intelligence artificielle dans une progressivité, je pense, qui est celle qu'on a avec d'autres technologies. Par exemple, on apprend à faire des tables de multiplication. On les apprend par cœur avant d'apprendre à servir d'une calculatrice, alors qu'en soi, on pourrait tout de suite aller vers la calculatrice. Et je pense que vis-à-vis de l'intelligence artificielle, c'est intéressant d'avoir la même progressivité pour apprendre à maîtriser des savoirs socle et des compétences avant de déléguer à l'intelligence artificielle pour pouvoir être en mesure de ne pas dépendre de l'intelligence artificielle, de pouvoir le faire soi-même, mais surtout de faire aussi ce dernier kilomètre, c'est-à-dire de pouvoir vérifier, challenger ce qu'on peut faire quand on a la maîtrise d'une compétence et ce qu'on ne peut pas faire quand on utilise l'IA pour faire des choses qu'on n'est pas en mesure. D'examiner, puisqu'on n'a pas la compétence pour le faire soi-même. Monde Numérique : [10:52] Mais est-ce que ça ne veut pas dire, justement, que quelque part, l'IA devrait être déconseillée aux jeunes et aux plus jeunes en phase d'apprentissage ? Parce qu'on le voit, faire faire ses devoirs par Tchadjipiti, c'est pire que tout, parce que du coup, on n'apprend rien. En revanche, dans des entreprises, des professionnels expérimentés qui ont une vraie connaissance, qui ont des années et des années de pratique, eux, ils peuvent se dire, bon, écoutez, ça, ça va, je l'ai fait pendant des années, là, je vais me décharger si un outil peut le faire à ma place, tout ce qui est tâches répétitives, écrire des mails, des présentations, des choses comme ça. On sait le faire, donc du coup, on peut le déléguer à lire. Marion Carré: [11:31] Effectivement, dans le monde de l'entreprise, il y a plusieurs études qui montrent que dès lors qu'on a des professionnels expérimentés, c'est très bénéfique pour eux parce que ça leur fait gagner du temps, mais ils ont la compétence et l'expertise et l'expérience pour prendre du recul vis-à-vis de ce que produit l'IA, la challenger et leur permettre d'aller plus loin. Alors que dans le monde, vraiment dans la vie étudiante, ça peut soulever un certain nombre de questions parce que c'est le moment où on consolide ces compétences et si on prend l'habitude que l'IA fasse des choses à notre place, alors on n'a pas l'occasion de passer par des tâches qui sont parfois certes automatisables mais qui permettent de forger des réflexes, une expérience et pour moi ça c'est aussi un enjeu sur la manière dont on conçoit les intelligences artificielles et on se rend compte qu'il y a des initiatives qui vont dans ce sens là, puisqu'il y a différentes versions des plateformes que ce soit. Marion Carré: [12:27] Des principales IA génératives qu'on utilise, qui sortent des modules pour l'éducation et qui vont employer des méthodologies qui me semblent assez intéressantes autour par exemple du dialogue socratique du questionnement socratique sur la manière dont, au lieu d'apporter tout de suite les réponses, on va plutôt guider la réflexion et poser des questions pour aider la personne à faire ce cheminement par elle-même. Et donc, c'est plein de choses que moi, je vois où il y a les usages qu'on fait de l'intelligence artificielle en tant que personne. Collectivement, comment est-ce qu'on organise aussi notre travail autour de l'intelligence artificielle pour laisser le temps à la réflexion, mais même la manière dont ces outils sont conçus pour que là, dans l'exemple qu'on prend, par exemple, qui est celui de l'éducation, on permette qu'ils encouragent cette réflexion sans avoir cette tentation de laisser l'IA faire à notre place et donc d'affaiblir l'apprentissage. Monde Numérique : [13:23] Même si c'est très nouveau, ces outils un peu adaptés à l'éducation. Et ce qu'il faut préciser aussi, et on le voit, c'est que les enseignants qui s'emparent de l'IA, essayent justement de l'intégrer, parce qu'on ne peut plus dire aux élèves « ne touchez pas à l'IA ». Donc, autant l'intégrer, mais un peu pour le challenger et pour apporter quelque chose de nouveau, finalement. Mais c'est toute la difficulté, c'est le « comment faire ». Marion Carré: [13:52] Ça, c'est un vrai sujet. Moi, j'ai aussi cette casquette d'enseignante par ailleurs parce que j'enseigne notamment à Sciences Po Paris, mais aussi à d'autres endroits. Et c'est vrai que moi, assez tôt, je me suis dit que du coup, avec l'émergence de l'IA, ça demandait de revoir les pratiques pédagogiques, notamment dans les attentes vis-à-vis de l'évaluation. J'ai pu expérimenter des choses avec du coup Valentin Schmitt, avec qui je donne ce cours, où par exemple, une des choses qu'on a expérimenté, c'est pour un essai final, qui est un peu souvent l'exercice qu'on demande de faire un essai sur tel ou tel sujet. Nous on demande aux élèves de faire cet essai en utilisant TchadGPT, Et ce qu'on va évaluer, ce n'est pas tellement l'essai final, c'est toute la conversation avec Tchad GPT, un peu comme en mathématiques, on analyserait la démonstration, plus que la manière dont on arrive, plus que le résultat final, en se disant comment, et donc avant ça, on forme les étudiants sur comment servir l'intelligence artificielle, comment certes prompter, mais comment faire pour la nourrir avec ses propres idées, pour l'orienter, pour garder vraiment la main sur le rendu final, même si on se rend compte aussi en évaluant alors ça prend beaucoup plus de temps d'évaluer ça que des essais classiques parce qu'on évalue des heures de conversation, mais on se rend compte faut le faire faire par unir. Marion Carré: [15:18] Bah oui mais justement on veut encore garder la main sur un certain nombre de choses, et donc on se rend compte que c'est quand même quelque chose qui se joue et qui est un peu délicat pour les étudiants de réussir à garder la main sur ce que dit l'intelligence artificielle pour que ça aille dans le sens de leurs réflexions et qu'ils ne se laissent pas entraîner par ce que propose l'intelligence artificielle. Donc ça, c'est un vrai sujet, mais globalement, ça interroge beaucoup la communauté enseignante. Moi, je vois beaucoup d'enseignants qui me posent des questions là-dessus. Je vois aussi une forme de décalage entre là où en sont les enseignants et là où en sont les étudiants. Marion Carré: [15:55] Pas plus tard qu'hier, j'avais un étudiant qui me disait « mais en fait... » Moi, c'est génial parce que ça me fait gagner beaucoup plus de temps. J'ai beaucoup plus de temps libre grâce à l'intelligence artificielle. Je ne sais pas si les enseignants s'en rendent compte et moi, je pense que non. Donc il y a vraiment un peu cette maturité qui est un peu à deux vitesses entre des étudiants qui s'en servent déjà beaucoup et des enseignants et de comment est-ce qu'on peut ajuster les pratiques pédagogiques, pour que ce soit cohérent, pour qu'on demande, pour éviter en fait la frustration qu'ont beaucoup d'enseignants d'évaluer des choses qui ont été faites par des IA et pas par leurs élèves ce qui est détrimental au final pour les élèves eux-mêmes parce que quand qui délèguent complètement quelque chose à l'IA, ils n'emmagasinent pas les compétences et l'expertise de ce que permettait le devoir initialement. Monde Numérique : [16:49] J'ai des retours d'étudiants, peut-être particulièrement consciencieux, mais qui me disent, mais moi, je me force à ne pas trop utiliser l'IA parce que je m'aperçois que je n'apprends plus rien et je ne fais pas ce pourquoi je suis là, en train de suivre tel ou tel cursus, etc. Mais il faut une sacrée prise de conscience pour faire ça, je pense. Une dernière question, Marion. Est-ce que tout ça, finalement, c'est de l'IA, c'est du cognitif, entre guillemets, donc c'est assez spectaculaire, mais est-ce que ce n'est pas toujours la même histoire qui se répète ? Quand les calculatrices sont arrivées, on a arrêté d'être bons en arithmétique. Quand le correcteur orthographique de traitement de texte est arrivé, on a arrêté de faire vraiment attention à son orthographe parce qu'on pouvait déléguer tout ça. Bon, est-ce que finalement, ce n'est pas toujours la même histoire et tout va se réguler ? Marion Carré: [17:43] Alors, effectivement, il y a cette généalogie avec des technologies où on se rend compte que, par exemple, le GPS, les personnes qui s'en servent beaucoup ont un moins bon sens de l'orientation que celles qui s'en servent peu. Donc ça, ça a été démontré pour différentes technologies. Là, ce qui est problématique avec l'intelligence artificielle, c'est qu'on parle de notre réflexion. Marion Carré: [18:04] Donc ça, c'est quelque chose où amoindrir nos capacités cognitives et notre capacité à réfléchir par nous-mêmes, C'est vraiment un enjeu, sachant qu'en fait, l'intelligence artificielle pourrait être utilisée pour au contraire la renforcer. Et c'est vraiment en fait le plaidoyer de cet ouvrage qui est de dire, il y a cette voie-là qui se présente, qui est celle du texte roulant. Ce n'est pas une fatalité, mais c'est à nous d'en prendre conscience et d'adapter maintenant nos usages pour éviter d'arriver dans ce que décrivent des scientifiques comme étant le système zéro. Marion Carré: [18:41] En référence au système 1 et 2 de la pensée de Kahneman, système 1 qui est vraiment tout ce qui fait appel au réflexe, la pensée rapide, système 2 la pensée plus lente et réfléchie, et eux postulent qu'on a un système 0 qui émerge où on prend l'habitude de déléguer à l'intelligence artificielle de plus en plus de tâches de réflexion, ce qui peut être une bonne chose pour des réflexions complexes qu'on n'arrive pas à faire nous-mêmes sur par exemple le fait d'analyser les grands corpus de données ou des choses comme ça, ce qui pose plus problème dès lors qu'on finit par dépendre de l'IA. Marion Carré: [19:16] Pour réfléchir sur un certain nombre de sujets à notre place parce qu'on a pris l'habitude de lui déléguer ça. Donc pour moi, l'enjeu de cet ouvrage, c'est vraiment ça, c'est prendre conscience que, il en va de ce qu'on décide et de nos usages pour vraiment avoir le meilleur usage possible de l'intelligence artificielle et non pas s'en servir comme quelque chose qui amoindrit notre capacité à réfléchir par nous-mêmes. Monde Numérique : [19:42] Eh bien, on renvoie à ce livre Le paradoxe du tapis roulant chez Jean-Claude Lattès. Merci beaucoup, Marion Carré. Marion Carré: [19:49] Merci beaucoup.