🎤 Interview - Une critique scientifique du livre de Luc Julia (Jean-Paul Krivine, AFIS)

[Cette transcription a été réalisée par IA et peut comporter des erreurs]

Jean-Paul Krivine: [0:01] Donc, formellement, le Julia a raison de dire ça, par exemple, je suis d'accord. Mais comme il l'appuie sur des arguments qui ne vont pas, ça discrédite complètement la chose.

Monde Numérique :
[0:17] Bonjour Jean-Paul Krivine.

Jean-Paul Krivine:
[0:18] Bonjour.

Monde Numérique :
[0:19] Vous êtes ingénieur informaticien à la retraite. Vous avez beaucoup travaillé en intelligence artificielle et vous êtes rédacteur en chef de la revue Science et Pseudo-Science, édité par l'AFIS, l'Association française pour l'information scientifique, qui est une association qui se présente comme ayant pour but de promouvoir la science et d'en défendre l'intégrité. Et vous signez sur le site de l'AFIS un très long article qui critique le dernier livre de Luc Julia.

Monde Numérique :
[0:46] Alors c'est une critique plus apaisée, plus étayée que ce qu'on a pu entendre jusqu'à maintenant. On va donc essayer de, non pas de relancer la polémique, mais de faire de la pédagogie. Que reprochez-vous au livre de Luc Julia ?

Jean-Paul Krivine:
[0:59] Alors, déjà avant de dire ce que je reproche, il y a des choses qu'on peut séduire dans le livre. C'est un discours général sur l'intelligence artificielle qui tend à s'opposer un petit peu au discours apocalyptique ambiant. Ça, c'est quelque chose qui m'intéresse, que je partage en termes de finalité. Ce qui est le problème majeur de ce livre, ce n'est pas qu'il y a quelques erreurs, il y a énormément d'erreurs, mais... En gros, il donne l'impression, et en tout cas dans l'exposé du sujet, que l'auteur ne comprend pas ce que l'IA connexionniste d'aujourd'hui. Il fait une description des réseaux de neurones, de l'IA générative, qui est tout simplement fausse, et appuie son argumentation sur les erreurs, sur les hallucinations et sur d'autres sujets, sur cette compréhension erronée.

Jean-Paul Krivine:
[1:48] Ça discrédite complètement le discours, et puis ça interroge globalement sur ce qui a été fait.

Monde Numérique :
[1:52] Alors, c'est là où on a besoin d'explications. Qu'est-ce que c'est que les IA connexionnistes ?

Jean-Paul Krivine:
[1:57] Alors, je ne sais pas si on va rentrer dans toute l'histoire de l'intelligence artificielle. L'IA connexionniste, c'est celle qu'on connaît pour le grand public, même souvent la presse. Quand on parle d'intelligence artificielle, on ramène ça à l'IA connexionniste. Quand on rajoute connexionniste, c'est souvent par opposition à l'intelligence artificielle dite symbolique qui a caractérisé, on va dire, les années 1960 jusqu'à la fin, enfin le début des années 2000 ou fin des années 90. Pour dire en deux mots, l'IA symbolique, elle essaye de représenter les connaissances qu'on a envie de manipuler pour faire des raisonnements. Donc, on va représenter explicitement dans la machine ce qui est un chat, ce qui est un raisonnement, ce qui est, moi je ne sais pas, une machine qu'on essaie de diagnostiquer. Donc, c'est de la représentation des connaissances.

Monde Numérique :
[2:47] Donc on la décrit au programme voilà.

Jean-Paul Krivine:
[2:50] On décrit au programme des connaissances, on décrit au programme des modes de raisonnement, ce qui a été la belle époque de cette intelligence artificielle symbolique c'est ce qu'on appelait les systèmes experts voilà, les systèmes experts qui codaient des règles d'expertise d'experts d'un domaine donc si j'observe telle chose alors il est possible que telle autre chose soit la conséquence ça c'est pour faire simple, l'IA symbolique, Et ça a eu des tas d'applications, notamment dans le domaine du jeu, je veux dire, on a souvent parlé du jeu d'échecs, où on représentait explicitement, je dirais, les arbres de décision du jeu d'échecs. L'IA connexionniste d'aujourd'hui, elle est complètement sur une autre approche. On pourrait dire que l'IA symbolique, quelque part, c'est des raisonnements déductifs. alors que l'IA symbolique va procéder complètement autrement. Elle va essayer de coder dans ce qu'on appelle des réseaux de neurones, le terme, on peut le discuter parce qu'il est très anthropomorphique, le résultat d'un apprentissage sur énormément de données. Et c'est ça qu'il importe de comprendre et que visiblement, la critique qu'on fait de ce qu'on peut dire dans le livre de Julia, c'est qu'il n'a pas compris ça, étant à ramener le fonctionnement de l'IA connexionniste d'aujourd'hui au mécanisme qui connaît de l'IA symbolique d'avant.

Monde Numérique :
[4:08] L'IA connexionniste qui a bénéficié notamment des travaux de Yann LeCun, etc.

Jean-Paul Krivine:
[4:13] Oui, absolument. Yann LeCun, je dirais, est un des pionniers, ça on peut le dire, et puis aussi un de ceux qui ont révolutionné le domaine. Il n'est pas le seul, c'est une œuvre collective, mais Yann LeCun, oui, absolument, qui est un Français, qui a obtenu en 2019 le prix Turing qu'on considère souvent comme l'équivalent du prix Nobel en informel.

Monde Numérique :
[4:33] En quoi est-ce que ça change la perception du concept même d'intelligence artificielle ?

Jean-Paul Krivine:
[4:40] L'IA connexionniste ?

Monde Numérique :
[4:41] Ce distinguo entre connexionniste, symbolique, etc.

Jean-Paul Krivine:
[4:45] Alors, c'est important à comprendre. L'IA symbolique, finalement, on décrit des raisonnements dans la machine, on espère que la machine va les... et on fait tout pour que la machine les reproduise. Donc, on a quelque chose qui n'est pas une boîte noire, quelque chose où on peut suivre le raisonnement, ça peut être compliqué, il faut peut-être céder d'outils, mais on s'en sort. L'IA connexionniste, elle fait des sortes d'abstractions et de généralisations sur de gigantesques corpus d'apprentissage dans lesquels elle va coder, dans ses paramètres, la distinction entre les données, les données d'apprentissage et les paramètres de son modèle, cette sorte de, on peut dire, de synthèse qu'elle a faite. Alors, je ne sais pas, peut-être que vous voulez que je donne un exemple pour faire toucher...

Monde Numérique :
[5:31] Oui, volontiers.

Jean-Paul Krivine:
[5:32] C'est un exemple extrêmement simplifié de ce qu'est l'IA connexionniste. Supposons qu'on veuille faire prédire à un système la taille d'un enfant en fonction de son âge. Alors, on peut rentrer des règles, ça c'est assez symbolique, de certaines manières. En IA connexionniste, on va faire autrement. On va lui donner énormément de données d'un certain nombre d'enfants, en donnant leur âge et leur taille. Donc, moi, je ne sais pas, Benjamin à 10 ans, il mesure 1m10.

Jean-Paul Krivine:
[5:58] Laura à 8 ans, elle mesure, voilà. Et on va, je dirais, le faire travailler sur ces données. Et puis, finalement, le système, je dirais, en itérant là-dessus, c'est-à-dire qu'on lui dira à la fin, où il trouvera lui-même que c'est vrai ou pas vrai ce qu'il a identifié, où il va trouver des régularités, en fait il va trouver plein de régularités et il va dire par exemple qu'en général les enfants à la naissance font en moyenne 40 cm et puis que chaque année ils gagnent 10 cm jusqu'à 10 ans par exemple. Il va trouver ça et donc ça les données d'entraînement c'est les milliers ou les dizaines de milliers de cas qu'on lui a soumis avec la taille et l'âge et puis les paramètres qu'il va garder c'est juste le 40 cm à la naissance et le disparant qui est l'accroissement. Il garde deux nombres, c'est les paramètres. Tout le reste, il l'oublie. Et donc, l'IA connexionniste a construit son réseau. Alors après, c'est un réseau, c'est mille fois plus compliqué que ce que je viens de dire. Ne serait-ce que ce n'est pas deux paramètres, mais des milliards et des milliards de paramètres. Mais le principe est celui-là. Et on voit bien que dans ce résultat, l'IA n'a pu garder, n'a rien dans une base de connaissances. Elle a deux paramètres qui lui permettent, si je dis, j'ai un enfant qui a huit ans, il va me dire qu'il est très probable qu'il ait cette taille-là.

Monde Numérique :
[7:15] Alors, il y a aussi cette fameuse question des hallucinations des intelligences artificielles génératives. Vous vous expliquez, si j'ai bien compris, qu'en fait, ça ne dépend pas du fait qu'il y ait des informations vraies ou fausses sur Internet.

Jean-Paul Krivine:
[7:30] Non, je ne dis pas ça. D'abord, il faut comprendre ce qu'est une hallucination. Une hallucination, c'est quelque chose d'intrinsèque au modèle. Reprenez mon exemple de la taille et l'âge d'un enfant. Finalement, ce qu'a retenu dans ces paramètres le réseau de neurones qu'on a construit, c'est une relation entre la taille et l'âge. Mais si ça se trouve, si je lui dis un enfant de 8 ans à quel âge, il va me dire, plutôt un enfant de 8 ans à quelle taille, il va me dire par exemple un mètre, parce que c'est la moyenne finalement qu'il a faite. Mais dans sa base de données, il n'aura aucun enfant de 8 ans qui avait cet âge-là. Et en fait, l'hallucination, c'est le fait qu'il y a un décalage entre ce que le réseau de neurones va produire et la réalité que nous, en tant qu'observateurs, on regarde. Donc dit autrement pour l'IA générative, l'IA générative n'a pas de rapport au vrai.

Jean-Paul Krivine:
[8:25] Elle a un rapport au vraisemblable, au cohérent, à tout ce qu'on veut, mais ce n'est pas le vrai, c'est quelque chose qui a été généré. Alors, pour les IA génératives de Tchad GPT, c'est la génération du mot suivant le plus probable. Donc, les hallucinations, pour les comprendre, il faut fondamentalement revenir à ce que je viens de dire sur les réseaux de neurones. Et ce n'est pas, contrairement à ce que dit Duc Julia, le fait qu'il va chercher dans sa base de données, il n'y a pas de base de données, des informations, mais comme il ne les trouve pas, il compléterait comme il pouvait. Non, ça n'est pas du tout ce fonctionnement-là. Et que donc, pour revenir à votre question, oui, des données qui sont, comment dire, de mauvaise qualité vont induire des raisonnements et des conclusions de l'intelligence artificielle que nous, en tant qu'être humain, qu'on va le regarder, on va dire qu'il n'y a plein d'erreurs, on appellera ça des hallucinations. Donc bien sûr la qualité des bases des données d'apprentissage sont très importantes mais intrinsèquement les hallucinations c'est le fait que le système génère quelque chose qui est à partir d'un modèle de la réalité mais pas de la réalité donc il y aura toujours des hallucinations et comprendre ce phénomène là, c'est fondamental Or Luc Julia visiblement ne le comprend pas et donc tire des raisonnements qui sont faux il dit qu'on pourrait écarter tout problème d'hallucination si on avait des données extrêmement bien qualifiées. Voilà, il y a plein de conclusions qu'ils tirent, qui ne sont pas fondées parce qu'ils semblent visiblement ne pas comprendre ces IA connexionnistes.

Monde Numérique :
[9:51] Il y a un autre point, Jean-Paul Krivine, c'est peut-être un détail, mais moi ça m'a fait tilter parce que vous parlez des transformeurs, les fameux transformeurs de Google. Moi j'ai toujours cru, comme beaucoup de gens, que c'était un peu la base, le point de départ des IA génératives. Et là aussi, vous vous inscrivez en faux, vous dites « Non, en fait, non, ça existait déjà, etc. ».

Jean-Paul Krivine:
[10:15] Alors juste une petite remarque au préalable, le fond de la critique sur le livre de Luc Julia, c'est qu'il donne l'impression de ne pas comprendre le fonctionnement de l'intelligence artificielle connexionniste. Il se trouve qu'en plus, et dans mon article je donne des tas d'exemples, ça fourmille d'erreurs, je dirais, d'anecdotes qui ne sont pas fondées, d'approximations qui sont en fait erronées. Donc, l'affaire des transformeurs, je vais y revenir, n'est pas, comment dire, l'élément fondamental. Je crois qu'il faut garder ça en tête. Mais il dit exactement, grâce aux transformeurs, on a enfin pu prédire le mot suivant dans les IA génératives. Ça, ce n'est pas vrai. On savait le faire avant, mais pour faire un peu simple, on ne savait pas le faire de manière efficace telle qu'on voulait le faire. Donc, les transformeurs sont vraiment une révolution de ce point de vue-là, une avancée majeure, parce qu'ils ont offert une manière de le faire de manière beaucoup plus efficace. Donc, ça, il se trompe en disant c'est grâce aux transformeurs qu'on prédit le mot d'après et puis il dit d'autres choses juste après, dans quelques phrases après, en disant mais de toute manière, on n'a rien pu en faire pendant 5 ans parce que les CPU et les GPU, en gros, les processeurs qu'on utilise dans l'intelligence artificielle, ne savaient pas faire de calcul parallèle à ce moment-là. Il a fallu attendre un peu, ce qui n'est pas vrai. D'une part, ces CPU, ces GPU existaient et deuxièmement, si tôt publié l'article sur les transformeurs par une équipe de Google, il y a eu tout de suite des applications dont il me semble la première version de GPT.

Monde Numérique :
[11:43] Est-ce que ces précisions techniques ou imprécisions, selon vous, sont de nature à fausser le raisonnement global ?

Jean-Paul Krivine:
[11:53] Alors, ça c'est un débat qui est intéressant. On peut avoir un propos général sur l'intelligence artificielle, son impact dans la société, sans forcément être un expert de tous les sujets liés au connexionnisme. Et inversement, on peut être un expert des sujets au connexionnisme et raconter n'importe quoi sur les impacts dans la société. C'est ce que je disais au tout début, c'est les rapports entre science et société, en débats de société. Les débats de société ne se ramènent pas à la science et la science n'est pas prescriptive de ce qui doit être fait.

Monde Numérique :
[12:27] Et c'est comme ça que, pardon, pour établir ce que vous dites, c'est comme ça que des tas de gens prennent la parole sur l'intelligence artificielle, sans être des spécialistes de l'intelligence artificielle et en étant sociologue, philosophe, etc.

Jean-Paul Krivine:
[12:42] Ce qui ne me pose aucun problème. Je veux dire, dans le débat public, tout le monde est légitime pour le faire et que quand on se place sur un débat de société, on peut le faire. Encore que, et c'est ça la question, il faut quand même, dès lors qu'on fait référence à des connaissances scientifiques et techniques.

Jean-Paul Krivine:
[12:56] Ne pas raconter des âneries qui, du coup, discréditent complètement le propos et ne pas faire reposer ce qu'on raconte sur des arguments qui sont faux. Or, c'est ce que fait Luc Julia. C'est-à-dire que le propos général, je l'ai dit tout à l'heure, pour dire qu'il y a, comment dire, une bulle autour d'Internet, qu'on nous dit que ces machines sont intelligentes, vont prendre le pouvoir et qu'il y a une vision apocalyptique, ce n'est pas fondé. Quand on sait comment ça marche, quand on explique, ce n'est pas fondé. Donc, formellement, Luc Julia a raison de dire ça, je suis d'accord. Mais comme il l'appuie sur des arguments qui ne vont pas, ça discrédite complètement la chose. Je vais prendre une illustration, une analogie. Ça reste une analogie. Imaginez un médecin qui parle des antibiotiques et de la vaccination en disant, attention, il ne faut pas trop utiliser les antibiotiques. Attention, au contraire, la vaccination, c'est une bonne chose, ça protège. Et qui illustrerait son propos en mélangeant ce qu'est des bactéries et des virus. Du coup, on ne comprend plus rien sur le fondement sur les antibiotiques et qui ne comprendrait rien à l'immunité qui est le fondement de la vaccination. On pourrait dire que son propos est juste, il ne faut pas trop user les antibiotiques à tort et à travers, il faut promouvoir la vaccination, moi je peux être d'accord avec ça, mais le discours qui est sous-jacent est erroné, donc ça discrédite tout. Et je pense que c'est exactement l'analogie que j'ai envie de faire sur le livre de Luc Julien.

Monde Numérique :
[14:12] Donc finalement, c'est moins choquant, je ne sais pas, encore une fois, un sociologue ou un philosophe qui avancerait des théories et des concepts et des analyses sur l'IA, à condition qu'il ne s'appuie pas et qu'il ne cite pas de références techniques. Dans ce cas-là, ça passerait crème.

Jean-Paul Krivine:
[14:28] Non, non, non, c'est pas ça que je veux dire. Je ne veux pas dire que Seul aurait le droit de parler de technologie, enfin plutôt de questions de société qui impliquent la technologie, les experts du domaine. Parce que dès lors qu'on parle de conséquences dans la société, on relève d'un domaine où le scientifique n'a pas réponse à tout parce que la science ne dit pas ce qu'il faut faire. Donc, je ne veux absolument pas enlever la légitimité de tas de gens qui interviennent là-dessus. Ce que je dis, c'est quand on intervient sur un sujet, il faut s'assurer de ne pas raconter n'importe quoi sur les bases technologiques sur lesquelles on s'appuie. Voilà, donc il y a des sociologues qui racontent n'importe quoi, qui racontent des choses sur l'intelligence artificielle, sur plein d'autres choses. On a des sociologues dans la crise du Covid qui ont raconté n'importe quoi sur la question du virus. Donc, on peut avoir ce même genre de choses chez d'autres personnes, ce n'est pas plus légitime. Je veux juste séparer le domaine de l'expertise, où quand on s'appuie dessus, il faut qu'elle soit exacte, il n'y a pas besoin d'être un expert, du domaine de ce qu'on raconte sur la société. Il faut fonder les choses sérieusement.

Monde Numérique :
[15:32] Quel que soit le public auquel on s'adresse et quels que soient les messages qu'on parvient finalement à faire passer ?

Jean-Paul Krivine:
[15:39] Ah oui, je pense qu'il n'y a aucun public qui mériterait qu'on raconte n'importe quoi. Sur mon analogie, c'est la question des microbes et des virus pour les antibiotiques et sur l'intelligence artificielle, mélanger paramètres et, données, mais ça va plus que ça, ce n'est pas simplement mélanger paramètres et données, c'est penser que le système de connexionniste travaille en allant chercher dans une base de données la réponse qu'il veut, ce qui est tout simplement pas vrai. Donc non, quel que soit le public auquel on s'adresse, on doit pouvoir, je vais employer le terme, vulgariser les choses sans déformer la connaissance scientifique où, je veux dire, on évite de vulgariser si on ne la comprend pas. Mais donc, quel que soit le public, il faut juste adapter la manière de la pédagogie qu'on utilise.

Monde Numérique :
[16:21] On a beaucoup reproché à Luc Julia son audition au Sénat. Est-ce que vous pensez véritablement que tout ce qu'il a pu dire au Sénat pourrait orienter les sénateurs dans une mauvaise direction ?

Jean-Paul Krivine:
[16:31] Ça soulève un problème beaucoup plus général, qui est celui de nos élus et d'une certaine manière aussi des médias, c'est comment on choisit nos experts. Les experts qui vont intervenir là-dessus, il y a un vrai problème de déficit au niveau de la décision politique qui est de rendre explicite, de donner la transparence sur quel corpus de connaissances ils s'appuient pour prendre leurs décisions.

Jean-Paul Krivine:
[16:55] Et donc, ce qu'il dit derrière, c'est quels experts ils utilisent, quelles agences ils vont consulter pour dire, voilà, il faut faire ceci, cela. Donc, qu'il soit auditionné au Sénat, je veux dire, les sénateurs ont peut-être été, comment dire, impressionnés par son aura médiatique et se sont dit, c'est quelqu'un de sérieux. Les médias sont peut-être entre eux auto-alimentés en disant, finalement, si les confrères l'invitent, c'est qu'il est très pertinent. Et puis, il a un discours qui peut séduire et puis il parle bien. Donc, voilà, je ne sais pas si les sénateurs vont être complètement influencés, parce que, par quoi ? Ce qu'il a dit, finalement, il a raconté pas mal d'âneries sur l'intelligence artificielle, mais sur la partie technique et scientifique. Mais, je veux dire, son discours général, les sénateurs vont prendre comme ça. Donc, voilà, je ne sais pas si je réponds complètement à votre question, mais ça pose la vraie question derrière, qui est comment on chasse d'un expert. Je voudrais aussi quand même revenir sur cette controverse, si vous voulez bien, en rajoutant un point, on a reproché, on m'a reproché aussi, de faire un lynchage médiatique vis-à-vis de Luc Julia.

Monde Numérique :
[18:02] Alors, je ne pense pas que ce soit à vous qu'on l'ait reproché. Non, mais ça a été reproché.

Jean-Paul Krivine:
[18:06] Moi, je l'ai reproché. Sur les réseaux sociaux, on m'a dit, mais pourquoi participer au lynchage médiatique de Luc Julia ? Pourquoi pas d'autres ? Alors, d'autres, on a aussi critiqué d'autres, et puis on a dit à d'autres, c'était très bien. Yann Lecun écrit des choses passionnantes. Mais ce n'est pas un lynchage médiatique, je voudrais juste dire que quand on s'expose volontairement sur les médias, qu'on accepte d'aller parler partout dans tous les journaux, dans toutes les télévisions qu'on passe devant le Sénat, il faut aussi accepter à un moment donné que quand la critique est sur la place publique, elle soit médiatisée. Et on ne peut pas dire dans un côté qu'on propulse en avant quelqu'un médiatiquement, c'est très bien, et quand on le critique et que c'est médiatisé, dire que c'est un lynchage médiatique, il faut en revenir ce que vous faites là, et c'est très bien, sur le fond des arguments, sur les questions que ça pose, et le fait que je ne suis pas dans le cerveau de Luc Julia, je ne sais pas s'il comprend ou il ne comprend pas l'IA connexionniste, mais ses écrits montrent qu'il ne la comprend pas.

Monde Numérique :
[18:59] Est-ce qu'il n'y a pas aussi le fait qu'à un certain moment, des personnalités deviennent avant tout des personnalités médiatiques et on les invite pour faire le show d'une certaine manière ? Et ce qu'on attend d'elles, ce n'est pas forcément une expertise, mais c'est un regard, c'est une prise de parole, c'est une séquence, un moment, surtout dans des émissions de divertissement aussi. Et ça, les scientifiques, les experts d'un domaine ne supportent pas en réalité.

Jean-Paul Krivine:
[19:28] Oui, mais si quand même le but, il est quelque part d'informer, vous avez tout à fait raison, un journaliste, il a envie que son truc soit vivant. Un animateur de télé, il a envie que les auditeurs ne s'en dorment pas.

Monde Numérique :
[19:42] Même des entreprises qui font des conférences, voilà.

Jean-Paul Krivine:
[19:45] Voilà, mais ça ne justifie pas que soit raconté n'importe quoi sur le sujet. Et j'insiste, les erreurs qu'on a relevées dans son livre, alors on a pris son livre exprès parce que c'est écrit, je veux dire, ça condense ce qu'il dit dans les conférences, mais au moins chacun peut vérifier, c'est écrit, et on peut estimer qu'il a relu ce livre, montre que c'est une incompréhension fondamentale de l'IA connexionniste. Ce n'est pas quelques erreurs qu'on va chercher, qu'on met en épingle. J'en ai mis, par ailleurs, il y en a plein partout. On n'a pas tout balayé, mais je veux dire, il y a des incompréhensions fondamentales. Et ça, ça disqualifie pour aller parler, si l'objectif du journaliste est de parler de ce sujet-là, ça disqualifie. Parce que, je veux dire, c'est quelle crédibilité, finalement, pour le journalisme, si, sous prétexte que la personne parle bien à du bas goût, finalement, on peut la laisser dire un peu n'importe quoi sur le fond du sujet, au nom, éventuellement, d'un discours plus général qui est entendable, à savoir...

Jean-Paul Krivine:
[20:40] Et c'est ça, le fond du problème.

Monde Numérique :
[20:43] Merci, Jean-Paul Krivine. Merci pour ces précisions. Chacun se fera son opinion, j'ai envie de dire, sur la polémique elle-même. Voilà, et on vous retrouve donc sur le site de l'AFIS, l'Association Française pour l'information scientifique.

Jean-Paul Krivine:
[20:59] Oui, alors pour faire un peu de publicité, c'est www.afis.org où l'article en question est en accès libre. Tous nos articles sont en accès libre.

Monde Numérique :
[21:09] Merci beaucoup.

Jean-Paul Krivine:
[21:10] Merci bien pour l'invitation.