🎤 Céleste, l’IA anti-fake news qui veut rétablir la vérité sur X (Benjamin Sire, Les Électrons Libres)

Benjamin Sire: [0:01] Alors pourquoi Céleste est accessible que sur X ? D'abord parce qu'on considère Benjamin Sire: [0:07] que X, aujourd'hui, en termes de réseau, c'est le noeud de l'information. C'est là aussi où se diffuse le plus de fake news. Et puis après, il y a autre chose derrière Céleste. Ce n'est pas seulement une IA de debanking, c'est aussi notre nouveau moyen d'avoir une communication permanente avec nos lecteurs. Monde Numérique : [0:34] Bonjour Benjamin Sire. Benjamin Sire: [0:36] Bonjour Jérôme. Monde Numérique : [0:38] Ravi de te recevoir dans Monde Numérique, musicien, compositeur et puis également journaliste et co-créateur et fondateur, co-fondateur et rédacteur en chef, ça fait beaucoup de titres, de Les Électrons Libres, qui est un média en ligne indépendant, média scientifique, également écologique, etc. Et surtout, je suis heureux de t'avoir dans mon numérique pour parler d'une initiative qui a été lancée par les électrons libres le 27 mai. C'est un chatbot intégré à X, qui est en fait un chatbot pour faire du fact-checking scientifique. Monde Numérique : [1:15] Mon IA céleste, est-ce que tu peux nous présenter un petit peu ça ? Benjamin Sire: [1:18] Alors oui, mon IA Céleste est donc le premier chatbot adossé à un média mondialement présent sur X, qui est une sorte, on va dire, de concurrent de Grock, mais qui est spécifiquement fondé sur le fait de répondre aux internautes sur les sujets qui sont nos sujets de prédilection, la science, la technologie, l'IA, la médecine, l'agriculture, et qui permet aussi, et c'est la raison pour laquelle on a voulu le lancer, d'avoir vraiment un outil de debunk face à la désinformation sur tous ces sujets-là, qui est vraiment extrêmement présente sur les réseaux, et qui, hélas, n'épargne pas non plus groc. Benjamin Sire: [2:09] On a travaillé d'une manière différente c'est-à-dire qu'on n'a pas une IA qui se nourrit de l'intégralité des médias et des sources qu'elle peut trouver pour répondre à une question mais une IA qui est nourrie par un certain nombre de sources qu'on a parfaitement contrôlées alors d'abord pour commencer évidemment elle se nourrit de tous les contenus des électrons libres qui ont été publiés depuis un an puisque le média a lui aussi très exactement un an Elle se nourrit ensuite, et ça c'est quelque chose dont on est très content, de Our World in Data. Our World in Data, c'est la base de données, l'extraordinaire base de données scientifiques, économiques de l'Université d'Oxford et qui est vraiment quelque chose d'une mine incroyable. Absolument incroyable de rigueur et en termes de données. Et puis après, elle se nourrit d'une liste blanche de sources, souvent qui peuvent être des rapports scientifiques, universitaires, mais aussi des sites à travers le monde entier qui sont reconnus pour le rigueur dans tous ces domaines que nous traitons. Monde Numérique : [3:16] Alors, qu'est-ce qu'on peut lui poser comme question, par exemple ? Là, ça fait déjà quelques jours que c'est en ligne. On voit un petit peu que ça part dans de nombreuses directions. Monde Numérique : [3:24] Est-ce qu'on peut donner quelques exemples ? Benjamin Sire: [3:26] Alors d'abord, évidemment, elle n'est pas faite pour répondre à des sujets de savoir quel va être le prochain résultat du top 14 ou donner la recette de la tarte aux fraises. Son but, c'est de pouvoir réagir notamment à des informations qui sont diffusées sur X, que ce soit d'ailleurs des émissions, que ce soit des propos d'internautes, que ce soit des propos de politique, de journaliste. Et on va lui demander, Céleste, donc c'est arrobaz monia Céleste, on va lui demander, Céleste, est-ce que c'est vrai ce qu'il dit là sur la climatisation ? Est-ce que le rôle de la politique agricole commune, par exemple, a été celui qui est expliqué dans ce tweet ? Est-ce que vraiment le nucléaire est le plus grand danger que l'humanité doit affronter, etc. Donc on reste sur nos sujets. Où en est-on dans les avancées sur le cancer du pancréas ? Est-ce que cette polémique a lieu d'être sur tel sujet ? C'est ce qui se passe et c'est de la manière d'ailleurs dont on le constate depuis le lancement, les internautes s'en saisissent. Monde Numérique : [4:39] Oui, alors, donc, on explique, ça fonctionne comme Grock pour les utilisateurs de X. Benjamin Sire: [4:44] À une différence près, c'est que Grock sur X, on ne peut pas l'interroger si on n'est pas un abonné premium de X. Or là, mon IA Céleste s'adresse à tous les abonnés de X. Monde Numérique : [4:58] Et c'est un véritable outil de fact-checking, en fait. C'est-à-dire qu'une organisation ou un particulier, même un responsable politique, un militant, etc., a fait un poste, une déclaration sur un sujet comme ce qu'on vient d'évoquer, donc de nature un peu scientifique ou technique, on peut demander immédiatement, tiens, est-ce que ça c'est vrai, demander des précisions, etc. Benjamin Sire: [5:24] Absolument, avec encore une particularité qui diffère un petit peu par rapport à Grock, c'est que Céleste répond beaucoup plus rapidement et qu'elle fournit systématiquement un lien relatif. Alors, parfois, le lien, d'ailleurs, est plus relatif, mais que peut-être le meilleur qui sera donné. Ça, on travaille à Amélios, mais pas ça. On vient de sortir. On a fait des semaines et des semaines d'essais. Monde Numérique : [5:51] Mais on va continuer. Benjamin Sire: [5:53] À améliorer l'outil, de manière vraiment, on travaille non-stop sur ce sujet-là, mais au fur et à mesure des discussions, on peut reposer ensuite, on peut approfondir la conversation avec Céleste, en évitant qu'il y ait plus de cinq échanges pour le moment. Il y a certaines contraintes techniques. Monde Numérique : [6:14] Mais c'est vrai que c'est assez efficace. Le premier jour, elle a mouché, je ne sais plus quelle personnalité qui était interviewée sur un plateau de télé, qui faisait une déclaration à propos de la climatisation, justement, et la réplique était sanglante. Benjamin Sire: [6:33] En plus, la climatisation, c'est le sujet qu'on vient de traiter aujourd'hui, d'ailleurs, dans les électrons libres. L'article du jour. C'est le sujet du moment. Benjamin Sire: [6:42] C'est le sujet du moment, mais de rappeler, c'est ce qu'on a fait aujourd'hui dans les électrons, c'est de rappeler quand même l'abomination qui, découle de cette volonté d'interdire la climatisation partout, quand on voit ce qui se passe aujourd'hui dans les EHPAD, quand on voit ce qui se passe dans les hôpitaux, quand on voit ce qui se passe dans les gares et avec des systèmes, des infrastructures souvent qui sont neuves, dans lequel il y a eu une volonté idéologique de dire, finalement, on va lutter contre le froid l'hiver, mais le chaud, ça ne pose pas de problème. Depuis la canicule de 2003, qui a quand même été une horreur, qui a fait 15 000 morts supplémentaires extrêmement vite, il y a eu des plans bleus, mais il n'y a toujours pas eu de politique réelle qui permet aux gens, dans un contexte avéré de réchauffement climatique, de pouvoir profiter de la fraîcheur. Et bien effectivement, là-dessus, Céleste, se nourrissant à la fois de nos articles et des données réelles scientifiques, va rétablir la vérité, ce qu'elle a fait hier. Monde Numérique : [7:53] Alors, la vérité scientifique, qu'est-ce qui garantit véritablement que Céleste dit vrai par rapport à une, pour reprendre cet exemple, une responsable d'une organisation, je ne sais plus trop laquelle, qui prétendait le contraire, en fait ? Benjamin Sire: [8:08] En fait, Céleste, elle s'appuie sur les données. Elle ne s'appuie pas sur des chiffres inventés. On le voit en permanence sur les plateaux de télé. des responsables politiques, des responsables militants et autres, vont vous dire « Ceux-ci consomment 48% de plus que ceux-là ». Monde Numérique : [8:27] Oui, les data centers. Benjamin Sire: [8:29] Les emails, les box à la maison. On parle typiquement, par exemple, on sort encore en permanence sur tous les plateaux, on nous explique qu'une requête chat-chipiti, ça correspond à la dépense d'un verre d'eau ou d'un demi-verre d'eau, sauf qu'on se fonde quand on dit ça sur les données de lancement de la première génération de chat GPT la consommation a été divisée par 10, la consommation de la même manière on explique que les data centers vont vider les océans mais c'est, C'est des propos, en fait, qui n'ont aucun sens, soit qui se fondent sur des données totalement obsolètes. Et nous, on est là pour rétablir les données en cours, celles qui ont une validité, Benjamin Sire: [9:12] soit carrément des choses inventées aux doigts mouillés. Monde Numérique : [9:17] Oui, mais Benjamin, les IA, ça hallucine parfois. Grock, pour reparler de Grock, qui a des défauts, mais qui a aussi des qualités, qui, dans certains cas, est très bon pour faire du fact-checking, parfois dit absolument n'importe quoi. Il est arrivé de débiter les pires erreurs, les plus grosses erreurs. Benjamin Sire: [9:33] Il a fait l'apologie d'Hitler. Monde Numérique : [9:36] Absolument, voilà, entre autres choses. Voilà, les IA sont imparfaites, parfois elles font des sorties de route. Est-ce que la vôtre est réellement à l'abri de ça ? Benjamin Sire: [9:46] La différence, c'est que nous, ce n'est pas un modèle, ce n'est pas un LLM complet qu'on a développé avec 15 milliards. C'est un chatbot qui est fondé réellement sur des sources qui peuvent difficilement, sortir de ce carton c'est très encadré il y a des prompts extrêmement précis des couches de fact-checking sur chaque layer du prompt pour éviter alors après il peut y avoir, encore des interprétations, qui sont discutables, on travaille au réglage là-dessus en permanence et on va continuer pour qu'elle soit le plus fiable possible à partir de nos données et des données avec lesquelles on la nourrit. Mais là encore, c'est une chose qui m'intéresse beaucoup avec l'IA. Le prompt, c'est un peu une de mes passions du moment. Le prompt, c'est ce, quand même sa qualité qui induit la réponse de l'IA. La manière dont on pose une question et aussi la manière dont on va peut-être verrouiller, avec certains systèmes, dans la rédaction du compte, le fait d'interdire en réalité à l'IA d'halluciner. Mais la fiabilité à 100%, ça n'existe pas. Ça n'existe pas, y compris avec les vrais gros modèles qu'on emploie bien au-delà des réseaux, que ce soit Claude, Gemini, ChatGPT. Benjamin Sire: [11:15] Cette fiabilité à 100% n'existe pas. Mais ce n'est pas la même chose que de Benjamin Sire: [11:19] dire sciemment n'importe quoi juste pour défendre une idéologie ou un militantisme. Monde Numérique : [11:24] Bien sûr. Un mot, c'est intéressant ça, sur l'aspect technique, quand tu dis le prompt, on ne parle pas uniquement de la question qui est posée par l'internaute, on parle de ce qui se passe derrière en fait. C'est bien ça ? Benjamin Sire: [11:38] Oui. Monde Numérique : [11:40] Donc en fait, quand un internaute, un utilisateur pose une question à mon IA Céleste, ça va déclencher derrière la mise en route de différents prompts, etc ? Benjamin Sire: [11:48] Alors, il y a deux. Déjà, ça fonctionne sur deux règles différents. Le premier qui est spécifiquement fondé sur les contenus des électrons libres. Le deuxième sur la base de données de World in Data. Et ensuite, on travaille avec Linkup, qui est une startup française. C'est un système vraiment souverain. on se sert du modèle Mistral du dernier modèle Mistral et avec Linkup qui à partir de notre liste va chercher tout de suite les meilleures sources, les plus fiables à partir de la manière dont ils ont été travaillés avec ensuite à chaque fois, un système de fact-checking, A priori, avant que la réponse soit envoyée, et évidemment aussi un système Benjamin Sire: [12:37] de contrôle anti-discrimination qui est indispensable dans ce cas-là. Et il faut savoir que Céleste ne répond pas à n'importe quoi. Benjamin Sire: [12:46] Quand elle sort de son domaine, elle dit clairement, soit parce que c'est un sujet polémique qui ne rentre pas du tout dans ce que nous, on a envie de faire, soit parce qu'effectivement, oui, elle ne connaît pas la recette de la tarte aux fraises, elle va dire clairement, désolé, mais moi mon domaine c'est plutôt l'économie, la science le débunk et pas juste ce pourquoi les LLM classiques sont servis. C'est un outil un petit peu de combat scientifique c'est en gros une sorte d'outil. Benjamin Sire: [13:22] Pour pouvoir gérer la loi de Brandolini on va dire, pour rappeler ce que c'est, c'est effectivement la loi de Bernolini, c'est celle qui témoigne du fait qu'il est très facile de diffuser une fake news, dire par exemple que la catastrophe de Fukushima a fait des milliers de morts à cause du nucléaire, alors qu'elle en a fait en fait zéro à cause du nucléaire, mais elle les a fait à cause du tsunami, mais quand on dit ça, parce qu'on continue à l'entendre en permanence, il y avait l'anniversaire, le triste anniversaire de la catastrophe il y a peu de temps, on a continué à envoyer ça, la loi de Brandonis, c'est qu'une fois que cette fake news est envoyée, il y a une énergie absolument décuplée, centuplée, nécessaire pour arriver à contrer une fausse information. La fausse information fait son chemin immédiatement. Le rétablissement de la vérité est une œuvre extrêmement complexe, Benjamin Sire: [14:16] longue, et Céleste est un des outils qui permet d'y concourir. Monde Numérique : [14:21] Comment est-ce que vous avez pu faire ça sur X Sous-titrage ST' 501 qui est donc la chasse gardée de XAI, enfin maintenant SpaceX, Elon Musk, qui a donc sa propre IA, et vous, vous êtes intégré là-dedans ? Benjamin Sire: [14:37] Et d'ailleurs, Grock a salué l'arrivée de Céleste. Monde Numérique : [14:41] Les IA sont courtoises entre elles. Benjamin Sire: [14:43] Les IA sont toujours courtoises, et on espère d'ailleurs que, et c'est déjà le cas, des internautes qui vont chatouiller Céleste, demander à Grock, mais est-ce que c'est vrai ce qu'elle dit ? Et puis après, Céleste et Grock vont finir le fight ensemble. C'est assez marrant. On n'a pas eu spécialement de difficultés pour cette intégration. Il a fallu qu'on s'adapte à la fois techniquement à certains processus et puis il a fallu aussi qu'on fasse extrêmement attention aux politiques internes de X. Et aussi, alors ça c'est un truc technique, mais je ne vais pas rentrer dans ce détail-là. L'une des vraies problématiques c'est que l'algorithme de X et que ça arrive de fonctionnement ont tendance à changer, très souvent et ça on connait ce qui se passe quand il y a un update les difficultés techniques, qu'elle peut poser quand c'est un update d'algorithme à la fois pour aller vers le public ou pour arriver à diffuser un certain nombre d'informations ça peut changer des choses mais là encore on travaille, en permanence sur ce sujet mais on n'a pas eu de difficultés particulières pour le moment. Monde Numérique : [15:52] Mais ça veut dire que Céleste n'est accessible que sur X à l'heure actuelle ? Benjamin Sire: [15:57] Alors pourquoi Céleste n'est accessible que sur X ? D'abord parce qu'on considère que X aujourd'hui en termes de réseau, c'est le nœud de l'information. Benjamin Sire: [16:09] Et c'est l'endroit où il est techniquement possible d'adosser Céleste. Ça, c'est la première raison. C'est là aussi où se diffuse le plus de fake news. C'est là que se fait la garde d'informations. Et puis après, il y a autre chose derrière Céleste. Ce n'est pas seulement une IA de debanking, c'est aussi notre nouveau moyen d'avoir une communication permanente avec nos lecteurs, sachant que tous les fondateurs des électrons libres se sont rencontrés sur les réseaux on est très attaché à ça la plupart de nos auteurs qui sont chacun des experts dans leur domaine ce sont des gens qui eux aussi et c'est comme ça qu'on les a repérés avaient une vraie spécificité réseau on est très attaché à cette question des réseaux et à cette question de la communauté on a créé réellement une communauté ce que les autres médias ne font pas c'est-à-dire qu'on a des boucles de discussion avec tous nos abonnés premium, qui discutent avec nos auteurs, avec les fondateurs en permanence, qui crée une émulation et une vraie communauté permanente qui co-construise ce média. Et on a besoin de faire ça sur X. On remarque, on a eu pas mal d'interviews, de gros médias qui s'intéressent au sujet. Et moi, je remarque, je dis, tiens, tel journal, grand journal français sur X a 10 millions d'abonnés. Benjamin Sire: [17:32] Nous, on n'est pas 10 millions d'abonnés, on vient de se lancer, on a 25 000 abonnés, on progresse en permanence, rien que Céleste aurait gagné 5 milliards, donc ce n'est pas rien, mais ce n'est pas les mêmes volontés. Et si vous regardez le reach des articles de ces grands journaux sur les réseaux, il est ridicule. Et il n'y a pas du tout de dialogue entre le journal, ses lecteurs sur X. Nous, on est vraiment dans cette question de réelle communauté, pas juste la communauté d'un influenceur qui appelle ses followers mes chouchous, mais en fait, qui ne leur parle pas et qui en a 10 millions, c'est juste moi et mes followers. Nous, c'est vraiment un système d'interaction permanent. Et pour nous, c'est le média de demain. C'est ça, la transformation que les médias peuvent emprunter. Monde Numérique : [18:23] Oui, mais en même temps, X est un petit média. à l'échelle planétaire. C'est à peine 300 ou 400 millions d'abonnés. Benjamin Sire: [18:32] Et en baisse. Monde Numérique : [18:33] Et en baisse, voilà. En France, beaucoup de médias français, au moment où ça a été repris par Elon Musk, se sont drapés dans leur dignité et ont quitté. Benjamin Sire: [18:42] Beaucoup ont fait semblant de le quitter quand même. Oui, il y en a qui est. Et ils sont partis, effectivement, ils sont partis chez un concurrent lui-même fondé par Jack Dorsey. Monde Numérique : [18:53] Oui, mais Jack Dorsey. Benjamin Sire: [18:54] C'est le... pas le citer, sauf que le problème c'est que le concurrent il marche pas, il n'y a personne dessus et effectivement les médias essayent de s'emparer, d'autres réseaux, ils vont essayer de travailler plus avec la vidéo sur TikTok, sur Instagram, ils vont essayer d'être plus dans le concept du streaming avec Twitch et compagnie. Mais, c'est pas eux qui marchent là-dessus, non plus. La réalité, c'est que les médias aujourd'hui, l'écosystème global des médias inclut évidemment les TikTok, les Twitch, les Instagram, mais ceux qui réussissent vraiment à tirer leur épingle du jeu, Ce n'est pas les médias, ce n'est pas les médias traditionnels. C'est ceux, justement, qui, dès le départ, ont investi ces nouvelles plateformes, ces nouveaux réseaux. Et les médias traditionnels, pour l'instant, ont du mal à sortir de leur fonctionnement, malgré leur importance, malgré leur notoriété. Nous, on est un média qui essaye en réalité de faire le lien entre ce qu'est la presse réelle, qu'elle soit Internet, papier, et les nouvelles formes médiatiques qui sont aussi fondées sur la nécessité d'avoir des structures plus petites, des structures plus souples, des structures dématérialisées, des structures plus réactives et des structures dont le fondement même est le numérique. Monde Numérique : [20:20] Benjamin, si on vient à Céleste, est-ce que ça pourrait être transposé chez Meta, par exemple, sur Facebook, sur Instagram, sur WhatsApp, techniquement ? Benjamin Sire: [20:28] Alors, techniquement, ce n'est pas un problème. Après, évidemment, il y a des questions d'autorisation, mais nous, ce n'est pas forcément ce qu'on va investir en premier, ce qu'on va essayer en premier. D'abord, on va peut-être essayer déjà de transposer le chatbot sur le site, sur le site lel.media. Monde Numérique : [20:50] LEL.media, c'est ça. Benjamin Sire: [20:51] Voilà. Et ensuite, on va essayer de peut-être commencer, c'est un projet juste, d'être le premier chatbot présent sur LinkedIn. Pourquoi ? Parce que LinkedIn est devenu un réseau social très important et un réseau social qui n'est plus seulement le réseau social de la recherche d'emploi, qui remplace un petit peu en termes de débat ce qui était Facebook finalement il y a quelques années. Mais il est aussi quand même très centré sur nos sujets. Et si on arrive effectivement à intégrer Céleste sur LinkedIn, ce sera une étape très importante, après c'est une étape dont on est en train seulement on avance très très vite avec les électrons, mais on ne peut pas quand même avancer au-delà d'un certain rythme on est en train de vérifier la possibilité de la validité de cette idée. Monde Numérique : [21:52] Encore une question, donc Céleste a à peine quelques jours d'existence, est-ce que vous avez déjà, peut-être pas un bilan, mais enfin une vision, quelques retours qui vous ont marqué ? Benjamin Sire: [22:06] Le retour, je vous avoue que c'est, on est une petite équipe, c'est quelque chose qui a été monté avec des moyens limités. On a passé huit mois à la préparer sous la direction de Philippe Boursier, qui est parmi les quatre cofondateurs, je vais citer quand même les quatre cofondateurs des électrons libres. On a 50 à 60 auteurs, contributors extraordinaires à une émulation, mais c'est le cerveau, l'inventeur des électrons libres, c'est Antoine Copra. Ensuite, il y a Philippe Boursier, qui est le responsable développement, qui a créé tous les outils technologiques des électrons libres, et notamment, qui s'est présenté d'ailleurs comme ça sur l'X, Je suis le papa de Céleste. Et Frédéric Elbran, qui est un chef d'entreprise dans l'aéronautique et ingénieur nucléaire, et moi-même, qui apporte la dimension plus journalisique. « Bon, quand on fait ça, C'est un stress énorme. Ça a été un travail vraiment de malade. Comme le dit Antoine Copra, souvent, il a l'impression que sur cette année, on a tous pris 10 ans. Ce n'est peut-être pas impossible, d'ailleurs. Benjamin Sire: [23:17] Donc, ça a été un stress énorme. Et honnêtement, les retours, et on l'a vu hier, on a fait un space très long sur X avec les utilisateurs, les internautes auteurs. Le bilan est vraiment très, très positif. On sait qu'il y a encore quelques limites techniques à l'outil, mais on va les arranger, notamment, elle ne peut pas, quand on lui envoie une URL, elle ne peut pas encore le lire directement si on lui envoie comme ça, ce n'est pas de la lecture d'images, elle ne peut pas produire d'images. Benjamin Sire: [23:50] C'est pour l'instant vraiment, elle est centrée sur sa mission de répondre, de debunk sur nos domaines, mais on va cesser de la travailler pour lui donner vraiment une quasi-perfection, même si la quasi-perfection n'existe pas. Monde Numérique : [24:05] Merci beaucoup, Benjamin Sire, rédacteur en chef de Céleste, de Mon Ia Céleste, qui a retrouvé sur X. Benjamin Sire: [24:13] C'est le grand livre, fondateur de Céleste. Monde Numérique : [24:15] Voilà, à l'adresse lel.media. Merci beaucoup.