Parler français à l’IA coûte jusqu’à 58 % plus cher (🎤 Thomas Serval, Baracoda)

Thomas Serval: [0:01] Souvent, en anglais, on a un token égale un mot, alors qu'en général, Thomas Serval: [0:05] en moyenne, en français, il faut deux tokens par mot. Et donc, ça, ça explique en partie ce qu'on a trouvé dans notre étude, c'est qu'effectivement, le français est plus inefficace que l'anglais pour parler, grand modèle de langage. Monde Numérique : [0:27] Parler français à une intelligence artificielle coûterait plus cher que lui parler en anglais. C'est ce qui ressort d'une étude signée Baracoda AI Labs, émanation de la société française Baracoda. Et oui, l'utilisation des modèles dits américains par des francophones, via les API pour être très précis, nécessiterait 31 à 58% de tokens en plus par rapport à l'anglais. Donc évidemment, ça fait monter la facture. On en parle avec Thomas Serval, PDG de Baracoda. Salut Thomas. Thomas Serval: [0:58] Bonjour. Monde Numérique : [0:58] Merci d'être dans le monde numérique. Alors, c'est une étude que vous avez faite au sein de Barracoda et iLabs. Comment ça se fait que le français coûte plus cher que l'anglais ? Comment ça marche ? Il va falloir expliquer un peu ce que sont les tokens, etc. Thomas Serval: [1:13] Oui, donc on est devenu depuis cinq ans maintenant complètement addict à ces fameux modèles de langage. Et derrière les modèles de langage, il y a la langue. Et donc, en fait, pour qu'un ordinateur comprenne une langue, il a besoin de la découper. En des petits morceaux qu'on appelle des tokens ou jetons. C'est une notion qui existe depuis le début de la théorie de l'information. Et en fait, Barakoda et iLabs, en regardant à nouveau d'où venaient ces modèles de langage, a trouvé quelque chose qu'on a oublié. C'est qu'effectivement, quand on entraîne des modèles de langage, on les entraîne dans un langage. Et donc, il y a une sorte de langage principal. Et compte tenu du léger décalage qu'on a en termes de puissance de frappe avec nos amis anglais et chinois, effectivement, le français, aujourd'hui, il est découpé d'une manière moins efficace par les tokenizers, donc les outils à découper le langage pour qu'ils comprennent le langage de la machine, d'une manière moins efficace qu'il ne l'est en anglais ou en chinois. Monde Numérique : [2:18] Parce qu'en fait, ces tokens, ils correspondent ni à des lettres, ni à des mots. C'est un truc un peu plus compliqué que ça. Thomas Serval: [2:24] Oui, en fait, tout le problème dans les modèles de langage, c'est d'expliquer à la machine ce que c'est qu'une langue. Et donc, d'une langue à l'autre, on voit bien que l'allemand a des mots beaucoup plus longs, que le français a des déclinaisons, des verbes. L'anglais a plus de vocabulaire que le français. Donc, chaque langue, on revient à la base de la linguistique. C'est vieux comme ça a plus de 100 ans. Chaque langue a des caractéristiques qui lui sont propres. Et donc, il y a des langues qui se prêtent plus à être traduites en langage d'ordinateur et d'autres moins. Le français avec ses accents, avec ses accords plus ou moins standardisés, il est un peu moins docile que l'anglais. Et donc pour donner des exemples très concrets, souvent en anglais, on a un token égale un mot. Alors qu'en général, en moyenne, en français, il faut deux tokens par mot. Et donc ça, ça explique en partie ce qu'on a trouvé dans notre étude. C'est qu'effectivement, le français est plus inefficace que l'anglais pour parler aux machines, aux grands modèles de langage. Monde Numérique : [3:29] On pourrait en être fier en disant que le français est une langue plus riche, mais le problème, c'est qu'il faut être riche, du coup, pour utiliser des IA Monde Numérique : [3:37] en français, c'est ça ? Ça revient plus cher ? Thomas Serval: [3:39] Alors, l'exemple qui est aussi intéressant, c'est le chinois, pour lequel chaque caractère est un mot. Donc, en fait, on pourrait se dire que le chinois, qui est finalement chaque caractère chinois égal à un token, est encore plus efficace que l'anglais. Ce n'est pas ce qu'on observe. Dans l'étude qu'on a publiée, vous observez que le chinois, il est très efficace sur les modèles chinois. Mais il est, par exemple, sur un modèle américain, le chinois, il n'est aussi pas très efficace et moins efficace que l'anglais. Ça veut dire qu'il y a une deuxième dimension qui arrive, qui est la qualité du corpus d'entraînement. Sur combien de phrases de chinois ou sur combien de phrases d'anglais ou sur combien de textes d'anglais, j'ai entraîné mon modèle. Et donc là également l'internet chinois est très gros et donc les chinois ont un immense corpus, de 1 milliard, 300 millions de consommateurs en chinois et donc ça leur permet d'entraîner sur leur langue leur modèle extrêmement efficacement et l'internet est largement anglo-saxon, parce qu'ils ont été les pionniers, ils ont digitalisé beaucoup plus de choses et donc également les corpus, d'entraînement et donc tout ce qui est mis à la disposition des modèles pour apprendre l'anglais, est bien meilleure que ce qui est mis à disposition en français. Thomas Serval: [5:00] Toutes choses égales par ailleurs. Et donc, on voit bien que les Américains, ils s'entraînent plus facilement dans la langue maternelle que dans des langues étrangères. Monde Numérique : [5:09] Mais c'est fou parce que, bon, quand on utilise une IA conversationnelle, on a l'impression qu'elle parle toutes les langues déjà. Puis c'est hyper naturel. Mais en fait, on s'aperçoit que, donc, il y a toute une mécanique derrière. Enfin, on s'en doute, mais il y a tout un système de traduction et c'est ça aussi qui consomme, c'est ça ? Thomas Serval: [5:31] Oui, alors déjà, ce qu'on va observer et ce qu'on a observé dans l'étude, c'est la consommation en token. Pourquoi c'est important ? Parce que les grandes sociétés anglo-saxonnes notamment ont décidé de tarifier les tchats GPT ou les clouds au token. Donc, pourquoi ça nous intéresse ? Dans des cas où ce n'était pas du tout le token qui comptait, l'efficacité du modèle comptait beaucoup moins pour, donner des exemples concrets, si on a notre propre machine et qu'on héberge notre propre modèle et qu'on a déjà payé le GPU, par exemple sur mon Mac que j'utilise aujourd'hui, le fait que un des deux, que mon système utilise plus de tokens pour parler français qu'anglais, en tant que consommateur je m'en fous un peu par contre si je suis une entreprise et que je suis facturé au token et que je suis une entreprise française, là ça commence à jouer d'une manière assez significative sur le portefeuille. Donc quelque part ce modèle de token et ce modèle de facturation de token c'est un problème dans deux cas, soit parce que je suis une entreprise et je suis facturé comme ça, soit parce que j'ai, un certain nombre de conversations qui sont longues, Et là, à chaque fois que je vais reparler français, je vais retraduire. Donc oui. Thomas Serval: [6:47] Toutes les langues, les IA parlent toutes les langues. Elles les parlent proportionnellement mieux d'une manière générale par rapport à les langues dans lesquelles elles ont été entraînées. Et leur encodage et donc leur efficacité en token est meilleure plus elle est proche du modèle dans lequel elles ont été entraînées. Il ne faut pas perdre le grand bénéfice quand même pour tous nos concitoyens qui est que quand même, les IA sont multilingues et sont des outils de traduction formidables. Il ne faut jamais oublier que le T de GPT, ça veut dire Transformer et ça a été inventé par mon ancien employeur Google en 2014, et 2019 pour pouvoir traduire plus efficacement toutes les langues de A à B. Donc, ce qu'on découvre, c'est un peu ce qu'on a oublié à la base, c'est que finalement, une langue, c'est un vocabulaire, c'est une grammaire, c'est des mots avec une graphie particulière et ça, la machine, elle y trouve un coût et ce coût est d'autant plus élevé que vous êtes loin de la manière dont elle a été entraînée. Monde Numérique : [7:50] Alors, il y a peut-être des solutions malgré tout, et on va en parler. Mais avant, est-ce que vous avez un peu chiffré ce que ça peut représenter ? Donc, on le dit, ce n'est pas pour les particuliers qui payent leur petit abonnement au ChatGPT ou Cloud, parce que ça, ça ne change rien finalement. Mais pour les entreprises qui utilisent des API, donc qui payent au token, là, ça peut se chiffrer. Mais dans quelle proportion ? Thomas Serval: [8:11] Donc, alors, ça joue aussi sur votre forfait personnel, puisque quelque part, quand vous écrivez en français sur OpenAI et sur Cloud, vous avez un certain nombre de tokens qui vous est attribué et puis après on vous dit vous atteignez votre limite mais on va dire que pour les entreprises la facture, donc pour se donner, si on considère que l'anglais ça vaut 1, si j'écris en français avec OpenAI je vais dépenser 30% de plus, dans le modèle, juste pour être précis pour pas dire des choses, on n'a pas mesuré Astra parce qu'on n'a pas encore le tokenizer donc l'outil de transformation Donc, on utilise celui, de GPT-5. Monde Numérique : [8:51] Donc, la version d'avant, pas la toute dernière version de GPT-5. Thomas Serval: [8:55] Mais elle devrait être de l'ordre, puisque par contre, on a pu mesurer Cloud. Et Cloud 5, par API, c'est 45% de plus en français, en termes de token, qu'en anglais. Encore une fois, c'est des moyennes, donc il faut faire attention. Mais si les gens sont intéressés pour les détails techniques, tout est publié dans l'article et tout est open source. Donc, on peut tout reproduire chez soi. Si vous êtes une entreprise et que vous vous dites, mais moi, c'est quoi la facture ? On peut vous aider à trouver ça. Je vais donner deux ou trois exemples pour, Quen, qui est le moteur chinois. Alors ça, c'est très intéressant. Quen, en anglais et. Thomas Serval: [9:36] En chinois, c'est pareil. C'est grosso modo, presque d'ailleurs, d'après nos mesures, c'est à peu près pareil. Par contre, c'est 56% de tokens en plus de parler français par rapport à l'anglais ou au chinois dans Kwen. Alors comme Kwen fait ses tokens beaucoup moins chers que ChatGPT, ce n'est pas très grave. Mais c'est important de savoir si jamais on paye aux tokens. Thomas Serval: [10:02] Les exemples également, c'est DeepSeek. DeepSync, c'est 55% de plus en V3, V4. Google, c'est 41%. Et le champion national, et ça, c'est à la fois bien, parce que c'est mieux que les autres, mais quand même un peu décevant, Mistral en token, c'est 31% de plus que l'anglais. Monde Numérique : [10:28] Mais comment ça se fait ? Mistral est un modèle français ? Ça veut dire qu'il n'a pas été entraîné 100% en français. Thomas Serval: [10:36] On a interrogé Mistral, il faudra leur poser la question sur ça. Je n'ai pas de réponse n'étant pas dans le cœur du modèle de Mistral, mais. Thomas Serval: [10:50] Je pense que beaucoup de modèles depuis ces trois dernières années se sont plus focalisés sur tout ce qu'on appelle les harnais, les environnements d'entraînement, et donc sur tout ce qui se passe autour du modèle de langage. Et finalement ont un peu perdu les bases de ce qu'est un modèle de langage qui consiste à encoder une langue. Et donc, c'est parce que finalement, la puissance de calcul était disponible. On n'a pas repris le B à bas de ce qu'étaient des modèles de langage et de l'efficacité, de leur encodage. Alors, il faut aussi porter crédit au fait que, Les IA sont multilingues et donc, quelque part, elles partent toutes les langues. Il y a un arbitrage entre la spécialisation d'un modèle qui ne peut parler que français, par exemple, et celui qui est aujourd'hui attendu par tous les grands modèles qui parlent toutes les langues du monde. Et donc, vous ne pouvez pas être bon en tout. En tout cas, ça a un coût à être bon en tout. Et donc, ça revient en termes de conception à se poser cette question de quelle va être la langue. Thomas Serval: [11:59] De votre client. Est-ce que vous n'êtes que pour eux ? Mais par contre, c'est des belles informations. On espère que la Commission européenne et le gouvernement français vont s'en émouvoir, puisque notre étude travaille en particulier sur le domaine de la francophonie. Et on voit que des langues rares, régionales, le breton... Monde Numérique : [12:21] Oui, c'est ça que j'avais demandé. Le breton, le corse, le créole haïtien, ça demande aussi plus de tokens ? Thomas Serval: [12:27] Alors, on est sur non pas des 30 %, mais on est sur du x2, x3. Pour les deux raisons, c'est des langues qui sont en fait avec des vocabulaires compliqués et avec peu d'éléments d'entraînement. Et donc, il y a, si on le veut aujourd'hui, et on voit que ça va faire partie des éléments de la souveraineté demain, besoin de réentraîner des modèles ou d'avoir des gens comme ce qu'on va faire dans Baracoda et iLabs, qui entraînent des modèles qui soient plus spécialisés justement, sur ces langues un peu rares pour éviter qu'elle soit complètement marginalisée dans, le monde de l'Internet, parce que ça serait quand même assez gonflé que si on veut parler créole ou tahitien, on soit amené à payer l'intelligence plus cher que si on l'achète à Paris. C'est une manière de créer une deuxième ou... Et alors, je ne parle même pas des langues africaines. Et donc, en fait, c'est des sujets qui émeuvent l'ONU, les opérateurs de télécommunications. Il y a un enjeu aujourd'hui de créer des environnements d'entraînement pour que les modèles apprennent les langues et, que chacun des acheteurs potentiels, quand c'est public, mette ce critère de l'efficacité de l'utilisation de la langue nationale comme un des éléments d'achat. En tout cas, c'est une de nos recommandations dans le papier qu'on a publié. Monde Numérique : [13:44] Alors, ça, c'est l'analyse. Qu'est-ce qu'on peut faire contre ça ? Est-ce qu'il y a des améliorations à part en réentraîner entièrement des LLM ? Thomas Serval: [13:54] Alors, déjà, il faut expliquer que dans la plupart des cas, le tokenizer, c'est avant l'entraînement. Donc, c'est vraiment la base de la base. C'est j'ai la langue, je traduis et après, je vais entraîner. Donc, il va falloir, en tout cas, pour prouver des bénéfices et trouver des solutions, il faut réentraîner les modèles, ce qui est très, très coûteux. Et c'est pour ça qu'on voulait prévenir un peu plus le grand public pour dire, attention, la prochaine fois qu'on entraîne et qu'on dépense le 100 millions pour entraîner Mistral, etc. Faites-le bien parce que c'est tellement cher qu'il faut faire les arbitrages avant parce que quand on se retrouve dans la situation dans laquelle on est, on peut faire des choses en post-entraînement mais ça ne va jouer que marginalement, peut-être 10-20% on va publier des papiers sur ça mais ça ne va pas rétablir la chose alors, il y a des choses qui sont intrinsèques, l'allemand c'est plus compliqué que le français qui est plus compliqué que... Il y a des choses qui sont incompressibles Nous, en se spécialisant sur le français, on a dans la deuxième version, de l'encodeur de Baracoda qui s'appelle Baracoda FR2 réussi à faire non pas du 31% du Mistral ou du 56% de Alibaba, mais 12% de surcoût par rapport à l'anglais. Ce qui est déjà, si on doit payer la facture, une économie pour les clients français très important. Thomas Serval: [15:17] Donc, c'est faisable. On est en train de tester toutes les langues européennes, les 24 langues de l'Union européenne. Il y aura des arbitrages, mais c'est faisable de faire beaucoup mieux, mais pas de transformer le français en un langage SMS. Thomas Serval: [15:34] Avec des tout petits mots ou en chinois. Donc quelque part, il va falloir qu'on accepte de payer un petit surcoût pour garder notre identité culturelle. Ça fera la beauté de la langue, mais le surcoût n'est pas une taxe. Nous, on appelle ça une taxe qui est un peu faite unilatéralement, par le fait que c'est devenu pas très important, en tout cas pas assez important aux yeux des Européens, aux yeux des Américains, de respecter et de rendre leur modèle plus efficace dans nos langues qu'ils jugent un peu marginales. Monde Numérique : [16:07] Mais Thomas Serval, est-ce qu'on ne peut pas quand même aussi considérer, imaginer que le prix du token va baisser ? On parle, enfin je veux dire, les modèles deviennent de plus en plus performants, la puissance de calcul, évidemment, il en faut énormément, mais, on est en train d'en mettre tellement en place, on peut peut-être imaginer avec des économies d'échelle que globalement, ce surcoût ne sera pas si dramatique. Thomas Serval: [16:35] C'est pour ça qu'on est arrivé à cette situation. C'est quelque part, les Américains avaient tellement de puissance de calcul que finalement, l'inefficacité, vu qu'ils font payer les clients le token, ils s'en foutent un peu. Donc en fait, la question, c'est qui paye le token ? Il y a malheureusement, même s'il y a beaucoup d'annonces en Europe, il n'y a que 5% des GPU qui sont en Europe. Et on entend que les modèles européens ont du mal à s'entraîner parce qu'il y a des problèmes de puissance de calcul. Donc, la réponse à votre question, elle est... Elle est double. Tout dépend qui est le payeur. Aujourd'hui, on est en contrainte sur la mémoire, on est en contrainte sur les GPU. Il faut près de trois ans pour créer un data center en Europe. Donc, ces problématiques de contrainte, elles vont jouer aujourd'hui parce que l'IA, contrairement à d'autres révolutions technologiques, elle est en train de rentrer comme jamais dans la vie des entreprises. Donc très, très vite, on voit quand on parle avec nos clients, les DSI des grandes entreprises, à quelle vitesse les projets IA consomment d'une manière incroyable du token. Et donc, aujourd'hui, effectivement, l'efficacité des modèles. Thomas Serval: [17:43] Elle est dans l'équation économique des entreprises, probablement des États et puis même l'équation énergétique, puisqu'on essaie d'être efficace. Consommer plus de tokens, c'est consommer plus d'énergie, plus de GPU, plus de hardware, plus de toutes ces choses qui, malheureusement, manquent à l'Europe. Donc je dirais que ce problème, il est beaucoup moins important pour les Américains que pour nous. Il est paradoxalement beaucoup moins important pour les Chinois que pour nous. Mais nous et tous les pays, on va dire, émergents, Afrique, Amérique du Sud... Nous sommes les victimes, et donc c'est de cette guerre des puissances, et on n'est pas armés pour y remédier, puisque ni les puces, ni la mémoire, ni les data centers sont majoritairement dans nos pays. Et si en plus les logiciels qui sont censés travailler dans nos langues ne prennent Thomas Serval: [18:27] pas en compte les limites, eh bien on paye deux fois la taxe. Donc c'est un peu ce cri d'alarme qu'on essaie de passer dans le cadre de cet article, et on espère que ça suscitera de nombreuses réactions, des collaborations. Une des choses intéressantes qu'on a découvert, c'est un laboratoire méconnu en Espagne, qui aujourd'hui est le plus efficace dans les langues européennes. Donc, ça ne veut pas dire qu'il n'y a pas de proposition. Ça veut dire qu'il est important que les clients entreprises, les États, les régulateurs prennent conscience de ce que sont les LLM et les rappellent à la fois au DSI, Thomas Serval: [19:02] aux consommateurs et aux offreurs de solutions. Monde Numérique : [19:05] Donc l'étude à retrouver sur baracoda.com, j'imagine ? Thomas Serval: [19:09] Non, baracoda.ailapse.com. Et tout est disponible également sur LinkedIn et pour les geeks sur GitHub. Et bientôt, on l'espère, sur des nouveaux modèles de tokenisation sur GingFace. Mais pour le moment, on essaie de voir si ce débat suscite suffisamment d'intérêt pour qu'on sorte des modèles qui vont améliorer la consommation de tokens pour les consommateurs européens. Monde Numérique : [19:38] Merci beaucoup, Thomas Serval de Baracoda. Thomas Serval: [19:42] Merci.