KyutAI : la 'science ouverte' en IA pour préserver la souveraineté (Aude Durand, Iliad)

Monde Numérique : Bonjour Aude Durand :. Vous êtes directrice générale adjointe du groupe Iliad, responsable de l'intelligence artificielle. Merci de me recevoir ici à Station F. Où ça y est, vous venez de lancer Kyutai. Kyutai, une fondation pour l'intelligence artificielle. A l'origine de cette initiative des grands noms, Xavier Niel, du groupe Iliad, Rodolphe Saadé de CMA-CGM, Eric Schmidt, ancien PDG de de Google. Mais qu'est ce que c'est que Kyutai exactement?

Aude Durand : Alors KYUTAI c'est une équipe qui a vocation à travailler sur de la recherche fondamentale en intelligence artificielle et qui s'est donnée comme mission de partager l'intégralité de ses travaux en open source et même en fait plus loin en open Science. C'est à dire qu'ils veulent vraiment publier l'intégralité des méthodes et des modèles pour que l'ensemble de l'écosystème puisse s'en nourrir et mieux comprendre l'intelligence artificielle, et puis développer plus d'usages. Et puis ça a aussi une vertu de transparence et de confiance en fait, dans les modèles qui vont pouvoir sortir, puisque tout le monde pourra les auditer, tout le monde pourra les manipuler. Donc voilà, cette mission Open Science est vraiment au cœur du projet.

Monde Numérique : Est ce qu'on peut dire que c'est un Open AI à la française ou un deep mind à la française? Deepmind étant lab de recherche de Google.

Aude Durand : Alors c'était peut être ce qu'était Open AI au début. La première mission d'Open, c'était effectivement d'être open. Je pense qu'on peut se dire que la mission a un peu changé depuis que Microsoft est devenu un investisseur important. Et en fait, pour Deep Mind, c'est un petit peu la même chose. Il y avait une vocation un peu plus scientifique avant le rachat par Google. Là, l'objectif, c'est vraiment que ce laboratoire reste indépendant. En tout cas, c'est avec cette idée là qu'on a créé le projet, que l'équipe a rejoint le projet. Et c'est pour ça qu'on souhaite lever des fonds significatifs pour pouvoir leur donner cette pérennité, pour rester indépendant le plus longtemps possible.

Monde Numérique : Alors justement, parlons un petit peu d'argent, si vous me permettez, avant de parler de ce que vous allez faire, de ce que va faire Kyuta exactement, 300 millions d'euros, c'est pas rien, 100 millions de la part de Xavier Niel, 100 millions de Rodolphe Saadé, apparemment autour de 100 millions aussi de la part d'Eric Schmidt. Donc ça nous fait 300 millions à l'arrivée. C'est bien Open AI a démarré avec 100 millions, mais est ce que c'est réellement significatif par rapport à la taille des investissements aujourd'hui? Microsoft a mis 1 milliard dans Open AI récemment.

Aude Durand : Moi, je pense qu'il ne faut pas se laisser impressionner par les investissements réalisés par Microsoft. C'est aussi un peu le jeu. C'est à dire que plus ils montrent qu'ils investissent des milliards, plus ils espèrent créer une espèce de barrière à l'entrée virtuelle. Enfin, si on s'arrêtait à ça, aux montants que les entreprises sont capables d'investir, tout le paradigme des start n'existerait pas. Parce qu'on dirait que toutes les grandes entreprises sont censées dominer leur domaine et qu'il ne peut pas y avoir de nouveaux petits entrant qui renverse la table. Donc pour moi, ce sujet n'est pas un sujet, d'autant plus que près de 300 millions, c'est quand même un montant très significatif qui leur permet d'accéder à de la puissance de calcul tout à fait honorable, mais même plus que ça en fait, qui permet vraiment d'entraîner des modèles très performants en très peu de temps. Il se trouve que, avec Scaleway, on avait à disposition ce super pods Nvidia H100 qui est la toute dernière technologie qui existe comme le disait Jensen Wang ce matin.

Monde Numérique : Donc je précise qu'elle est filiale également du groupe Iliad qui vient d'investir pareil, on parle en centaines de millions d'euros, notamment dans l'achat d'un supercalculateur avec des cartes graphiques Nvidia. C'est sur cette puissance de calcul notamment que vous allez vous appuyer.

Aude Durand : Oui, voilà, c'est notamment cette puissance de calcul qui va être mise à disposition de l'équipe de Kyutai. Est ce qu'elle va continuer ces investissements et a vocation à continuer à développer son portefeuille de produits liés à l'intelligence artificielle? L'ambition de ce projet est vraiment globale. Le niveau de cette équipe est vraiment parmi les meilleurs au monde. Et donc bien sûr qu'on serait ravis qu'une équipe comme celle ci fasse les prochaines grandes découvertes. Intelligence artificielle, Ce serait un immense rayonnement pour la France et pour l'Europe. Et comme c'est de l'open science, ça permettrait vraiment de construire une intelligence artificielle next generation de confiance. Mais ça reste de l'open science, donc ça ferait pas une suprématie européenne pour autant. Tout le monde pourrait se servir de cette recherche. C'est le propre de la recherche ouverte.

Monde Numérique : Comment est ce que vous vous situez par rapport aux autres pôles de recherche qui peuvent exister en France? Il y a le laboratoire et qui font aussi de ce que vous appelez l'open science. C'est à dire que le but étant de partager les avancées en matière de connaissance, il y a Meta. Enfin, avec son laboratoire FAIR, il y a la recherche publique aussi. En France, il y a l'INRIA. Comment vous êtes concurrents finalement de ces pôles là?

Aude Durand : Alors je pense qu'il y a une petite différence avec. Que l'open source qui est fait chez Meta ou l'open source tel qu'il est généralement entendu dans le milieu s'est déposé sur GitHub. Donc une plateforme de code. Les les paramètres, les poids du modèle, ce qui permet en fait d'exploiter le modèle, mais en revanche est très rarement publié la méthode qui a permis d'entraîner le modèle, les datasets. Donc comprendre finalement les petites choses qui sont à l'intérieur du modèle, qui permettent de comprendre la subtilité et qui permettent de comprendre comment il a été développé. Ça c'est rarement accessible, ça l'est plus dans la recherche publique effectivement qui existe qu'en France comme vous le disiez. Et enfin, il y a des très bons scientifiques dans la recherche publique et on les rencontre régulièrement. Et d'ailleurs dans l'équipe, il y a un des chercheurs de l'équipe qui est passé par l'INRIA. On n'a absolument rien contre la recherche publique et je veux surtout pas critiquer ces gens qui font un maximum d'efforts.

Monde Numérique : Pas avec les mêmes efforts, pas avec les mêmes soutiens financiers. Voilà, je pense.

Aude Durand : Qu'effectivement, là où le bât blesse, ça peut être sur les sujets de financement et sur les sujets peut être de vélocité en terme de charge administrative. Et donc là l'objectif c'était de les libérer de toute charge administrative et bureaucratie et de leur donner des financements effectivement très conséquents. Pour vous donner un ordre de comparaison, là on dit qu'on va leur mettre à disposition un supercalculateur de un zéro zéro zéro GPU de toute dernière génération. À eux tout seul à une seule équipe. Aujourd'hui, un supercalculateur académique comme Jean Zay peut se partager entre plusieurs centaines de projets. Je crois que le nom me parlait il y a dix jours quand je parlais à l'équipe responsable de changer de 600 projets qui se partagent cette ressource. Donc c'est super qu'elle existe et c'est important qu'elle existe et qu'il y ait beaucoup de projets qui puissent y avoir accès. Mais ça donne pas tout à fait le même ordre de grandeur. Est ce qu'il est possible de faire pour les équipes de recherche derrière.

Monde Numérique : Jean Zay, le supercalculateur public qui est installé sur le plateau de Saclay? Alors c'est de la recherche fondamentale. On comprend bien malgré tout. Est ce qu'il y a déjà des pistes qui se dessinent? À quoi va servir cette recherche? Est ce que vous savez, demain, les chercheurs qui sont là, ce qu'ils. Quelles avancées ou quels produits, même commerciaux ou autres, en intelligence artificielle ils vont faire? Dans quelle direction vont ils aller?

Aude Durand : Alors déjà, on parle pas de produit commercial, ça c'est très clair. Donc on pourra pas présager de ce qu'un jour pourrait être des entreprises qui se créeraient grâce au produit de la recherche. Enfin là vraiment, on est à trop long terme pour anticiper ça. Je pense que sur les axes de recherche, ils ont donné quelques indications ce matin sur les sujets qui les intéressaient. Il y a notamment les sujets de multimodalité, c'est à dire aller plus loin qu'un modèle de langage texte et pouvoir ajouter de l'audio, de la vidéo, de l'image, le tout en un seul modèle pour peut être pouvoir aller vers une forme d'assistant personnel en intelligence artificielle qui qui est une interface vraiment multimodale avec nous. Il y a plein d'axes différents qui ont été mentionnés, le fait d'aller travailler sur la vérification des réponses du modèle, donc le fait que ce soit factuel pour.

Monde Numérique : Éviter les hallucinations, etc.

Aude Durand : Par exemple l'interconnexion avec des outils qui existent déjà comme Wikipédia ou ou des compilateurs Python. Je crois que j'ai entendu ça tout à l'heure, mais ils ont déjà beaucoup d'idées. Encore une fois, ce sont des experts dans leur domaine. Ils savent très bien quels sont les axes de recherche encore un peu sous exploités ou sous explorés et dans lesquels ils pourraient aller chercher des avancées significatives.

Monde Numérique : On sent bien qu'il y a une compétition internationale qui est féroce aujourd'hui, avec des enjeux que la plupart des gens ne mesurent pas forcément. Mais la puissance potentielle de l'intelligence artificielle, c'est le pouvoir de demain, c'est le pouvoir des États pour demain. Donc pour vous, c'est une clé? Vraiment, c'est une étape très importante, la création de clusters aujourd'hui.

Aude Durand : Alors, pour moi, ce qui est important pour la souveraineté française et européenne, c'est que, au moins, avec ce dispositif, on se donne les moyens de continuer à avoir des talents qui maîtrisent les meilleures technologies dans ce domaine. Et maîtriser cette technologie, c'est déjà en soi un sujet stratégique pour pas être complètement dépendant de tiers sur des solutions technologiques qui peuvent devenir omniprésentes dans notre vie quotidienne. Et ça, en soi, je trouve que c'est déjà une réussite pour le pays et pour l'Europe.

Monde Numérique : Le but, c'est aussi de garder en France les chercheurs français qui ont de plus en plus souvent tendance à s'expatrier dans des entreprises étrangères.

Aude Durand : Alors oui, bien sûr, c'est de leur donner un débouché. Après, le but, c'est pas d'interdire aux gens d'aller à l'international, de faire des allers retours entre la France et les États-Unis ou ailleurs. Mais c'est important qu'à un moment donné, il y ait des débouchés sérieux pour des gens ambitieux et talentueux et qu'on puisse leur donner les moyens, s'ils ont envie de rester ici, de le faire, voire même de réimporter du savoir faire qu'ils ont appris ailleurs. C'est ça l'objectif.

Monde Numérique : Quelles étapes vous fixez? Est ce qu'il y a déjà des échéances en termes de je sais pas, de publication à une certaine date, ou d'arriver à établir déjà des modèles en particulier?

Aude Durand : Alors moi je fais pas partie de l'équipe de recherche, donc je pense que c'est pas à moi qu'il faut poser cette question là. Mais oui, je sais qu'ils travaillent sur une roadmap, ils ont déjà des idées bien claires sur ce qu'ils vont produire, donc j'ai hâte de voir comment ça va se développer.

Monde Numérique : Encore une question. C'est une initiative française mais qui s'inscrit dans un cadre européen. Pourquoi ne pas avoir fait quelque chose justement de dimension européenne? Les Allemands viennent de créer un groupe pour un peu similaire, avec plusieurs grands acteurs traditionnels qui se lancent dans l'intelligence artificielle. Pourquoi ne pas avoir fait quelque chose conjointement avec l'Allemagne par exemple?

Aude Durand : Alors c'est pas du tout qu'on n'a pas voulu le faire, c'est juste qu'effectivement on essayer d'aller, d'aller vite sur ce projet. Et donc on a exploité un écosystème qui était plus proche de nous et qui nous permettait d'avancer. Encore une fois, la participation de quelqu'un comme Eric Schmidt au financement, ça montre quand même qu'on n'est pas sur un projet franco français et on serait ravi de pouvoir accueillir des financements d'autres pays en Europe, de pouvoir ouvrir des antennes de ce laboratoire ailleurs en Europe, de recruter des chercheurs ailleurs en Europe, il n'y a absolument aucune limitation qui est mise à ce stade et. Dans les conseillers scientifiques qui ont été présentés pour KYUTAI. Bernard Bernard Chochoy est allemand par exemple.

Monde Numérique : Et à propos de conseillers scientifiques, a également Yann Lecun. Quels seront le rôle de ces conseillers scientifiques?

Aude Durand : C'est quelque chose qui se fait assez couramment d'avoir des parrains marraines de projets comme celui ci. L'idée, c'est d'avoir des scientifiques de renom qui peuvent permettre de donner une perspective un peu nouvelle à l'équipe de recherche, de leur donner un feedback sur les axes de développement qu'il souhaite prendre. Donc c'est des réunions ponctuelles et des UP une ou deux fois par an pour être sûr de passer en revue toute la roadmap de développement et de recherche.

Monde Numérique : Dernière question vous avez reçu le soutien du gouvernement Message du Président de la République à l'occasion du lancement Intervention sur place du ministre du numérique, Jean-Noël Barrot. C'est important cette caution gouvernementale ou ou ou c'est ou c'est une tentative de récupération?

Aude Durand : Oh non, je ne dirais pas que c'est une tentative de récupération. On est très content d'avoir le soutien gouvernemental sur ce projet. Enfin, c'est une marque de confiance sur le fait qu'on fait quelque chose qui peut vraiment servir à notre pays. Et je pense qu'on a. Tout intérêt à continuer à solliciter l'intérêt de nos politiques sur des sujets comme l'intelligence artificielle qui sont cruciaux pour notre avenir. Donc il faut plutôt y voir. Enfin, moi je le vois avec beaucoup d'optimisme en me disant que ça veut dire qu'on continuera à pouvoir avancer dans un environnement favorable à l'écosystème.

Monde Numérique : Merci beaucoup. Aude Durand :, directrice générale adjointe du groupe Iliad, responsable de l'intelligence artificielle.