🎤 Interview - Comment Deezer lutte contre la musique générée par IA (Aurélien Hérault, Deezer) [REDIF]

[00:00:00] Avez-vous remarqué comme l'été peut faire émerger des idées ? On est au bord de la plage, simplement en train de décrocher un peu, et soudain on se dit « Tiens, si je lançais enfin ce projet de boutique en ligne auquel je pense depuis longtemps ». Problème, par où commencer ? Eh bien c'est là que vous pouvez vous en remettre à Shopify. Shopify, c'est la plateforme de création de boutiques en ligne clé en main qui fait tourner des millions de commerces à travers le monde. Un outil no-code, tout-en-un, pour vendre sur tous les canaux, en ligne ou même en physique avec le système Shopify Point de Vente.

[00:00:28] Que vous souhaitiez commercialiser une application mobile, des formations ou des objets connectés par exemple, Shopify s'adapte à vos besoins. Ce qui est particulièrement appréciable, c'est que tout est intégré. La création de sites, le système de paiement, le suivi des expéditions, etc. Et surtout une assistance 24-24 7 jours sur 7. Bref, le meilleur de la tech au service du commerce.

[00:00:51] Cet été, Shopify est partenaire de Monde Numérique. Alors si vous avez une idée à concrétiser, c'est le moment. On vous offre une période d'essai pour 1 euro par mois. Il suffit d'aller sur Shopify.fr slash Monde Numérique. Je répète, Shopify.fr slash Monde Numérique. Monde Numérique.

[00:01:08] On sait que l'intelligence artificielle aujourd'hui permet de créer facilement de la musique et des chansons. Il suffit d'aller sur des plateformes comme Suno. Et à partir d'un simple prompt, une simple requête, on peut générer des morceaux dans toutes sortes de styles. Alors c'est amusant, mais ça pose aussi des problèmes, des problèmes de droit d'auteur. Et surtout quand ces morceaux sont envoyés en masse sur les plateformes de streaming pour être commercialisés. Bonjour Aurélien Ayrault. Bonjour Jérôme.

[00:01:35] Vous êtes directeur de l'innovation de Deezer, célèbre plateforme française de streaming. Et chez Deezer, vous êtes victime de ce phénomène et vous avez donc développé une technologie pour détecter les morceaux pirates fabriqués par Delia. On va en parler. Mais d'abord, est-ce que vous pouvez nous décrire un petit peu l'ampleur de ce phénomène de contenu qui ne devrait pas se trouver sur votre plateforme en fait ?

[00:02:02] Oui, tout à fait. Déjà, je pense que c'est intéressant de commencer avec un chiffre. On reçoit environ 100 000 titres par jour. Donc on doit traiter 100 000 titres par jour et on s'est intéressé à la granularité de ce qu'on nous envoyait. Et on a découvert que l'IA génératif prenait part à ses livraisons quotidiennes.

[00:02:23] Mais pour pouvoir savoir plus en détail ce qu'on nous livrait, il a fallu créer un détecteur. Donc on a investi à peu près pendant un an et demi pour développer un modèle capable de détecter les morceaux générés par IA. Et aujourd'hui, on estime à environ 10% du contenu qu'on reçoit quotidiennement généré par IA. 10% généré par IA. Donc c'est quoi ? C'est des fausses chansons ? C'est des chansons qui sont très réalistes dans des styles... Qui sont pas mal parfois.

[00:02:53] Qui sont de plus en plus difficiles à différencier de morceaux, j'ai envie de dire, originales conçus par des humains. Mais le phénomène qu'on observe essentiellement, c'est les livraisons de masse. Parce qu'en soi, l'IA génératif ne nous pose aucun problème. Au contraire, on pense que c'est une fabuleuse opportunité de s'exprimer. Ce qui nous pose un peu plus problème, c'est la saturation du catalogue par ce type de morceaux.

[00:03:23] Alors voilà, parce qu'il y a un aspect technique, il y a un aspect de confort aussi d'écoute pour l'auditeur, pour l'utilisateur. Et puis il y a un aspect économique. Si on parle brièvement de l'aspect économique, en fait, ces morceaux pirates, ils vont permettre à certains de gagner de l'argent derrière.

[00:03:42] Tout à fait, ils viennent rentrer dans le modèle économique des plateformes du streaming et capturer une partie des revenus qui est normalement reversée aux ayants droit et aux artistes. Et on pense que nous, chez Deezer, ça peut être un problème. Surtout qu'on observe que ça peut jouer un rôle dans la manipulation de stream, finalement, des phénomènes de fraude.

[00:04:05] Et c'est pour ça qu'on souhaite avoir ce type de détecteur et monitorer ces cas d'usage pour s'assurer que les revenus aillent bien aux ayants droit. Ce que vous appelez la manipulation de stream, c'est le fait que certains artistes ou des faux artistes, finalement, aient l'air de faire beaucoup de téléchargements alors que ce n'est pas le cas ? Tout à fait. C'est finalement des morceaux créés par des IA qui vont être écoutés par des bots.

[00:04:33] Ah oui, d'accord. Même les auditeurs sont fake. Oui, c'est ces phénomènes-là qu'on moniteure activement parce que, justement, ça vient capturer de la part de marché et on essaye justement de combattre ça. Oui, c'est de l'argent de moins pour les vrais artistes que vous reversez via les sociétés de gestion. À travers les labels, les sociétés de gestion, etc.

[00:04:56] Alors, cet outil que vous avez développé, technologie contre technologie, finalement, c'est toujours la même histoire, il consiste en quoi ? Comment ça marche ? Eh bien, on s'est concentré, dans un premier temps, à détecter les morceaux 100% générés par IA. Donc, des modèles comme Suno, Udio, et il y en a plein sur le marché. Tous ces morceaux générés par IA ont une spécificité.

[00:05:22] C'est qu'ils laissent des artefacts dans le signal audio qui ne sont pas audibles par les humains, mais qui laissent des traces statistiques parce que les modèles génératifs sont des statistiques. Il y a des encodeurs, des décodeurs. Et au moment, justement, de la génération, laissent un certain nombre de traces. Et on a développé un système qui vient détecter ces traces avec un calcul de score qui nous permet d'être plutôt confiants sur les morceaux 100% générés par IA.

[00:05:51] C'est-à-dire, vous arrivez à détecter avec quel taux de réussite ? 99,8% sur des modèles connus comme Udio, Suno, etc. Mais la spécificité de notre modèle, c'est de pouvoir être un peu plus généraliste parce que c'est simple. Il suffit de modifier un petit peu les morceaux et tout de suite, on ne les détecte plus. Donc, on travaille, on continue de travailler dessus,

[00:06:18] à faire évoluer ce système pour détecter de plus en plus de morceaux générés par IA. D'accord. Donc, ça veut dire que si je m'amuse à aller créer des chansons sur Suno et ensuite, je veux les diffuser sur Deezer ou sur d'autres plateformes, je vais me faire choper par la patrouille, en fait ? Oui, en tout cas, on va le voir. Ça sera labellisé dans notre catalogue. Et après, c'est très simple de pouvoir soit afficher aux utilisateurs que c'est un morceau généré par IA ou l'enlever de la recommandation.

[00:06:48] Bref, mener un certain nombre d'actions. Parce que dans ce cas-là, vous faites quoi ? Immédiatement, vous l'enlevez, vous le retirez ? Non. Aujourd'hui, on accepte tout. La seule chose qu'on a fait comme action, c'est de l'enlever de la recommandation algorithmique. Donc, il n'est plus mis en avant, mais il existe toujours. Si on va le chercher, il existe toujours. On n'est pas un régulateur, on n'est pas là pour interdire l'usage.

[00:07:15] On est là juste pour monitorer notre catalogue et offrir la meilleure expérience possible aux utilisateurs. Donc, on a décidé aujourd'hui d'expérimenter de l'exclure de la reco et de mesurer un petit peu les effets. Mais c'est aussi pour ça qu'on a communiqué publiquement sur ces chiffres-là. C'est aussi pour saisir un petit peu toute la filière musicale autour de ces questions qui a généré. Oui, parce qu'au fond, vous le disiez, est-ce que c'est vraiment scandaleux de faire de la musique

[00:07:44] avec de l'intelligence artificielle ? Pas du tout. C'est génial. Je peux dire que ça donne l'opportunité à beaucoup de gens de pouvoir s'exprimer, d'explorer. Je veux dire que tant qu'il y a une démarche artistique derrière, quelque chose qui est lié à la musique, à la transmission d'émotions, de messages, c'est un outil formidable. Nous, ce qui nous pose problème, c'est plus les abus, la saturation du catalogue. Écologiquement aussi, c'est une question. Est-ce qu'on a envie de stocker tous ces morceaux

[00:08:13] qui ne sont pas forcément écoutés ? Donc, c'est toutes ces questions qu'on soulève autour de l'IA générative. Mais au contraire, on pense que c'est une fabuleuse opportunité. Donc, vous ne tournez pas le dos à la musique générée par IA. On sait que c'est également la position d'ailleurs de votre principale concurrence. Spotify, etc. Malgré tout, il y en a qui s'inquiètent un peu, ce sont les artistes. Et on le voit en ce moment.

[00:08:40] Là, récemment, un millier d'artistes britanniques sont montés au créneau et partent en guerre contre un projet de loi en Grande-Bretagne qui, justement, devrait permettre aux IA de s'entraîner à partir de leur musique. Et ça, ils n'en veulent pas ou en tout cas, ils veulent faire pression pour peut-être être rémunérés en conséquence, etc. Qu'est-ce que vous en pensez ? On est un tournant, en fait, pour ce marché ? Oui, je pense que comme souvent,

[00:09:10] et ça fait partie du secteur culturel, mais aussi de la musique, la technologie vient un peu bousculer les codes. Ça a été le cas avec le streaming il y a 17 ans maintenant, qui a changé les codes. Vous, ça vous a bien arrangé ? Parce que finalement, sans la révolution du streaming, Deezer aujourd'hui n'existerait pas. Tout à fait. Mais ça fait partie des ruptures technologiques et je pense qu'il faut l'accompagner, le comprendre. Et justement, c'est le rôle des acteurs technologiques

[00:09:40] comme Deezer qui a à la fois une expertise sur la tech et une expertise dans le milieu culturel, musical, de faire la jonction et aussi d'aider les ayants droit à comprendre ce qui est possible de faire, comment on peut faire évoluer les modèles économiques. Qu'est-ce qu'il faudrait ? Je ne sais pas, selon vous, ça devrait évoluer dans quel sens ? Aujourd'hui, comme vous le disiez au début du podcast,

[00:10:08] c'est toujours technologie contre technologie. Finalement, maintenant, il y a des technos pour générer des morceaux. En face, on va développer d'autres technologies qui vont être capables de les repérer. Il y a un moment, il faut se mettre autour de la table et poser tous les éléments factuels qu'on a, notamment les données. Aujourd'hui, on sait que l'IA générative représente une grande partie des nouveautés qui sont livrées dans les catalogues. Qu'est-ce qu'on fait au niveau du modèle économique ? Aujourd'hui, nous, on a commencé

[00:10:38] à faire évoluer le modèle du market-centrique vers la CPS, mais c'est qu'une étape. Alors, ça veut dire quoi, ça ? En bon français, du market-centrique vers la CPS ? Alors, le market-centrique, c'est le modèle à peu près standard du streaming aujourd'hui, c'est-à-dire, on collecte tous les abonnements et après, on répartit à la part de marché. D'accord. sur l'artiste-centrique, c'est un modèle un peu hybride qui est là pour reverser et promouvoir

[00:11:08] les artistes, les vrais artistes, je n'aime pas ce mot-là, de vrais artistes, mais des artistes professionnels qui prend une, en tout cas, qui va booster une partie de cette consommation-là, qui va mettre le noise et toute la partie non-music content de côté, avec un pilier sur la fraude. Enfin, il y a toute une évolution du modèle justement

[00:11:37] pour accompagner ces nouveaux usages. On a l'impression, alors surtout quand on n'est pas dans ce milieu-là et qu'on est simple utilisateur et auditeur de musique, que derrière ces plateformes de streaming qui aujourd'hui définissent le... sont au cœur de notre manière d'écouter de la musique, c'est une espèce d'iceberg et derrière il y a toute une mécanique et toutes sortes d'intérêts qui s'entremêlent

[00:12:07] qui font que la situation devient de plus en plus compliquée. Oui, il y a beaucoup d'acteurs, beaucoup d'acteurs différents, beaucoup d'endroits différents, beaucoup de créateurs différents, il y a des auteurs, il y a des musiciens, des interprètes, bref, il y a énormément, il y a une complexité liée à cette filière-là où chacun aussi voit ses intérêts et se bat pour et c'est bien normal. Pour ce qui concerne l'IA dégénérative et notamment

[00:12:36] ce qui se passe en Angleterre, enfin au UK en ce moment, oui, il y a une vraie question comment ont été constitués les datasets, comment les modèles génératifs ont été entraînés et je pense qu'il faut faire la part entre, on est capable de le faire technologiquement et tout le domaine de la recherche et de la capacité technique à produire ce type de modèle et l'exploitation commerciale derrière qui pose d'autres questions. Alors justement, j'allais vous poser la question,

[00:13:06] l'entraînement des modèles parce que alors votre technologie permet de dire si un morceau a été généré par de l'IA ou pas mais ça peut aller jusqu'où cette détection ? Est-ce que vous êtes capable de remonter jusqu'à la source et de dire les modèles ont été entraînés à partir de tel artiste, tel type d'album je ne sais pas, etc. C'est des recherches que l'on mène, ça prendra beaucoup de temps parce qu'il y a une complexité derrière. Il y a certaines méthodes

[00:13:36] aujourd'hui qui sont capables de tordre un petit peu le bras au LLM pour leur faire régurgiter du contenu. C'est ce qu'on appelle du reverse engineering en fait. Exactement. Mais la problématique avec ces méthodes-là, c'est que c'est très compliqué à l'échelle et comme je vous l'ai dit, on reçoit énormément de morceaux. Donc si on devait vérifier tous les morceaux, il nous faut des choses un peu plus robustes. On espère un jour pouvoir être capable de revenir au dataset

[00:14:05] recettes d'entraînement. Aujourd'hui, ça reste du domaine de recherche. Oui, parce que je sais que l'IRCAM, notamment l'Institut français de la recherche sur la musique, travaille également là-dessus, a mis au point aussi une technologie qui permet de détecter, de repérer les morceaux « fake » entre guillemets. Enfin « fake », non, il ne faut sans doute pas employer ce terme, mais les morceaux générés par IA, mais c'est très difficile pour autant de remonter jusqu'aux morceaux d'origine. Du coup, est-ce que dans l'histoire,

[00:14:35] ce n'est pas les artistes qui vont encore élisser des plumes ? Je ne pense pas puisqu'aujourd'hui, justement, les artistes sont conscients qu'il va falloir faire évoluer le modèle économique, trouver un nouveau modèle économique, probablement. C'est l'avenir qui nous le dirait, mais je pense que des acteurs comme Deezer où, justement, on passe notre temps

[00:15:05] à développer ce genre de technologie aussi pour informer, avoir de la pédagogie derrière, nous aidera probablement à prendre de meilleures décisions. Vous avez, je crois que vous avez même déposé des brevets pour cette technologie que vous avez développée chez Deezer ? Tout à fait, parce que, justement, ces problématiques de généralisation, on travaille aussi dessus activement, c'est loin d'être terminé. Et si on communique aussi, c'est qu'on sait qu'on ne répondra pas

[00:15:35] tout non plus à travers la technologie. C'est vraiment une prise de conscience et une évolution globalelée du système de streaming qu'il faut repenser et faire évoluer. On peut dire que c'est une deuxième révolution numérique pour la musique. Après, le streaming qui a complètement changé la face du marché de la musique, est-ce que maintenant, c'est l'IA qui va à nouveau rebattre les cartes ? Je pense que ça s'applique au-delà de la musique, en fait.

[00:16:05] Il y a beaucoup de secteurs créatifs aussi qui sont impactés par les IA génératives et c'est une nouvelle façon de créer, des nouveaux outils pour créer. Ce n'est pas forcément qu'une menace, c'est aussi des opportunités. Les logiciels ou de professionnels, que ce soit de retouches d'images, de retouches de sons, intègrent ces modèles nativement et ça va simplement faire partie de la façon d'utiliser ces logiciels. Le problème aussi,

[00:16:34] c'est que les plateformes en question, Suno, etc., bénéficient actuellement d'une espèce de flou artistique, c'est-à-dire qu'on ne sait pas si c'est autorisé, pas autorisé, etc. Oui, pour l'instant, maintenant, je crois qu'aux US, ils se sont saisis de la question et sont en train justement de répondre à toutes ces questions. Il y a un flou mais ça fait partie aussi des nouvelles technologies quand ils arrivent sur le marché.

[00:17:05] Oui, on a l'impression que finalement, vous retrouvez, est-ce que vous n'êtes pas en train de vous retrouver un peu, vous, plateforme de streaming, dans la même situation un peu compliquée que celles qu'ont connues les réseaux sociaux ? Vous êtes des plateformes, c'est-à-dire que, voilà, il y a des contenus entrants, des contenus sortants, des utilisateurs, des fournisseurs de contenus, etc. Vous, vous êtes au milieu, forcément, à un moment ou un autre, ça dérape, il y a des gens qui font n'importe quoi et c'est vous

[00:17:34] qui devez faire la police sans la faire trop, en fait. Oui, après, c'est un choix aussi de Deezer de se saisir de ce sujet. On pourrait très bien simplement ingérer le catalogue, le mettre à disposition des utilisateurs et ne pas s'en préoccuper. Ce n'est pas notre philosophie. On pense justement que le rôle d'une plateforme, c'est aussi de garantir que l'endroit où on vient écouter, c'est équitable,

[00:18:04] que la plateforme met en place avec l'aide des ayants droit les outils nécessaires pour que les créateurs puissent vivre de leur création. Dernière question, est-ce que ça risque, pour une raison ou pour une autre, de changer les choses pour les utilisateurs, pour les auditeurs, je ne sais pas, en termes d'obligations, en termes de tarifs, etc. Comment vous voyez ? Aujourd'hui, c'est un peu tôt pour le dire. Je pense qu'une des premières étapes,

[00:18:33] c'est d'être transparent vis-à-vis des utilisateurs quand on leur recommande des morceaux, de leur dire l'origine, si c'est AI generated, qu'ils puissent le savoir. Et ça, vous l'indiquez, vous ou pas ? C'est des initiatives qu'on a engagées, oui, et qu'on souhaite mettre à disposition. C'est toute cette partie de transparent, je pense que c'est très important déjà comme première étape. Mais si je suis, pardon, si je suis auditeur de Deezer aujourd'hui, abonné, est-ce que si j'écoute de la musique générée par IA,

[00:19:04] c'est indiqué quelque part ? Pas encore. C'est quelque chose qu'on souhaite mettre en place, qui prend un peu de temps, parce qu'en fait, notre modèle, on l'a mis en production qu'au mois de décembre, donc on n'a pas beaucoup de recul encore vis-à-vis de l'usage, etc. C'est des choses qu'on étudie et on prend aussi le temps d'étudier avant de prendre des actions. Mais c'est quelque chose qu'on souhaite promouvoir, c'est aussi la transparence. Et donc, ça fait partie de ces initiatives qui sont prises très au sérieux chez nous

[00:19:34] pour pouvoir offrir ça aux utilisateurs. Je pense que c'est la première étape, la première marche, c'est la transparence. Et puis, l'étape d'après, c'est la concertation avec tous les acteurs pour trouver la meilleure solution à la fois pour les ayants droit, les créateurs et les utilisateurs. Bien sûr. Ok, très bien. Oui, on comprend que vous êtes dans un souhait de dialogue, visiblement, avec les uns et les autres. Oui, parce que ce n'est pas une plateforme toute seule qui va pouvoir résoudre cette problématique-là

[00:20:04] puisqu'il y a cette ambivalence d'être à la fois des technos super pour la création et de l'autre côté, il y a des abus et il faut trouver le juste milieu, je pense. Encore une question, malgré tout, je crois que votre concurrent que je citais tout à l'heure, Spotify, lui, a fait le choix de volontairement, délibérément pousser de la musique par IA dans des playlists, etc., de dire, tiens, moi, je vais mettre 10% ou 20% ou 30% de musique générée par IA. Vous, quelle est votre position

[00:20:33] par rapport à ça ? D'un côté, vous m'avez dit tout à l'heure que vous avez plutôt tendance à l'invisibiliser la musique générée par IA. Oui, alors je ne sais pas ce que font concrètement nos concurrents. Par contre, chez nous, ce n'est pas quelque chose qu'on fait. Ce n'est pas dans la stratégie ? Non, ce n'est pas du tout dans notre stratégie. Au contraire, comme vous le disiez, c'était plutôt justement de la mettre un peu plus en retrait, plus que de la promouvoir. Après, s'il y a des morceaux qui fonctionnent

[00:21:03] et que les utilisateurs souhaitent les écouter, on ne va pas non plus l'enlever de la plateforme. Oui, parce que ce qui est très important, et ce que les gens ne savent pas, ce que vous disiez au début, c'est qu'il y a des vrais auditeurs et puis il y a des faux, en fait. Oui, c'est peut-être ça qui trompe les chiffres, in fine. Oui, mais ça va de pair avec nos systèmes de détection de fraude, de fingerprint. Enfin, là, on parle de l'EI detection, mais on a beaucoup de systèmes de monitoring de notre catalogue

[00:21:32] justement pour éviter ces cas d'usage. Cette solution technologique, elle est réservée à Deezer ou elle pourrait, je ne sais pas, elle pourrait être utilisée sur d'autres plateformes ? C'est quelque chose qu'on envisage de pouvoir l'ouvrir. Aujourd'hui, c'est très récent, donc on la teste et on l'améliore, mais c'est quelque chose qui pourrait être totalement envisageable dans la vie. Merci beaucoup, Aurélien Héros, directeur de l'innovation de Deezer. Merci à vous.