Trop d'IA tue l'IA (Debrief Transat)

Jérôme & Bruno :

[0:05] Le débrief transatlantique, comme chaque semaine et comme son nom l'indique, entre l'Est et l'Ouest, diffusé dans mon carnet et dans mon numérique. Salut Bruno Guglielminetti. Salut Jérôme Colombin, qu'on ne retrouve pas à Paris, mais en Grèce. Oui, mais tu sais tout. Tu me traques. Ben écoute, moi, oui, effectivement, j'ai un petit record dans le fond de ta valise. Là, si un jour tu retrouves ça quelque chose d'un peu bizarre, c'est là. Ah, c'est ça. Bon ben voilà, effectivement on s'est dit j'ai pris un peu de vacances et je suis au soleil en Grèce mon cher Bruno mais ça ne nous empêche pas de nous retrouver comme prévu, puisque toi tu continues à travailler et moi un petit peu aussi puisque ce débrief et bien, constitue en fait l'édition principale de Monde Numérique ce samedi Mais preuve que tu travailles toujours très fort j'aimerais ça que tu nous parles de ce qu'il vient de faire Évidemment, quand on parle de Paris cette semaine, il n'y a que les Jeux olympiques, mais parallèlement, en Europe, il y a quand même le AI Act qui fait la manchette. Oui, il se passe des choses. Ça y est, le AI Act, ce truc imprononçable, a été publié. Effectivement, c'est ce règlement européen. Ça fait plus d'un an, un an et demi, je crois, que les parlementaires européens discutent de ça et sont là-dessus. Maintenant, ça y est, il devient officiel. c'est vrai que c'est une étape importante quand même parce que c'est le fameux règlement un règlement de plus.

Jérôme & Bruno :

[1:32] Sur l'intelligence artificielle qui est le sujet du moment alors ce qu'il faut savoir c'est que ça va être petit à petit en fait la mise en route, là c'est la publication officielle donc ça devient officiel comme son nom l'indique mais il va y avoir encore d'autres étapes et on en a encore pour plus d'un an ou six mois, un an je crois avant que tout se mette en route dans le détail En deux mots, ce truc-là, c'est en fait pour essayer d'encadrer les dangers de l'intelligence artificielle. Donc, principalement, les modules les plus dangereux, certains sont carrément interdits. Pas de reconnaissance faciale en Europe, pas de choses comme ça. Et puis après, on va un peu plus dans le détail pour essayer de réglementer un petit peu toute cette révolution. En tout cas, permets-moi de te dire merci au nom de tout le reste de la planète, parce qu'évidemment, ça va encore faire école et ça va percoler.

Jérôme & Bruno :

[2:20] Puis d'autres pays vont coller là-dessus. Et c'est surprenant parce que vous en faites de réglementation. L'Europe, la France en particulier, est quand même pas assez maître. Mais permets-moi parce que... C'est déstabilisant de voir toute cette nappe d'eau bleue derrière toi.

Jérôme & Bruno :

[2:39] Tais-toi, tais-toi, tais-toi. Non, non, non, mais quand même, je veux le partager avec les auditeurs. Si on trouve que je suis un peu perdu dans mes propos. Tu es un peu troublé par mon arrière-plan. Oui, je suis hypnotisé par la mer Méditerranée. Non, mais c'est à fond vert, Bruno. T'inquiète pas, c'est à fond vert. Ah oui, c'est à fond vert. Oui, c'est ça. Mais juste pour... Encore un mot, soyons très sérieux sur les high-act. Moi, je pense que c'est à la fois, comme d'habitude, d'une bonne et une mauvaise nouvelle, puisque tu l'as dit, on a beaucoup de règlements en Europe, et on le sait, d'un côté, c'est bien, ça évite certains dérapages, et de l'autre côté, on voit que ça nous pose aussi de plus en plus de problèmes, et par exemple, si Meta.

Jérôme & Bruno :

[3:15] Peut-être même Apple, bien qu'à mon avis, apparemment, il y ait d'autres raisons à cela, mais en tout cas, Meta a décidé de retarder la sortie de son IA en Europe, c'est visiblement à cause de la réglementation, on en a déjà parlé ensemble, donc c'est, un peu le revers de la médaille, trop de réglementation, tue peut-être un peu quand même l'innovation. Oui, mais de l'autre côté, écoute, il y a Apple qui nous annonçait pour la fin de l'été, l'arrivée de l'intelligence artificielle. Et puis finalement, on va attendre aussi. Alors finalement, probablement qu'on va peut-être tous le recevoir en même temps. En même temps. Et que l'EI Act n'aura pas eu cet effet-là. Regarde, je me croise les doigts pour vous.

Jérôme & Bruno :

[3:54] Je veux aussi t'entendre parler sur cette histoire. Je l'ai vue passer moi aussi. C'est assez amusant. On est en train de voir que l'intelligence artificielle, et ça fait un peu écho à notre discussion qu'on a déjà eue, à un commentaire que Stéphane Ricole a fait aussi dans mon carnet, c'est le fait que l'intelligence artificielle, lorsqu'elle n'est pas nourrie par l'être humain, elle s'atrophie elle-même. Ah ouais, c'est assez incroyable. Tu fais allusion à cette étude qui vient de Cambridge en Grande-Bretagne, je crois, qui montre que les IA, lorsqu'elles s'entraînent à partir de données qui ont été elles-mêmes générées par des intelligences artificielles, typiquement des textes ou même des images ou même de la musique, au bout d'un moment, elles déraillent.

Jérôme & Bruno :

[4:38] Et c'est incroyable, il y a des photos qui ont été publiées où on voit qu'au bout d'une dizaine, une quinzaine de générations d'entraînement de modèles, les images deviennent complètement pourries, parce qu'en fait, les IA ont besoin de données fraîches pour être intelligentes, et en gros, si j'ai bien compris le truc, c'est qu'avec des contenus générés eux-mêmes par IA, ces contenus sont appauvris par rapport à la réalité, et du coup, les IA sont moins performantes, c'est hallucinant ! J'aime bien l'image que t'as de Cherfraîche, parce que c'est vraiment ça, on a vraiment l'impression que c'est un monstre et qu'il a besoin de Cherfraîche pour vraiment... Comme dans un film d'horreur, là. Oui, le Minotaur.

Jérôme & Bruno :

[5:21] Exactement, mais qu'il a besoin de Cherfraîche pour fonctionner, mais aussitôt qu'il n'en trouve plus, bien là, il est déstabilisé et il commence à dérailler, à faire n'importe quoi. Et visuellement, là, c'est ce qu'on a vu. Oui, mais tu vois, là encore, moi, c'est mon côté un peu entre deux.

Jérôme & Bruno :

[5:36] C'est mon goût du consensus. Je pense que c'est à la fois bien et pas bien.

Jérôme & Bruno :

[5:40] Parce que c'est pas bien. Oui, c'est bien aussi. Tu vois, exactement. C'est bien aussi. C'est ton avis. Oui, parce que, regarde, ça nous amène presque, puis tu me permets d'amener un autre sujet. Il y a Wix, qui est la plateforme de fabrication de sites web, où on n'a vraiment plus besoin de savoir ce qu'on veut dans la vie. On va là, on met deux, trois mots, puis pouf, il y a un site web qui nous apparaît. Ben eux ils viennent de rentrer une nouvelle fonctionnalité alors si vous n'étiez pas capable d'avoir un site web et maintenant vous pouvez l'avoir facilement ben si vous n'êtes pas capable de créer du contenu la machine elle peut vous en créer pour vous on est rendu là ça écrit des billets de blog pour toi quoi, exactement, ben à un moment donné à force de créer des billets de blog à partir de rien j'ai l'impression qu'on va en perdre grandement en qualité en tout cas c'est pas le cas sur mon blog et ni le tien, toi c'est du 100% humain ou 50% humain non c'est du 100% humain mais assisté par la machine quand même pour travailler mais je pense à un site web ou à un blog qui lui carburait à 100% là dessus j'ai l'impression qu'il va s'étouffer de par lui-même on est dans le sujet est-ce que ça peut marcher ce genre de choses.

Jérôme & Bruno :

[6:53] Parce que finalement c'est en train d'appauvrir internet et à terme derrière ça appauvrira les intelligences artificielles, donc la source risque de se tarir, et on en revient au point de départ, c'est là où peut-être que des réglementations, et notamment l'AIC prévoit ou va prévoir des choses sur les IA génératives, ça fait peut-être partie des choses qu'il va falloir un peu réglementer, alors après on ne va pas non plus tout réglementer, mais finalement on voit que,

Jérôme & Bruno :

[7:25] L'avenir s'annonce quand même évidemment compliqué. Quand même, c'est intéressant. Hé, Jérôme, tu m'as glissé, je ne sais pas si tu vas vouloir en parler, mais tu m'as glissé l'information à savoir qu'avant de quitter pour ta destination, tu as décidé d'enlever ton téléphone X. Incroyable, non? C'est vrai ça? C'est vrai que tu l'as fait? Je te jure que c'est vrai, je l'ai fait. Et comment ça? Écoute, au moment où je me suis monté dans l'avion, j'ai effacé l'application X c'est symbolique ça ? Non c'est pas symbolique, c'est bien réel et c'était volontaire, c'était prémédité ouais mais c'est tout bête en fait c'est histoire de décrocher, alors là c'est vrai que ça me manque un peu tu vois, je sais pas quelles sont les.

Jérôme & Bruno :

[8:13] Dernières polémiques là ça fait pas longtemps, ça fait 24h mais bon, je vais pas rester comme ça longtemps, je me donne minimum 3 jours je me donne 3-4 jours c'est une petite désintoxication mais ça fait un bien, énorme, ça fait un bien fou c'est reposant bon je te dis c'est vrai, je ne sais pas quelles sont les dernières polémiques à la mode j'ai pas vu encore de gens s'insulter depuis 24h, j'ai pas vu de gens se taper dessus, en vidéo je suis un peu en manque mais je pense que ça reviendra tu devrais essayer non je ne suis pas prêt pour la désintoxication un tout petit peu pour les vacances pour l'été, c'est bien, ça fait du bien. Non, non, non, ça fonctionne bien. Non, tu ne veux pas.

Jérôme & Bruno :

[8:54] Écoute, avant de te laisser aller, parce que je vais quand même te laisser aller profiter de tes vacances, est-ce que tu as vu passer ça, toi, cette semaine, cette nouvelle fonctionnalité qui est disponible en France, disponible ici au Canada? C'est l'outil à propos de cette image qui permet de vérifier la véracité, surtout les origines d'une image. C'est Google qui vient d'offrir ça au reste de la planète. Ah non. C'était déjà disponible aux États-Unis. Donc, c'est ça. Alors maintenant, si tu vas dans la partie Google, Google Lens, tu vas dans la section, c'est à propos de cette image et tu peux prendre l'image de ton choix, celle qui surlupine ton esprit, la prendre et lui, il va aller chercher l'information sur la première fois qu'elle est apparue sur Internet, jusqu'où il peut se rendre et qui l'a publiée. Non, mais c'est un peu Google Images. C'est ce que vous êtes déjà Google Images, non? Oui, mais là, c'est vraiment dans un contexte des informations et un contexte, on veut vraiment aller à la source et ils croisent les informations. Ça, je trouve ça intéressant. C'est disponible dans une quarantaine de langues, dont le français. Et c'est pour ça que je voulais partager l'information avec tes auditeurs et les miens.

Jérôme & Bruno :

[10:02] Absolument. C'est une info intéressante. C'est une partie des choses vraiment bien que fait Google. Il y en a d'autres qui apparemment sont un peu moins bien. Je ne sais pas si tu as vu cette news. Je crois que c'est aux États-Unis, je ne suis pas très sûr. Ils ont fait une publicité pour leur intelligence artificielle Gemini en s'adressant aux plus jeunes et en expliquant que ça allait pouvoir aider les enfants.

Jérôme & Bruno :

[10:23] À écrire, par exemple, des lettres à leurs idoles, leurs idoles de la chanson, du sport, etc. Et en fait, ils se sont vautrés avec cette publicité parce que les parents ont hurlé en disant « C'est absurde, on est en train d'expliquer aux enfants comment ne pas... » C'est important pour les enfants d'apprendre à faire ce genre de... À produire eux-mêmes ce genre de contenu. Et on leur dit « Tiens, t'as même plus besoin d'écrire... » « Prends la machine, maintenant ! » Voilà, t'as qu'à t'en remettre à la machine. La première chose qu'on va savoir, c'est que les premières demandes en mariage et les premiers divorces vont se faire par intelligence artificielle. De toute façon, non, mais ça, c'est une réalité. Si c'est pas déjà fait. Bien sûr, c'est déjà fait. Les messages, oui, ça va de la fiche de poste à la lettre de licenciement. Ça va de la déclaration d'amour à la déclaration de rupture. Il n'y a pas un discours aujourd'hui dans une assemblée qui n'est pas faite en partie au moins par Chet Jepiti. Donc, ça, c'est une réalité. Ah, Jérôme, c'est sur ces images qu'on a évoquées pour l'esprit des auditeurs. Mais quant à moi, je regarde l'image de cette eau bleue derrière toi. Et puis, bien, regarde, je te remercie. Mais viens me rejoindre, Bruno. Je te garde un petit verre d'ouzo. C'est vrai qu'il y a deux mères qui nous séparent, quand même. Non, ça, c'est juste la méchanceté de ta part. Je te remercie.

Jérôme & Bruno :

[11:47] Non ce sera avec plaisir c'est sincère bon écoute mais entre temps ben nous on se retrouve pas la semaine prochaine mais l'autre semaine ouais et puis on se retrouvera en vrai donc pour se reparler de l'actualité et tu m'as pas dit ce dont tu parlais dans mon carnet cette semaine t'as encore une minute ou pas ah non tu dois filer là non mais parce que je vois ta conjointe qui est en train de faire des signes c'est le temps d'aller souper allez, je te dis au revoir profite bien de la graisse et puis on se retrouve On se retrouve dans deux semaines. Salut! Ça marche. Merci Bruno. Ciao, ciao!