🇫🇷🇨🇦 Debrief Transat - Blocage des sites porno et IA responsable

Jérôme : [0:06] Salut Bruno Guglielminetti à Montréal. Bruno : [0:08] Salut Jérôme, Colombain à Paris. Et puis, bon anniversaire. Jérôme : [0:11] On ne va pas remettre ça cette semaine. On en parlait déjà la semaine dernière. C'est gentil. C'est sûr. Bruno : [0:16] Dis donc, parlant d'anniversaire, ils ont fait un méchant cadeau cette semaine en France. Je sais que ça ne te vise pas toi, je te rassure. Jérôme : [0:25] Qu'est-ce que tu veux dire par là? Bruno : [0:27] Ils ont coupé l'accès au site pornographique. Qu'est-ce qui se passe? Jérôme : [0:31] Alors, ils n'ont pas coupé l'accès au site porno. il faut bien faire le distinguo. Mais c'est vrai qu'il y a une grosse actualité à ce niveau-là parce qu'en fait, c'est le gouvernement qui tape du poing sur la table et qui dit, bon, maintenant, ça suffit. Ça fait des mois, voire des années qu'on demande au site pour adultes de mettre en place un système pour bloquer l'accès aux plus jeunes parce que c'est terrible. C'est-à-dire qu'on le sait, on sait que des enfants, à partir de 13 ans, 11 ans, certains, se retrouvent à aller traîner sur des sites pornographiques, ce qui n'est pas du tout fait pour eux. Comment faire, sachant que jusqu'à présent, sur les sites porno, il y a juste une petite question. Est-ce que vous avez plus de 18 ans ? Et on clique sur oui ou non. Autrement dit, ça n'empêche personne d'y aller. Et là, effectivement, c'est la fin de la récréation, si on peut dire. Le gouvernement a demandé expressément au site de mettre en place un système. Et comme ils n'ont pas trouvé de système et qu'ils n'ont pas voulu, ils font la grève. Donc, en fait, ça concerne un certain nombre de sites. Parmi les plus connus, Jérôme : [1:36] il y a Pornhub, YouPorn, RedTube. Bruno : [1:39] Qui appartiennent tous à la même entreprise, montréalaise. Jérôme : [1:42] Voilà, tout à fait. C'est le groupe Ailo. C'est montréalais. Bruno : [1:45] Oui, c'est montréalais. Une fierté canadienne. Jérôme : [1:48] On ne vous félicite pas, les Québécois. Bruno : [1:50] Ça a fait de fortune. Il y a des gens qui sont rendus hyper millionnaires depuis tous les buts de Pornhub. Jérôme : [1:57] Voilà. Donc, ils ont trouvé le truc. Donc, ils ont fermé leur site et puis ils ont tous affiché un visuel à la place qui est « la liberté n'a pas de bouton off ». Voilà, donc ils se posent en défenseurs de la liberté. Non, je me moque, mais moyennement, parce que c'est vrai que c'est compliqué cette histoire-là. Bruno : [2:14] C'est une vraie problématique, là. Jérôme : [2:16] C'est une vraie, vraie problématique. Il faut protéger les enfants et puis, en même temps, on ne va pas interdire aux adultes d'aller sur ces sites. Et en même temps, on ne va pas fliquer tout le monde et demander à chacun son nom, son adresse, son numéro de carte bancaire ou autre. Donc, c'est complexe. Mais c'est vrai aussi qu'ils n'ont pas mis beaucoup d'énergie quand même pour trouver une solution. Donc, ils préfèrent tirer le rideau. Ce qui est amusant, c'est qu'il y a un volet politique à tout ça parce que, par exemple, il y a l'ancien ministre du numérique, Jean-Noël Barraud, qui s'est félicité du fait que les sites arrêtent. Donc, il a posté un message sur X en disant « ils s'en vont, tant mieux ». Oui, effectivement, c'est assez radical comme façon de faire. Je ne pense pas que ce soit définitif. Tout ça, c'est une espèce de bras de fer, sachant qu'il va encore se passer des choses, parce qu'on va avoir, d'ailleurs, c'est intéressant à signaler. Jérôme : [3:03] Bientôt une application qui permettra de contrôler de manière efficace l'âge des internautes et donc de filtrer ceux qui sont majeurs, pas majeurs, ceux qui ont moins de 15 ans, qui ont moins de 13 ans, etc. Et donc, ça servira, entre autres, Ça permettra, entre autres, de limiter l'accès aux sites pornographiques. Ça, c'est prévu pour le mois de juillet. Et en attendant, il va y avoir sans doute cette espèce de zone de flou. Alors, en espérant aussi que les sites pornographiques en question accepteront d'implémenter cette solution-là, c'est ce qu'on appelle, tu sais, le système du double anonymat. C'est-à-dire qu'en fait, on donne son identité, mais à un organisme tiers qui n'est pas le site en question. Jérôme : [3:44] Et puis, le site en question autorise la connexion tout en préservant notre anonymat. Bon, et après, il peut y avoir un tas de débats en disant est-ce que c'est assez sécurisé ? Est-ce que ce n'est pas quand même la porte ouverte à une entrave à l'anonymat sur Internet, la liberté d'expression, etc. Donc voilà à peu près où on en est. Ce qui est amusant aussi, c'est de signaler qu'apparemment. Jérôme : [4:08] Conséquence de cette histoire-là, il y aurait eu une explosion du nombre d'abonnements au VPN, puisqu'on sait que le VPN, c'est un système qui permet de contourner les interdictions, et j'ai fait le test, j'avoue, j'ai fait le test, en activant un VPN, tu peux Très facilement accéder à ces sites pornographiques malgré le fait qu'ils soient officiellement fermés en France. Bruno : [4:31] Il faut quand même dire aussi, je ne sais pas du tout pour défendre les gens de Pornhub et cette entreprise-là, mais c'est probablement de par les poursuites dont ils ont été la cible, c'est probablement dans les sites les plus policés qui existent. Et le problème avec un truc comme ça, c'est que maintenant, les gens sont détournés pour aller chercher d'autres sites où ils vont voir encore plus de cochonneries dans le premier sens du terme. Et c'est là où je trouve ça délicat parce qu'on sait qu'on ne va pas arrêter les jeunes d'aller faire un tour là-dessus. Puis ces sites-là, ils n'ont pas de système de barrière à l'entrée. Donc, c'est vraiment toute une problématique. Et probablement que ce que vous êtes en train de développer chez vous, ça va une fois de plus dans l'encadrement, ça va faire de l'émulation. et probablement que vous êtes le premier à le faire, mais après, les gens vont prendre le modèle puis ils vont utiliser des tiers-parties pour valider l'identité des gens. Jérôme : [5:20] Ben, écoute, si on trouve quelque chose qui arrive à fonctionner, oui, espérons que ça puisse faire ta juile. Bruno : [5:26] À la porte d'ingénieurs que vous avez, vous allez trouver. Je vous fais confiance. Jérôme : [5:29] Oui, mais ce n'est pas simple parce que ce n'est pas qu'une question de technique. Il y a plein de problématiques derrière, juridiques, etc. Bruno : [5:36] Ah, vous saurez faire. Jérôme : [5:38] Oui, tu crois. Bon, c'est gentil. Tu as beaucoup d'estime pour nous. Bruno : [5:41] Mais pardon, tu allais dire. Jérôme : [5:41] Non, mais il y a eu des tentatives dans d'autres pays européens, et même pas européens. D'ailleurs, il y a eu des choses en Grande-Bretagne, mais ils ont fait un filtrage par la carte bancaire, mais ils ont laissé tomber. J'avais fait un édito sur le monde numérique il y a quelques semaines là-dessus. On essaye de recadrer un peu le truc. Mais personne n'a trouvé la solution miracle à ce jour. Jérôme : [6:04] Bruno, de ton côté, ça bouge en matière d'intelligence artificielle, aussi avec notre ami Yoshua Menjie. Bruno : [6:12] Oui, puis d'ailleurs, juste avant de parler de ça, je pense au système Clear qui a été mis en place par une entreprise américaine. Celle-là te permet d'officialiser ta personne en montrant des documents officiels et par la suite, te permet de faire patte blanche. Par exemple, LinkedIn utilise ce système-là. Jérôme : [6:30] Oui, mais là, tu révèles ton identité. Bruno : [6:33] Oui, mais tu confirmes ton identité. Mais il y a des endroits où on peut l'utiliser de façon un petit peu plus anonyme. Jérôme : [6:40] Bien sûr. Bruno : [6:40] Et pour revenir à ton point, effectivement, gros événement dans l'écosystème de l'IA canadien, c'est Yoshua Bengio qui officiellement annonce le lancement de son organisme non lucratif, la ZERO. et qui essentiellement, si je lis la définition de l'organisation, leur mission, c'est accélérer la recherche et proposer des solutions techniques concrètes pour construire des systèmes d'IA qui placent la sécurité et le bien commun au cœur de leur développement. C'est exactement ce dont ils nous parlaient quand on l'a eu en entrevue, il y a un moment maintenant. Jérôme : [7:15] On rappelle en deux mots, Bruno, qui est Yoshua Bengio quand même, qui est un des pères de l'intelligence artificielle moderne. Bruno : [7:23] Avec Yann Lecon et j'oublie toujours son nom. Jérôme : [7:26] Et Geoffrey Frampton. Merci beaucoup. Bruno : [7:28] L'ancien patron de l'IA chez Google, mais d'abord et avant tout un prof à l'Université de Toronto. Quand même deux Canadiens contre un Français. Jérôme : [7:36] Ah là là! Bruno : [7:37] Je ne vais pas plus loin. Mais donc, c'est ça qui est intéressant. C'est qu'à force, depuis deux ans et demi, de porter le drapeau en disant, il faut faire attention, il faut faire attention, de mettre en marche des initiatives du côté de l'ONU, de l'UNESCO, de différents gouvernements en Angleterre, au Canada, au Québec chez nous, bien là, Yoshua Bengio prend les grands moyens en disant, bon bien là, je crée une organisation qui va arriver avec des solutions. Et je trouve ça intéressant parce qu'autour de lui, depuis toutes ces années, s'est formé au MILA, qui était son, moi j'appelle ça une grande école, Mais ce n'est pas vrai, c'est un centre de recherche ou une communauté de recherche dans l'IA. Bruno : [8:21] Officiellement, on parle de 1500. Moi, j'ai plus l'impression qu'ils sont 2000 chercheurs d'un peu partout à travers la planète qui partagent cet intérêt du développement de l'IA responsable. Et là, donc, c'est comme si, je vais utiliser l'expression anglophone, on hijackait tout ce savoir-là et cette volonté-là et on faisait bifurquer. Le Miloï ne cesse pas d'exister, mais on va prendre toute cette bonne volonté-là et on va l'amener vers cette organisation, The Last Hero, pour permettre de vraiment donner un gros coup de pouce ou de mettre un coup sur la table, comme tu disais tout à l'heure, du gouvernement français, pour faire avancer des IA plus responsables. dans un contexte plus sécuritaire pour les utilisateurs et la société en général. Alors donc, c'est une initiative de Yoshua Bengio qui permet de concrétiser tout ce qu'il a dit depuis aussi longtemps par rapport à la sécurité. Jérôme : [9:13] Donc, la loi zéro, c'est ça que ça veut dire. Bruno : [9:17] D'ailleurs, merci de le dire comme ça. Moi, je l'ai francisé dans mon papier. Bruno : [9:21] Mais officiellement, je pense qu'il n'y a pas de titre en français. Jérôme : [9:24] Ça veut dire que concrètement, parce qu'il y a eu beaucoup de déclarations, effectivement, il ne se passait pas grand-chose. Bruno : [9:30] Rien. Jérôme : [9:31] Et là, tu penses que concrètement, ils vont faire quoi? Bruno : [9:35] Ils vont développer des technologies. Ils vont développer du code, probablement, des algorithmes à insérer. C'est du code, c'est ça. Jérôme : [9:40] Ce n'est pas juste des règles, des grands principes. Bruno : [9:43] Non, non, c'est ça. Là, on veut vraiment arriver, en tout cas, de l'information que j'ai eue, on veut vraiment arriver avec des outils concrets qu'on pourra installer. Mais là, après, on verra la bonne volonté des gens d'installer ou pas. Mais il va l'arriver avec des solutions concrètes. Jérôme : [9:57] Des espèces de garde-fous, mais intrinsèques. C'est ce qu'il nous avait expliqué dans l'interview, qui peut être à écouter à la fois sur ton site et sur le mien, d'essayer de faire des IA qui contrôlent des IA, en fait, si tu me souviens bien. Bruno : [10:11] Et parallèlement, ce qui est intéressant, c'est qu'il amène aussi un nouveau concept de IA chercheur, où justement, il va utiliser des systèmes agentiques pour l'aider. Alors, il va y avoir de la recherche humaine, mais il va y avoir aussi de la recherche intelligente là-dedans. C'est vraiment intéressant comme démarche. J'ai l'impression qu'on va revenir là-dessus. Puis là, si vous êtes curieux, les grands médias européens et américains commencent à se pencher là-dessus. Ils ont accordé quelques entrevues sur le sujet. Mais c'est pas surveillé. Jérôme : [10:41] Il faudrait que tu nous en reparles quand ça évolue. Bruno : [10:43] Oui, ou carrément qu'on réinvite. Jérôme : [10:45] Bien sûr. De quoi parles-tu cette semaine dans ton carnet, Bruno? Bruno : [10:49] Écoute, suite à ton éloquent exposé que tu viens de faire, ça m'a donné une idée. Et je parle avec une sénatrice canadienne qui ramène de l'avant un projet de loi pour justement permettre de sécuriser l'accès au site pornographique pour les enfants. Jérôme : [11:05] Ah, bien alors, on est en plein de dons. Bruno : [11:06] Bien oui, c'est pour ça. Tu m'as inspiré ce sujet-là. Incroyable. Et donc, c'est Julie Miville-Dechaîne qui est parmi mes invités. On parle de son projet de loi. Et puis, il y a aussi, écoute, On est inspiré de la France, c'est fou. Tu connais bien Station F, pour y avoir été deux fois, avoir probablement des amis, si ce n'est pas ton bureau qui est installé là. Jérôme : [11:28] Ce n'est pas mon bureau, mais ce n'est pas très, très loin de chez moi. Bruno : [11:30] Qu'est-ce que je disais? C'est une annexe de ton bureau. Donc, imagine-toi donc que Station F va avoir son pendant montréalais. Et donc, c'est finalement… Ça fait 4-5 ans que c'était en préparation, en discussion. Jérôme : [11:44] D'accord. Bruno : [11:44] Et là, officiellement, c'est lancé cette semaine. Jérôme : [11:46] Et c'est lié avec le Station F français? Pas du tout. Bruno : [11:49] Mais ça fait partie de cet écosystème. Jérôme : [11:50] C'est inspiré d'eux. Bruno : [11:52] Oui, puis d'autres centres quand même. Il n'y a pas que Station F, mais c'est dans la même veine d'approche. Donc, c'est Accès, mais A-X-C. Et c'est Geneviève Leclerc, qui est la grande patronne de l'endroit, qui vient en parler dans mon cardin. Bruno : [12:07] Mais c'est le même principe. Donc, ramener un paquet de startups avec des gros joueurs de l'écosystème numérique et de leur permettre de faire du... Jérôme : [12:15] Remuer tout ça pour faire de la potion magique. Bruno : [12:17] Exactement. Et puis, alors là, c'est ça, je voulais faire une entrevue parce que ça ouvre, mais tu peux être certain que je vais aller gambader par là-bas pour aller chercher des histoires. Et puis, rapidement, en terminant, bien évidemment, c'est le moment de recevoir mon ami Muriel Edjo de l'Afrique pour aller prendre des nouvelles du continent. Jérôme : [12:34] Bien bien, super. Très intéressant. Bruno : [12:36] Jérôme, cette semaine, toi, tu parles de quoi? Jérôme : [12:38] Alors cette semaine, moi je parle d'un sujet, je crois que tu l'as déjà traité et j'avais vraiment envie de me pencher dessus également, c'est l'influence de l'intelligence artificielle sur le e-commerce. Il paraît qu'il y a de plus en plus de gens qui utilisent ChatGPT ou d'autres chatbots pour faire du shopping ou en tout cas pour trouver des choses, pour comparer des produits, pour faire des recherches comme on le faisait jusqu'à présent sur Google. Et donc, j'interview Lionel Tardy, que tu connais, qui a pas mal travaillé là-dessus et qui est enseignant dans une école de commerce. Et puis, je parle de l'événement qui nous attend la semaine prochaine et auquel tu auras le plaisir de venir, qui est VivaTech, puisque ça démarre donc le 11 juin. Alors, à quoi va ressembler ce VivaTech 2025 ? Eh bien, j'en parle avec Florent Roulier, qui est un observateur d'un cabinet de conseil spécialisé qui connaît tous les salons de tech du monde et qui me fait un petit point là-dessus. Voilà, parce que la semaine prochaine, grosse actualité, on a du VivaTech, on a du Apple qui pourrait peut-être nous sortir des choses de son chapeau. Donc, ça va pétouiller dans tous les sens. Bruno : [13:49] Pétouiller, OK. Et puis sinon, il y a notre ami François Sorel qui célèbre ses 25 ans. Jérôme : [13:55] Qui? Bruno : [13:56] François Sorel. Écoute, tu as déjà travaillé avec lui à un moment donné. Jérôme : [13:59] Je ne vois pas qui c'est. Bruno : [14:00] Oui, oui. C'est ça, François Sorel, il est de passage dans mon carnet. Et on parle de ses 25 heures de travail. Jérôme : [14:08] C'est vraiment touchant. Bruno : [14:09] Je t'invite, mais je te préviens, prends une boîte de Kleenex parce qu'il y a beaucoup de souvenirs là-dedans. C'est touchant. Jérôme : [14:15] C'est vrai? Oh là là. Séquence émotion, là. Bruno : [14:18] Séquence émotion. Hé, Jérôme, je te laisse poursuivre ton podcast et puis j'invite tes auditeurs à venir faire un tour de mon côté. et l'inverse, évidemment, j'invite mes auditeurs à aller t'écouter par la suite. Jérôme : [14:28] Salut Bruno, à la semaine prochaine.