🔎 La folie des agents IA : les big tech accélèrent (Zoom Tech)

[0:01] Vous avez aimé l'emballement autour de l'IA générative ? Eh bien,

[0:05] vous allez adorer la folie des agents IA. En tout cas, vous ne pourrez pas échapper à ce phénomène. Ce phénomène qui excite au plus haut point toute la sphère de l'intelligence artificielle, notamment les géants de la tech. Alors, les agents, on en a déjà parlé dans ce podcast. On a parlé notamment du phénomène Open Claw, ce système qui permet de développer ses propres agents sur son ordinateur, des outils logiciels automatisés, en fait, boostés à l'intelligence artificielle pour effectuer toutes sortes de tâches. Répondre aux emails, nettoyer des bases de données, lancer des prospections commerciales, etc. Un phénomène, un engouement qui a même engendré un autre phénomène plutôt inattendu, une ruée sur les ordinateurs Apple Mac Mini. Pourquoi ? Parce que le Mac Mini serait la plateforme idéale pour installer des agents sans qu'ils puissent faire n'importe quoi dans les documents et les données personnelles des utilisateurs. On sépare un peu les deux univers, en fait. Bref, depuis le phénomène Open Claw, tout s'emballe. D'abord, c'est OpenAI, la maison mère de Chagipiti, qui a décidé de débaucher le fondateur d'Open Claw, Peter Steinberg.

[1:13] Meta réplique en rachetant tout récemment Moltbook, cet étonnant réseau social dont les membres ne sont pas des humains, mais des agents IA qui discutent entre eux. On ne sait pas trop encore ce qu'on va en faire la compagnie de Mark Zuckerberg, mais au moins ça lui permet de montrer qu'il est toujours dans la course. Les deux cofondateurs de Moltbook vont rejoindre la division IA Super Intelligence Lab de Meta.

[1:39] Microsoft vient d'annoncer pour sa part une nouvelle série de fonctionnalités pour faire de son IA Copilot un véritable agent autonome, lui aussi capable d'exécuter des tâches complètes pour les utilisateurs, et cela grâce à un partenariat avec Anthropik. Perplexity, lui, vient de lancer un produit innovant baptisé Personal Computer. Comme son nom l'indique, c'est vraiment pour votre ordinateur personnel. En fait, c'est un logiciel taillé pour le Mac Mini d'Apple et qui transforme le Mac Mini en environnement pour un super agent. Ça peut accéder ainsi aux fichiers, aux sessions de l'utilisateur, aux outils installés sur la machine. Et ça se connecte au serveur de Perplexity afin d'effectuer toutes sortes de tâches de manière autonome, même lorsque l'utilisateur n'est pas devant l'écran. N'importe qui pourra bientôt avoir son propre super agent IA sur son petit Mac Mini ou sur n'importe quelle autre machine. Le rêve du Farnient au bord de la piscine pendant que l'IA fait tout le travail à votre place n'est peut-être plus très loin.

[2:40] Bref, ces agents, ça rend fou à peu près tout le monde. Alors un agent, c'est quoi ? En fait, alors que les chatbots qu'on connaît comme ChatGPT ou Cloud, ce sont des IA qui répondent quand on leur pose des questions, l'agent, c'est une IA qui agit, qui interagit même avec d'autres outils informatiques, d'autres utilisateurs aussi au sein de l'entreprise ou même à l'extérieur, et tout cela sans intervention humaine. Les agents IA sont peut-être les futurs collaborateurs des entreprises de demain, vos futurs collègues, auxquels vous pourrez d'ailleurs demander plein de choses. Vous pourrez demander à un agent de réaliser telle ou telle action, de développer un plan marketing, de mettre au point une fonctionnalité informatique sur le système de l'entreprise, puis ils devront s'exécuter, respecter vos consignes, vous rendre compte, et puis même, au-delà de ça, adopter la culture de l'entreprise, comme l'explique le PDG de Nvidia, John St. Juan.

[3:36] Bref, des sortes de robots, des robots logiciels, dotés véritablement cette

[3:40] fois d'une forme d'autonomie. Mais les agents IA, ça représente aussi une nouvelle menace pour la sécurité informatique à tous les niveaux. Car en ayant accès à toutes les strates de la vie numérique des entreprises ou même des particuliers demain, ça représente autant de nouveaux risques, de nouvelles portes d'entrée pour les cybercriminels. Il y a aussi le risque de perdre le contrôle. si des agents mal cadrés se mettent à faire n'importe quoi sans qu'on s'en rende compte, évidemment, on imagine les conséquences qui pourraient être fâcheuses. Le grand risque, c'est la perte de visibilité de tout cela. Alors ce boom des agents IA, notamment en entreprise, s'accompagne, heureusement, du développement de nouveaux outils de sécurité. Si on ne fait pas ça, ces gentils agents IA pourraient donc, en effet, se révéler de redoutables agents du chaos.

[4:27] D'ailleurs, c'est déjà arrivé. Le géant Amazon vient d'avouer que des pannes récentes avaient peut-être été provoquées par des agents IA. Selon le média Business Insider, des documents internes révèlent qu'au moins un incident majeur récent a été provoqué en partie par Q, c'est l'assistant IA d'Amazon qui permet de générer du code informatique. C'était le 2 mars pour être précis, des clients d'Amazon voyaient qu'il y avait des erreurs sur les délais de livraison qui étaient annoncés lorsqu'ils tentaient de mettre des articles dans leur panier. Et même certains ont laissé tomber du coup leurs commandes. ce qui a engendré près de 1,6 million d'erreurs sur le site et a entraîné la perte d'environ 120 000 commandes. Ça a donc des conséquences très concrètes. Incident également récemment chez McKinsey, le célèbre cabinet de consulting. C'était fin février, un agent d'IA autonome développé par une start-up a réussi à percer en quelque sorte la sécurité de McKinsey. Et il s'est infiltré dans l'outil interne d'intelligence artificielle, Lily, c'est comme ça qu'il s'appelle. Tout simplement parce que l'agent a eu la bonne idée d'aller consulter la documentation technique de l'outil d'intelligence artificielle qui était disponible en ligne et en libre accès. Et donc, il a procédé comme aurait fait un pirate humain. Il a lu le mode d'emploi et il a pu exploiter ainsi une faille de cybersécurité grâce à ce qu'on appelle une injection SQL.

[5:50] Bref, ces agents IA, c'est un peu la promesse du meilleur et aussi du pire. Une formidable promesse d'automatisation, d'accélération des processus et d'augmentation de la productivité, mais aussi une inquiétante augmentation des risques informatiques sous toutes leurs formes. Pour l'instant, le phénomène n'a pas encore vraiment gagné le grand public, ni même d'ailleurs la majorité des entreprises, mais soyons sûrs que ça va arriver, et sûrement plus vite qu'on ne pense. Donc il est urgent de s'intéresser à ces petits agents, et aussi d'y aller avec prudence pour manier cette espèce de cyberdynamite qui pourrait faire de très gros dégâts.