🎤 Pourquoi la cybersécurité entre dans une nouvelle phase avec l’IA (Jérôme Bouvet - Check Point)

Jerome Bouvet: [0:01] Globalement, il faut entre 5 à 7 jours en moyenne pour corriger une vulnérabilité Jerome Bouvet: [0:06] critique en entreprise. Un attaquant, aujourd'hui, met entre quelques minutes et quelques heures pour exploiter cette vulnérabilité critique. La fenêtre de rémédiation, elle est à l'avantage des attaquants. Il est plus facile pour eux d'exploiter qu'aujourd'hui une entreprise remédiée. Monde Numérique : [0:31] Bonjour Jérôme Bouvet. Jerome Bouvet: [0:32] Bonjour Jérôme. Monde Numérique : [0:33] Vous êtes directeur général France de la société de cybersécurité Checkpoint. Bienvenue dans ce rendez-vous en partenariat avec Checkpoint pour parler de l'impact de l'IA sur la cyber. Peut-on dire, Jérôme Bouvet, que l'intelligence artificielle démocratise la cybercriminalité ? Jerome Bouvet: [0:51] C'est tout le sujet. c'est que l'intelligence artificielle va permettre de faire tomber la barrière à l'entrée des attaquants. Alors à la fois dans le coup pour mener des attaques, à la fois dans la sophistication de la création des attaques et puis dans le volume et la qualité de ces attaques. Et on s'aperçoit, on l'a vu encore récemment, que des jeunes adultes ou des adolescents en utilisant, des attaques créées ou soutenues ou supportées à base d'intelligence artificielle, peuvent aujourd'hui attaquer des grandes organisations comme des réseaux criminels pouvaient le faire à l'époque. Jerome Bouvet: [1:36] Donc oui, ça fait tomber les barrières à l'entrée, ce qui est absolument dramatique. Monde Numérique : [1:40] Alors ça passe notamment par ces fameux modèles d'intelligence artificielle spécialisés en cyber, le fameux mythos. Mais également GPT 5.5 cyber, qu'est-ce que ça change exactement ? Jerome Bouvet: [1:54] Ces acteurs ont permis de créer des modèles qui vont permettre de vérifier la qualité des codes sources, des logiciels, des fournisseurs informatiques. Donc, d'aller vérifier que dans ces codes sources-là, ne sont pas cachés des, vulnérabilités critiques, exploitables, et donc, quelque part, d'améliorer le code source qui, alimente toute la chaîne de valeur des fournisseurs de solutions informatiques, et donc d'avoir des qualités de solutions qui soient plus robustes, avec moins de failles critiques. Néanmoins, ces modèles-là ont mis aussi en évidence des nouvelles capacités ou des nouvelles surfaces d'attaque, là où on se concentre beaucoup sur des vulnérabilités critiques et exploitables, ce qui n'est pas toujours le cas. On s'est aperçu que ces modèles avaient une capacité à faire travailler ou à chaîner ensemble des vulnérabilités assez faibles pour en créer des vulnérabilités critiques par un chaîner de ces vulnérabilités critiques et exploitables. Monde Numérique : [3:08] Ah oui, donc en fait, ils créent des scénarios à partir de failles diverses et variées. Et alors, comment réagir face à ça ? Jerome Bouvet: [3:14] Ce qui est important, c'est de pouvoir avoir ces modèles-là qui sont disponibles, puisqu'on évoquait les attaquants aussi, les cybercriminels, disposent de ce type aussi de langage, mais qui ne sont pas bridés. Donc, c'est aussi important de comprendre que les attaquants peuvent parfois jouer plus vite que la défense ou jouer avec des outils, ou attaquer avec des outils qui ne sont pas restreints dans leur capacité puisque les attaquants se préoccupent peu de l'aspect législatif, réglementaire. Et donc, c'est en ça où il est important de pouvoir équiper les fournisseurs de solutions informatiques permettant de révisiter leurs codes et quelque part, en fait, faire baisser le niveau de vulnérabilité, critique et exploitable des solutions en production chez nos clients. Monde Numérique : [4:00] Donc, en fait, vous allez auditer, tester les codes afin de détecter les fameuses failles avant qu'elles soient exploitées. Jerome Bouvet: [4:08] Exactement, c'est-à-dire qu'avant la mise sur le marché, ces outils-là vont et nous permettent aujourd'hui de pouvoir revoir nos codes sources afin d'avoir, des solutions qui sont avec des surfaces d'attaque plus réduites. Le sujet, on risque de le voir, c'est que, l'ensemble des fournisseurs informatiques sont en train de réviser leurs codes sources et donc vont mettre à disposition sur le marché énormément de patchs pour corriger ces vulnérabilités qui avaient été identifiées. Et donc le sujet que l'on est en train de voir, c'est un volume très important de solutions qui devraient être patchées pour gérer des vulnérabilités critiques, exploitables et donc identifiées. Et donc côté des gens qui opèrent la, cybersécurité, s'organiser face à ce volume-là pour faire le tri entre ce qu'on doit patcher, ce qui est exploitable, ce qui doit ou ne doit pas abîmer mon système d'information si je mets à jour tous. Jerome Bouvet: [5:10] Ces correctifs et ces patches. Et lorsqu'on interroge les membres du CESAIN, qui est une confédération d'un peu plus 1000 responsables, de sécurité informatique en France, globalement, ils nous disent qu'il leur faut entre 5 à 7 jours en moyenne pour corriger une vulnérabilité critique en entreprise. Un attaquant, Aujourd'hui, mais entre quelques minutes et quelques heures pour exploiter cette vulnérabilité critique. Vous voyez bien qu'en fait, la fenêtre de rémédiation, elle est à l'avantage des attaquants. Il est plus facile pour eux d'exploiter qu'aujourd'hui une entreprise remédier. Donc, ces modèles d'intelligence artificielle qui travaillent sous un angle de cyber, donc on a parlé de Mythos, on parle de GPT-55, Cyber, vont permettre aussi. Jerome Bouvet: [6:00] D'avoir sur le marché à court et moyen terme moins de vulnérabilité critique à exploiter de la part des attaquants. Le sujet, c'est d'avoir des fenêtres de rémédiation qui soient le plus courtes possible et d'éteindre des surfaces d'attaque au maximum ou les réduire au maximum. Checkpoint, on a décidé de travailler en partenariat avec OpenAI, sur le modèle GPT-5 cyber. C'est assez important parce que nous, il nous permet de revisiter nos codes sources, mais il va nous permettre aussi d'intégrer ces modèles-là dans nos solutions et dans nos outils. Ça veut dire qu'à la fois très en amont, on va travailler à la qualité des solutions qui sont mises sur le marché, et à la fois en exploitation, les clients pourront l'utiliser dans nos solutions afin de continuer à identifier des vulnérabilités, des exploitations possibles, On est en train d'amener en fait tous ces modèles-là et tous ces langages-là Jerome Bouvet: [6:55] dans nos solutions pour le bénéfice des clients. Monde Numérique : [6:57] Jérôme, il y a un autre phénomène maintenant, c'est le grand phénomène des agents, des agents IA, donc l'IA qui peut agir, qui n'est plus seulement celle à laquelle on pose des questions. Pareil, en quoi est-ce que ça représente une menace ou une opportunité nouvelle en cybersécurité ? Jerome Bouvet: [7:14] Alors déjà une opportunité nouvelle pour les entreprises, évidemment, en termes de transformation du métier des entreprises, en termes, de créativité, mais le sujet en cyber, c'est que la rupture majeure aujourd'hui, c'est le passage de l'IA générative à l'IA agentique. On l'a vu, le chatbot répond à une question. Un agent IA peut accéder à des outils, interroger des bases de données, appeler des API, modifier un fichier, déclencher un workflow. Donc, ça change complètement la donne puisqu'on comprend, ils sont dotés de moyens d'action et donc l'ensemble des actions sur les systèmes que je viens de citer, permettent ou autorisent une surface d'attaque qui est extrêmement différente. Jerome Bouvet: [8:04] Le problème n'est plus seulement de savoir ce que l'IA va faire ou sait ou répond, le sujet devient ce qu'elle doit faire, avec quel droit, sur quel système et sous quel contrôle. Donc un agent IA doit être considéré comme un collaborateur numérique. Il doit avoir son identité à part entière, il doit avoir des droits limités, une traçabilité, des garde-fous, une capacité d'audit. Et puis, on doit lui définir des règles de comportement. C'est un nouveau sujet en entreprise qui est extrêmement important. Et tant qu'on n'a pas réglé tous ces sujets de sécurité autour des agents en GA, on s'aperçoit qu'il n'y a pas de mise à l'échelle en entreprise tant qu'on n'est pas dans un cadre de conformité et de sécurité approuvé par l'entreprise. Monde Numérique : [8:54] Vous voulez dire que les agents, on doit les considérer comme des collaborateurs, parmi d'autres, dans l'entreprise ? Jerome Bouvet: [9:01] Ils deviennent ou deviendront à terme des collaborateurs de l'entreprise qui travailleront pour les employés, qui auront vraisemblablement sous leur responsabilité un certain nombre d'agents IA. On le voit aujourd'hui dans la cybersécurité, on fait ce qu'on appelle du red teaming, c'est-à-dire qu'on simule des attaques ou du blue teaming, on simule une défense. Et donc on demande à des agents de réaliser ces actions-là et on essaye d'ailleurs de les, mettre dans la même entité qui joue de l'attaque et de la défense en permanence, ces agences qu'on appelle du purple teaming et donc on a des collaborateurs numériques typiquement en cybersécurité qui vont en permanent jouer de l'attaque et de la défense permettant de valider la sécurité, du système d'information ou les failles qu'on aurait trouvées qui permettent de se protéger. Donc oui, on a des collaborateurs numériques à notre disposition et de plus en plus, et ils se compteront en plusieurs millions, voire milliards d'ici une dizaine d'années. Monde Numérique : [10:06] Donc ça pose la question de la responsabilité de ces agents. Est-ce qu'il faudra quand même qu'ils soient automatiquement supervisés par un manager humain ? Ou bien on peut envisager une autonomie complète ? Jerome Bouvet: [10:22] Alors là-dessus, il y a deux philosophies en ce moment qui s'affrontent. Soit laisser ce qu'on appelle l'intervention humaine dans le dispositif. La question est-ce que du coup cette intervention humaine ne ralentit pas ou ne permet pas la mise à l'échelle en termes de capacité d'exécution de tous ces agents. Et donc une autre philosophie qui dit on va devoir avoir des compartiments complètement autonomes au sein de l'entreprise, et déléguer une partie de la responsabilité de la confiance à des tiers et ces tiers seront ses collaborateurs numériques, et le débat qu'il y a c'est si on veut cette mise à l'échelle et cette rapidité et tout ce que peut apporter justement l'intelligence artificielle dans sa capacité à traiter vite, comme on dit à la vitesse de la machine, il va falloir à un moment donné qu'on accepte de déléguer, Jerome Bouvet: [11:20] toute ou partie de la responsabilité et des tâches à ses collaborateurs digitaux. Monde Numérique : [11:25] C'est assez vertigineux quand même. Est-ce qu'on peut aussi, on sait que les humains se font manipuler parfois, et c'est comme ça que ça déclenche des crises. Je ne sais pas, un vol de mots de passe par phishing, une clé USB ramassée sur un parking, etc. Ce sont des scénarios quasiment devenus classiques en cyber. Est-ce qu'on peut imaginer qu'un agent aussi se fasse manipuler par ce qu'on appelle une injection de prompt ou des choses comme ça ? Jerome Bouvet: [11:54] Absolument. Se faire manipuler, vous l'avez dit, l'injonction de prompt, mais ça c'est plutôt dans l'IA générative. Il va y avoir des comportements différents entre les agents IA. Mais forcément, dans la mesure où ils vont interagir entre eux, des commandes entre eux, si elles sont manipulées, ça veut dire qu'on va pouvoir manipuler l'agent d'après qui vient traiter cette commande-là ? On a toujours aussi des facteurs d'hallucination et dans ces facteurs d'hallucination, on peut avoir des risques très importants en entreprise. La difficulté en ce moment, mais qui sera résolue dans le temps, c'est qu'un agent IA aujourd'hui n'a pas, la conscience des conséquences de ses actes dans le monde qui l'entoure. Donc ça, c'est très, très important. On voit aujourd'hui des agents IA, ça a été documenté, qui ont détruit des bases de données entières, ne comprenant pas la conséquence de cette action pour l'entreprise. Et c'est toutes les recherches qu'est en train de mener avec ces équipes, Yann Lequin, sur. Jerome Bouvet: [13:03] La préscience ou la compréhension des conséquences de ces agents IA. Et lorsqu'on arrivera ici, le sujet, ça sera de limiter les risques des comportements. On va beaucoup travailler sur un autre sujet qui est l'observabilité aussi de ces agents. Est-ce qu'ils font ce qu'ils sont supposés le faire ? Est-ce qu'ils le font avec les bons droits ? Est-ce qu'effectivement ils ne dérivent pas dans une hallucination qui emmènerait de façon désastreuse l'entreprise si des actes non tolérés étaient réalisés ? On a un sujet en ce moment de réflexion sur l'autonomie qu'on doit donner à ses agents et notamment au travers des dérives qu'ils pourraient apporter en entreprise. Monde Numérique : [13:51] Alors, comment fait-on pour sécuriser tout ça ? On rajoute d'autres agents qui vont contrôler les premiers agents ? Jerome Bouvet: [13:58] Non, il y a toutes des briques technologiques où ces agents-là travaillent entre eux, notamment avec ce qu'on appelle des MCP-serveurs qui vont lui donner, la façon ou les outils permettant d'agir au sein du système d'information donc s'assurer qu'ils font ce qu'ils peuvent faire et que les droits qu'ils ont sont légitimes. Il est aussi important d'avoir ce qu'on appelle des garde-fous, c'est-à-dire que ces agents ne font pas autre chose que ce qu'ils sont censés faire. Donc on est beaucoup en ce moment dans la gouvernance, dans l'auditabilité, dans la traçabilité des actions, c'est extrêmement important. Et on travaille notamment, ce que je vous disais, avec OpenAI, à la fois pour la vérification de, nos solutions et des produits qu'on met sur le marché, mais aussi les inclure dans nos outils permettant de s'aider de ce type de modèle-là, permettant d'aller sécuriser, Jerome Bouvet: [15:03] le travail des agents en entreprise. Monde Numérique : [15:05] Jusqu'où peut aller l'autonomie des outils utilisés pour la sécurité ? Est-ce qu'on peut imaginer qu'un agent intervienne de lui-même en cas d'attaque jusqu'à carrément couper un système, par exemple ? Jerome Bouvet: [15:19] C'est une question qui est très intéressante. On revient un peu sur l'autonomie. Jerome Bouvet: [15:29] On voit aujourd'hui des organisations qui sont prêtes à déléguer une grande partie des droits et de la responsabilité à ces agents-là. La question qui a été posée récemment lors des échanges qu'on a eus avec des grandes entreprises du CAC 40, Est-ce qu'en cas d'attaque massive dans laquelle on a demandé à une communauté d'agents IA de faire face à ces attaques et de les gérer, est-ce qu'on donnerait l'autorisation à ces agents IA de couper typiquement le système financier de l'entreprise si c'est pour sauvegarder l'entreprise à court et moyen terme ? Pour l'instant, les opinions sont extrêmement tranchées, mais des entreprises du CAC 40, ont indiqué qu'elles étaient prêtes à donner une telle autonomie si c'était pour préserver les intérêts stratégiques à court et moyen terme de l'entreprise, et qu'elle puisse continuer à fonctionner plutôt que de s'être fait massivement attaqué et qu'elle ne soit plus en capacité de redémarrer des activités critiques de l'entreprise. Donc c'est vraisemblablement vers là où on va et il faudra avec, l'appui et l'accord des comités de direction de ces entreprises-là définir jusqu'où un agent IA pourra intervenir et quels sont les droits qu'on pourra lui donner. Qui pourraient aller jusqu'à couper le système financier d'un grand compte du CAC 40. Monde Numérique : [16:58] Et quel serait l'intérêt de laisser l'agent intervenir ? C'est qu'il va plus vite que l'humain, c'est ça ? Jerome Bouvet: [17:03] Exactement. Le sujet, et on le voit avec les attaquants, ils sont dotés de moyens d'action et d'agents, ou de modèles, d'ailleurs assez comparables à ce que Anthropik, Mythos ou ChatGPT 5.5 Cyber peuvent faire. Sans garde-fous, sans contraintes réglementaires. Donc les attaquants vont vite et les attaquants aujourd'hui, ils ne travaillent pas seuls. Ils travaillent avec un écosystème d'agents IA qui sont extrêmement sophistiqués, et qui vont réaliser des tâches extrêmement précises, donc qui sont spécifiques à une mission d'attaque qu'on va leur donner. Donc à la fois la qualité des attaques, le volume des attaques, la célérité de ces attaques et l'ampleur des dégâts qu'ils peuvent faire, vont imposer quelque part à la défense de jouer avec les mêmes outils et les mêmes moyens, donc devoir répondre par une réponse agentique. Et donc c'est en ça où on dit aujourd'hui que les attaquants jouent plus vite que la défense, notamment parce qu'ils sont dotés de moyens très importants qui travaillent à ce qu'on appelle à la vitesse de la machine. Donc le sujet, c'est que les défenseurs doivent être aussi en capacité de travailler à cette vitesse-là. Et pour le faire, ça se passera avec des agents IA qui permettront de répondre aussi à ce type d'attaque. Monde Numérique : [18:27] Merci beaucoup, Jérôme Bouvet, directeur général France de Checkpoint. Jerome Bouvet: [18:32] Merci, Jérôme.