[ITW] Qui a hacké Garoutzia ? (Laurence Devillers, chercheuse et autrice)

Ambiance:
[0:00] Des hackers se sont introduits dans le gourbi de Bot Power. Yatta ! Ils ont même atteint les backups des Superbots. Yatta ! Bon, Garoutzia a disparu, c'est bien vous qui l'aviez hacké.

Monde Numérique :
[0:16] Alors nous sommes au théâtre de la Seine Parisienne à Paris, où se joue cette pièce, mais qui a hacké Garoutzia ? Bonjour Laurence Devillers.

Laurence Devillers :
[0:25] Bonjour.

Monde Numérique :
[0:26] Laurence Devillers, vous êtes chercheuse en intelligence artificielle, mais vous êtes également autrice, co-autrice de cette pièce de théâtre avec Gilles Dowek et Serge Abiteboul. C'est quoi qui a hacké Garoutzia ? C'est l'histoire d'un bot, d'une intelligence artificielle, évidemment.

Laurence Devillers :
[0:44] Oui, c'est un chatbot qui s'appelle Garoutzia au début, d'ailleurs pas au début, mais je ne vais pas tout vous dire, qui change de sexe, qui change de nom avec ses propriétaires. et la malheureuse chatbot a des propriétaires qui meurent. Donc il y a toute une histoire sur le remonté du laité, la remontée de sa mémoire. Parce que cette botte a quelque chose de spécial, en plus de tous les autres. Elle a sans doute été hackée, ce qui fait que sa mémoire, finalement,

Laurence Devillers :
[1:12] est quelque chose d'assez intéressant. Elle est capable de se souvenir de choses, mais de réfléchir aussi sur ce qu'elle a vécu.

Monde Numérique :
[1:17] Oui, une espèce de mise en abîme et de...

Laurence Devillers :
[1:20] De la conscience qui naîtrait dans une botte.

Monde Numérique :
[1:22] C'est un sujet que vous connaissez bien, évidemment. Pourquoi cette pièce de théâtre ? Comment vous est venue l'idée à vous trois, spécialistes de l'IA ?

Laurence Devillers :
[1:30] On travaille beaucoup sur l'éthique de l'IA et des chatbots, de l'IA générative, dans des comités d'éthique, et on a l'habitude de se côtoyer, de réfléchir à ces sujets. On voulait une autre façon de voir les choses, un pas de côté, quelque chose de drôle, qu'il ne fasse pas peur au premier abord parce que c'est très anxiogène en fait ces IA et pour réfléchir au mieux il faut libérer son esprit et essayer de le voir. Et là on voit sur scène finalement cette botte avec une dame âgée, avec un jeune avec différents personnages commissaire qui fait une enquête et je pense qu'on réalise autre chose l'attachement possible à ces machines.

Monde Numérique :
[2:06] Ça c'est votre dada, vous avez beaucoup travaillé là-dessus l'attachement affectif qu'on peut développer ou qu'on ne devrait pas développer avec ces machines ?

Laurence Devillers :
[2:16] En fait, elles sont de plus en plus autour de nous. On ne lâche plus son téléphone, s'il parle demain avec la voix de Scarlett Johansson, ou si on a Moshi dans les mains, le dernier joujou de Q-Tai, qui va de bout en bout, parole par parole, et qui finalement a aussi une possibilité d'inflexion émotionnelle. Où va-t-on aller demain, si on ne réfléchit pas à ces objets qui arrivent de

Laurence Devillers :
[2:37] nous, qui peuvent être des têtes bottes, qui peuvent être des objets qui sont là pour nous assister ? Vont-ils prendre les décisions à notre place ? Qui va être responsable si ça ne fonctionne plus ? Et on les désire quelque part parce qu'on voit des usages arriver. Donc réfléchissons tous ensemble à l'arrivée de ces chatbots et venez voir la pièce qui a hacké Garoutzia sur la scène parisienne tous les mardis à 19h30 jusqu'à la fin de l'année.

Monde Numérique :
[3:01] Laurence de Villers, j'ai une question. Est-ce qu'elle a été écrite avant ou après ChatGPT, cette pièce ?

Laurence Devillers :
[3:05] Alors, elle est 100% jouée par des humains et écrite par des humains. C'était avant l'arrivée de ChatGPT.

Monde Numérique :
[3:13] Oui, il n'y avait pas, vous n'aviez pas, si je puis dire, encore l'influence de ChatGPT.

Laurence Devillers :
[3:17] On aurait pu, parce qu'on a des outils comme ça dans les laboratoires, avant, évidemment, l'arrivée de ChatGPT dans les mains de tout le monde. Mais nous ne l'avons pas du tout écrit comme ça. Ça se sent, le langage est très bigarré, très truculent. Il y a ce terme de tutti quanti que dit la chatbot, par exemple, pour dire qu'elle a des émotions. Il y a toujours cette comparaison entre l'humain et la machine qui, à mon avis, est très utile.

Monde Numérique :
[3:38] Ce n'est pas une pièce de geek, en fait. Il n'y a pas beaucoup de vocabulaire technique. Je dirais même que parfois, on sort un peu de... On a l'impression que vous avez oublié un peu tout ce que vous connaissiez sur le sujet. Il y a des trucs qui ne sont pas forcément très techno-réalistes, en fait.

Laurence Devillers :
[3:55] Alors, c'est de la science-fiction, mais à court terme. Essayez les derniers systèmes, je vous dis end-to-end, vous allez voir que ces objets vont pouvoir nous parler de spiritualité, de tout un tas de choses qui ne sont pas évidentes pour une machine. Alors comment nous allons ressentir cela ? Ça dépendra de l'habitude qu'on aura de les utiliser et de la personnification de ces machines qui vont s'adapter à nous. Et là, nous sommes vraiment dans cette projection sur une machine qui s'adapte aux humains, avec lesquels elle discute avec cette capacité, en plus des autres machines qui sont moins intelligentes qu'elle. Et à la fin, elle a la grosse tête, ce qui est assez drôle.

Monde Numérique :
[4:34] C'est une pièce sur la mémoire aussi, beaucoup. Parce que, voilà, est-ce qu'elle a le droit de se souvenir de certaines choses au fil de sa vie, cette machine ?

Laurence Devillers :
[4:44] Alors, ce qu'il faut bien comprendre, c'est que Botpower, l'entreprise qui a créé ces machines, il a tout intérêt qu'à ce que sa machine se souvienne de

Laurence Devillers :
[4:52] beaucoup de choses, parce que c'est ça qui fait sa capacité intelligente. Donc, tout le truc, c'est d'éliminer tout ce qui serait données personnelles dans la machine. Et c'est là où elle a été hackée et elle, elle se souvient.

Monde Numérique :
[5:04] Voilà, donc pour savoir qui a hacké Garutia, rendez-vous à la Seine parisienne tous les mardis, c'est ça ?

Laurence Devillers :
[5:10] À 19h30, venez donc début décembre, les deux prochaines séances sont complètes, mais venez à partir du 3 décembre, du 10 décembre, du 17 décembre et même le 31 pour vivre cette expérience, voir cette machine devant nous.

Monde Numérique :
[5:24] Merci Laurence de Villers. Merci Jérôme Colombain.