Les dangers des IA conversationnelles (Laurence Devillers, Sorbonne Université) [REDIF]

Robots, chatbots, assistants virtuels... Attention à ces "robots émotionnels" qui risquent de fausser notre perception de la réalité, estime la chercheuse Laurence Devillers.

Laurence Devillers, chercheuse à Sorbonne Université, travaille sur la question des robots et sur l'influence inconsciente qu'ils peuvent induire sur nos comportements (nudge). Elle cite notamment l'exemple de ces services qui offrent la possibilité de converser avec un proche décédé via une IA. Pour elle, ces "robots émotionnels", font courir le risque d'un attachement artificiel exagéré à ces pseudo humains, avec des conséquences encore mal évaluées. Laurence Devillers plaide pour une prise en compte officielle de ces nouvelles interactions, à la fois, par les utilisateurs et par les concepteurs. 

INTERVIEW

Monde Numérique : En quoi consiste votre travail sur les robots et sur le « nudge » ?

Laurence Devillers : Le nudge, théorisé par l’économiste américain Richard Towler, prix Nobel d'économie en 2017, est le fait d’influencer des personnes afin de les inciter fortement, par exemple, à changer d'opinion ou à acheter quelque chose. Cela a été Et quand vous. Par exemple, vous recherchez une chambre d'hôtel sur un site de réservation et on vous dit qu’il n’en reste qu’une seule ou que 50 autres personnes recherchent également le même type de chambre, afin de vous inciter à la prendre. Cela soulève des questions sur l'éthique, la manipulation, et l'illusion d'interaction humaine. Les systèmes peuvent sembler empathiques ou personnalisés, mais ils sont dénués de conscience et responsabilité.

En ce qui concerne les chatbots conversationnels, en quoi estimez-vous qu’ils présentent des risques ?

Les jumeaux numériques peuvent reproduire la voix et le style de quelqu'un, vivant ou décédé, mais cela reste une illusion, soulevant des questions éthiques sur leur usage sociétal. Nous avons rendu un rapport au Premier ministre qui aborde ces questions éthiques dans la technologie, et qui insiste sur la nécessité de ne pas attribuer de personnalité juridique aux machines et de rester vigilant face à la manipulation et la dépendance.

Comment devrait-on réguler ces technologies ?

Il est crucial de développer des lois, mais aussi de sensibiliser les industriels aux risques et bénéfices, et d'anticiper les impacts comportementaux et sociétaux de ces technologies. Il est également important d'intégrer l'éthique de l'IA dans l'éducation, en utilisant des capsules et des programmes éducatifs pour expliquer les enjeux et encourager une utilisation consciente et critique des technologies.

Laurence Devillers est notamment l'autrice de : « Des robots et des hommes » (Plon, 2017) et « Les robots émotionnels » (L'Observatoire, 2019).