✍️ Edito – Ce qu'un chat tué par un robotaxi dit de notre rapport à la technologie

[0:01] Aujourd'hui, je voudrais vous parler d'un chat, une histoire de chat, une anecdote qui ressemble à un simple fait divers, mais une histoire derrière laquelle se cache une vraie question de fond, celle de notre rapport à la technologie, à la place que nous acceptons ou pas [0:17] de laisser aux machines dans nos vies, surtout quand l'émotion s'en mêle. Alors voilà, je vous raconte l'histoire de Kit Kat. Kit Kat, c'était un gentil petit matou qui vivait à San Francisco, en Californie, Et c'était une vraie petite star dans le quartier de Michonne Dolores, car il passait ses journées à dormir dans les rayons d'une épicerie de la 16e rue, où il croisait tous les jours tous les clients. Il se laissait caresser par les enfants, il échangeait des regards sympas, il était devenu vraiment la mascotte de ce quartier, un personnage très apprécié. Bref, un symbole très animal, très vivant, dans cette ville où on le sait, la technologie, elle, est omniprésente et avance à toute vitesse. [0:59] Et puis un soir d'octobre, malheureusement, Kit Kat est mort. Il s'est fait écraser par un taxi sans chauffeur Waymo. Le robotaxi venait de s'arrêter pour prendre des clients. Le chat s'est glissé sous le véhicule et la voiture a redémarré sans le voir. Elle l'a heurté. Il a été transporté en urgence chez un vétérinaire, mais il a succombé à ses blessures. En apparence, c'était donc un simple accident. Mais pour les habitants de Mission Street, c'est devenu un véritable drame. Ça a provoqué un terrible émoi dans le quartier, selon un article du San Francisco Standard. [1:33] En effet, ce n'était pas un accident tout à fait comme les autres. Car personne n'est descendu de la voiture pour voir ce qui s'était passé, pour s'excuser, pour témoigner un peu d'empathie, et puis aussi pour se prendre les reproches des habitants du quartier. Et oui, car les machines n'ont pas de remords, elles ne tremblent pas après avoir écrasé une créature vivante, elles ne culpabilisent pas et elles repartent tranquillement. [1:57] En plus, ce n'est pas la première fois que ça arrive à San Francisco. Depuis que les robotaxis sillonnent les rues de la ville, plusieurs incidents ont été relevés. En 2023, un chien a été tué par un robotaxi cruise et cela avait déclenché là aussi une vague d'indignation. Quelques mois plus tard, un chat percutait et tué à son tour avant notre bon vieux Kit Kat. [2:19] Mais aucun de ces animaux n'avait sans doute la célébrité de notre matou de la 16e rue. [2:26] On pourrait aussi parler des vélos heurtés ici et là, des piétons de certains véhicules, des pompiers bloqués par des robotaxis devenus un peu foufous et qui s'arrêtent un peu n'importe comment. Au total, près de 900 incidents plus ou moins graves auraient été enregistrés cette année rien que pour la compagnie Waymo. Dans la ville la plus technologique du monde, ces machines censées incarner le futur de la mobilité accumulent donc des erreurs. Alors en réalité, elles ne sont jamais en tort du point de vue du code de la route. Mais simplement, elles ont parfois du mal à s'adapter à certaines situations imprévues de la vie réelle. Et quand ça tombe sur un petit chat qui n'a rien fait de mal, l'émotion explose. Bon, on pourrait trouver l'indignation peut-être disproportionnée par rapport au fait. Car chaque année, il faut bien le dire, des centaines de malheureux chats sont écrasés par des voitures classiques. [3:16] Mais ici, la mort de Kit Kat symbolise quelque chose de plus profond. Car soudain c'est un animal qui a été victime d'une machine incapable de se comporter comme un humain parce qu'il n'y a pas d'émotion et surtout parce qu'il n'y a pas de responsable ou plutôt qui est responsable dans cette histoire ? Dans un accident impliquant un humain, les choses sont claires. Il y a un conducteur, on peut lui parler, le confronter, l'accuser, éventuellement lui pardonner, ou pire, ça on ne le souhaite pas. En tout cas, le coupable a un visage. Avec les machines, ce n'est pas le cas. Pas de visage, il n'y a qu'un système complexe, un algorithme, une boîte noire, impossible à interroger. Et bien sûr, on a envie de savoir pourtant ce qui s'est passé. [3:55] Le capteur a-t-il mal détecté la forme du chat, ou simplement ne l'a-t-il pas vu, parce qu'il n'y a pas de capteur à cet endroit-là. [4:03] Le modèle d'intelligence artificielle a-t-il mal classifié l'objet ? C'est arrivé il y a très longtemps avec un véhicule Uber qui n'avait pas reconnu une personne humaine en train de traverser avec un vélo de nuit. [4:15] La décision de freinage a-t-elle été retardée ? Bon, on ne sait pas exactement. On le saura peut-être un jour. Mais au-delà, ça ne répondra pas forcément à la question à qui la faute ? Est-ce la faute du constructeur ? Du développeur ? De la municipalité qui a autorisé le déploiement des taxis autonomes, de l'entreprise qui gère la flotte, de l'intelligence artificielle elle-même, mais qui par définition ne peut pas être coupable. [4:40] Bref, c'est là où cette histoire et les questions deviennent vertigineuses. L'avantage, c'est que chaque accident de ce genre permet à chaque fois d'améliorer le système. Et peut-être que Waymo va équiper demain ses véhicules autonomes de caméra sous le châssis pour traquer les animaux cachés près des roues. Ce sera ainsi encore plus sûr d'ailleurs que si la voiture était pilotée par un humain. [5:00] En attendant, cette affaire renvoie à une question fondamentale. Quel niveau de risque sommes-nous prêts à accepter quand la société délègue ses responsabilités à des machines ? On nous dit souvent que les voitures autonomes feront moins d'erreurs que les humains, c'est vrai. Les statistiques sont formelles, la machine réagit plus vite, elle voit plus loin, elle n'est jamais distraite, elle ne boit pas, elle ne se fatigue pas, etc. Mais elle fait d'autres types d'erreurs, des erreurs froides, brutales, imperceptibles, sans émotions. Et surtout, elle commet des erreurs que l'on ne comprend pas et qui n'ont pas de responsables à blâmer. Alors cette histoire de Kit Kat, ce n'est donc pas simplement la mort d'un petit chat. C'est vraiment la collision frontale entre deux visions du futur. Celle où la technologie est censée nous protéger de nous-mêmes et celle où elle devient un nouveau danger, plus diffus, plus opaque. [5:51] Celle où la machine est neutre et celle où elle devient irresponsable parce qu'il n'y a personne derrière sur qui rejeter la faute. Et le paradoxe, c'est que plus la technologie progresse et plus nous risquons de chercher désespérément des coupables. Mais ici, il n'y en a pas, ou plutôt il y en a trop. Et cette dilution de la responsabilité est peut-être le véritable risque. Le risque de créer un monde où plus personne n'est responsable de rien, [6:15] parce que c'est l'algorithme qui décide. Alors voilà pourquoi la mort du petit Kit Kat à San Francisco a déclenché une telle émotion. Parce que ce n'était pas qu'un simple matou. Il était aussi, en quelque sorte, le miroir d'une société qui ne sait pas trop si elle doit accélérer ou freiner, et qui a peut-être peur d'un futur qui risque de lui échapper.