🔎 Mouchards volontaires : sommes-nous prêts à être surveillés par notre confort ? (Zoom Tech)

[0:01] Et si le prochain grand objet numérique n'était ni le smartphone, ni le casque de réalité virtuelle, ni même la montre connectée, mais une sorte de mouchard, que nous choisirions, que nous accepterions de porter sur nous en permanence [0:16] ? Un mouchard volontaire. C'est peut-être le virage que prépare l'industrie technologique. Après avoir mis des micros dans nos enceintes, des caméras dans nos smartphones, des capteurs dans nos montres et des assistants IA dans nos ordinateurs, la prochaine étape consiste visiblement à vouloir équiper notre corps lui-même de dispositifs capables de voir, d'écouter, de mémoriser et d'analyser notre vie quotidienne. Le tout, bien évidemment, pour notre plus grand bonheur. Pour nous aider par exemple à retrouver nos clés, pour nous rappeler le nom d'une personne qu'on a croisée dans un salon professionnel, pour résumer une réunion, pour retrouver ce que quelqu'un nous a dit, identifier un objet, traduire une conversation. [1:00] Bref, nous assister dans la vie réelle de manière encore plus intime comme le fait déjà Chagipiti ou Meta AI mais de manière encore plus efficace et encore plus intime. Sur le papier, ça paraît fascinant, mais à y regarder de plus près, c'est aussi peut-être l'un des plus grands points de friction de l'intelligence artificielle. Car pour qu'une machine puisse se souvenir de notre vie, il faut qu'elle la capte. Et pour qu'elle puisse l'analyser, il faut qu'elle la traite. Et pour qu'elle puisse nous répondre plus tard, il faut qu'elle conserve des traces de tout cela. Et c'est là que les problèmes commencent. Le dernier exemple en date vient de Meta. L'entreprise de Mark Zuckerberg testerait actuellement des lunettes connectées capables d'enregistrer en continu l'environnement du porteur. Le projet serait baptisé en interne Super Sensing, autrement dit Super Perception. Des lunettes qui prendraient en photo toutes les quelques secondes tout ce qui se passe autour de nous, qui capteraient les sons également. Et ensuite, l'utilisateur pourrait poser des questions à Meta AI. Où est-ce que j'ai posé mes clés ? Qu'est-ce que cette personne m'a dit tout à l'heure ? quel était le nom du restaurant devant lequel je suis passé, etc. [2:10] En clair, Meta veut transformer les lunettes connectées en mémoire artificielle permanente. Alors ce n'est pas totalement nouveau. Les Ray-Ban Meta actuels permettent déjà de prendre des photos, de filmer, d'écouter de la musique, de passer des appels, d'interroger une IA sur ce qu'on voit. Mais jusqu'ici, il y avait une logique d'action volontaire. Je déclenche une photo, je filme, je demande quelque chose. Avec le super sensing, on passerait à une autre dimension. Une captation passive, continue, permanente, presque invisible. L'objet ne serait plus seulement un appareil que l'on utilise, il deviendrait un compagnon qui observe. Depuis quelques années déjà, plusieurs startups cherchent à inventer ce compagnon IA personnel idéal. Alors rappelez-vous, il y a eu le Human AI Pin, ce badge censé remplacer une partie des usages du smartphone. Il y a eu Friends, ce pendentif IA porté autour du cou, qui a fait polémique un peu partout dans le monde, qui a été plus ou moins interdit, y compris en France, qui écoute l'environnement et qui nous envoie des messages juste pour nous tenir compagnie. Google a aussi fait des démonstrations de son IA Gemini, capable de faire le même genre de choses, regarder autour d'elle, et puis se souvenir de l'endroit où on a posé nos clés, par exemple. [3:21] Meta a racheté l'an dernier une startup appelée Limitless, qui s'intéresse à une idée originale, crée une IA personnelle, contextuelle, permanente, qui connaît votre environnement, vos conversations, vos habitudes, vos oublis aussi, vos déplacements, etc. Autrement dit, une IA qui peut répondre à toutes vos questions, car elle voit et en plus, elle, elle se souvient de tout. [3:44] C'est un peu aussi le projet de Sam Altman d'OpenEye, avec son appareil qui est en préparation, visiblement avec le designer Johnny Hive, un produit qui ne nous demanderait plus de taper des requêtes, mais qui comprendrait immédiatement ce dont on a besoin. [3:59] Les avantages de tout cela sont évidents. Pour les personnes malvoyantes, des lunettes IA qui décrivent l'environnement. Pour les professionnels, des lunettes qui peuvent résumer des réunions, identifier des informations en temps réel. Pour les personnes âgées, des lunettes, ou d'autres genres de produits d'ailleurs, qui peuvent servir d'assistant de mémoire, et puis aussi pour des techniciens pour guider une réparation, et puis d'autres, d'innombrables usages dans des tas de métiers, et pour tous les profils en fait. Il s'agirait d'une sorte de mémoire augmentée. Alors comment vouloir se priver d'une telle merveille ? On ne va pas balayer ce genre d'idée d'un revers de main simplement au nom de la vie privée. Après tout, on a déjà accepté bien d'autres petits renoncements au nom de la praticité. Et si ce n'est pas nous, ce seront peut-être nos enfants. Les générations futures accepteront peut-être ces mouchards volontaires. [4:50] Une version moderne de ce que la Boétie avait théorisé dès le XVIe siècle sous ce fameux terme de servitude volontaire. Mais bon, on ne va pas parler tout de suite de servitude. On ne parle pas de micro caché par un État autoritaire. Non, on parle de produits de consommation, des lunettes élégantes, des pendentifs design, attractifs, utiles, et c'est là où ça devient volontaire, on en a envie. Cette IA du quotidien promettrait de réduire notre charge mentale, de combler nos trous de mémoire, d'augmenter nos capacités, d'être une véritable présence qui nous accompagne au quotidien. Après tout, pourquoi pas, pourquoi le numérique n'irait pas jusqu'à ce niveau, ce degré d'intimité pour rendre notre vie quotidienne encore plus confortable après tout ce qu'il a déjà fait pour nous ? [5:34] Mais le problème, malheureusement, c'est que, et c'est ça qui est effrayant dans cette histoire, c'est que l'une des limites intrinsèques du numérique, c'est que la machine ne peut pas voir comme un humain. Elle ne peut pas se souvenir comme un humain se souvient, puisque pour voir, elle doit capturer, pour se souvenir, elle doit stocker, et pour analyser, elle doit traiter. Et c'est là que ça représente évidemment un risque potentiel pour la vie privée. Car à l'arrivée, qui garantit que des employés, des prestataires, des autorités ne vont pas aller fouiller là-dedans, un peu comme si nos cerveaux se retrouvaient en accès libre, ouvert à tout le monde ? Le numérique garde des traces de tout, il n'oublie jamais, sauf quand on lui demande, c'est à la fois sa force, mais aussi son principal danger. Le risque n'est pas dans la captation, mais dans toute la chaîne technique, économique et humaine qu'il y a derrière, où vont les données, combien de temps sont-elles conservées, qui peut y accéder, etc. [6:28] C'est donc peut-être là le frein majeur à la vision des tycoons de la tech. Le numérique rêve d'une mémoire totale, mais la société, elle, finalement, repose plutôt sur l'oubli, le flou, l'éphémère. C'est moins bien, mais c'est ce qui nous caractérise. [6:46] Alors cela dit, encore une fois, on ne va pas tout balayer d'un revers de manche. On peut envisager peut-être des parades pour ne garder un jour que le meilleur de tout cela. La technologie peut évoluer vers plus de traitements locaux. Ainsi, les images, les sons, les conversations seraient traitées directement sur l'appareil, sans envoi vers le cloud, ce qui diminuerait les risques d'intrusion. On peut imaginer des systèmes de consentement plus intelligents, des signaux visibles ou sonores, des zones interdites, des modes privés automatiques, des règles sociales ou professionnelles très claires. Enfin, il ne faut pas idéaliser non plus le monde actuel, celui dans lequel on vit déjà. Nous sommes déjà filmés par des caméras de toutes sortes, enregistrées dans des réunions, géolocalisées par nos téléphones, etc. [7:31] Les lunettes IA ne créent pas une surveillance véritablement nouvelle à elles seules. Elles vont simplement la rendre peut-être un peu plus aboutie. À l'arrivée, il n'est pas impossible que l'acceptation sociale évolue, surtout si ces objets deviennent réellement indispensables pour la santé, l'accessibilité, la sécurité ou le travail. On finira alors par les accepter, les intégrer, comme on a intégré le smartphone [7:53] malgré toutes ses dérives. Au fond, la question n'est pas seulement technologique, elle est carrément sociologique, voire anthropologique. Et quand même, il y a une promesse extraordinaire, celle d'un humain augmenté, qui serait moins seul, moins distrait, mieux accompagné. Mais bien sûr, il y a aussi un risque majeur, celui d'un humain documenté en permanence, dont chaque geste, chaque parole, chaque oubli pourrait devenir une donnée. Bref, vous l'avez compris, pas facile d'être au raisonnement pour ou contre cette histoire-là. L'ère des mouchards volontaires n'est pas encore là, mais elle n'est peut-être pas très loin.