Faut-il mettre l'IA en pause ? (Edito)

(Transcription)

L'autre jour, j’ai vu passer l’autre jour un tweet qui m’a un peu secoué. Quelqu’un racontait qu’il avait vu une personne fondre en larme et être prise de panique avoir réalisé que son métier risquait vraiment de devenir inutile à cause de l’intelligence artificielle. Cette personne était traductrice professionnelle. Une traductrice spécialisée dans les textes juridiques et les contrats internationaux, quelque chose de pointu donc. Pourtant, l’un de ses clients venait de lui demander non plus de traduire un document, comme d’habitude, mais de vérifier que la traduction qu’il avait faite avec ChatGPT ou un autre truc du même genre était exacte. Et, apparemment, la traduction était parfaite. Ce qui explique la crise de panique.

On sait depuis longtemps que l’IA menace de nombreuses tâches, comme la traduction ou l’analyse de radiographies médicales. Mais, jusqu’à présent, on se raccrochait un peu à l’idée qu’on avait encore du temps devant nous. Que cela ne se ferait pas sur une seule génération, etc. En fait, apparemment, on n’a plus vraiment le temps et le moment de bascule est arrivé.

La morale de cette histoire de traductrice, c’est que pour l’instant le contrôle humain reste important. Mais pour combien de temps ? Combien d’années, de mois ou de semaines, faudra-t-il avant que, même les textes les plus pointus, juridiques, techniques, médicaux, romantiques ou poétiques, s’il s’agit de livres. Combien de temps faudra-t-il avant que l’on puisse faire totalement confiance à l’IA et même qu’elle effectue le travail, au bout du compte, mieux qu’un humain, dans de nombreux domaines ?

Les traducteurs, les radiologues, les artistes qui se font plagier leurs œuvres à tour de bras ou les employés de bureau. Qui vont être les grands perdants de cette révolution ? Une nouvelle étude, de la banque américaine Goldman Sachs, estime à 300 millions le nombre de postes que l’intelligence artificielle pourrait remplacer. Jusqu’à présent, on ne parlait pas vraiment de postes mais plutôt de tâches. Seulement voilà, l’accélération est fulgurante. 

Toutes les semaines, ou presque, apparaît un nouveau service qui permet de faire de nouvelles choses grâce à des modèles d’intelligence artificielle. En plus, remplacer des tâches, ça veut dire augmenter la productivité, ce qui parait bien, mais qui signifie aussi diminuer la valeur du travail. et donc des employés dans les entreprises.

Aujourd’hui, l’IA arrive dans les logiciels bureautiques. Il suffira bientôt d’un clic pour générer une synthèse de réunion, un audit financier ou une présentation Power Point. Contrairement à ce que l’on avait cru, ce sont les clos blancs, les travailleurs intellectuels, qui vont être le plus impactés.

Mais il n’y a pas que le risque sur le travail.

L’autre énorme menace – on en a déjà parlé – c’est l’utilisation de l’intelligence artificielle pour créer des contenus de désinformation à une échelle industrielle. Un autre risque est en train de poindre : la cybercriminalité. ChatGPT donne la possibilité à quasiment n’importe qui de générer du code informatique malveillant pour mener des cyberattaques. Enfin, citons la pire menace de toutes : c’est le risque que l’IA se fasse passer dans de nombreuses situations pour une intelligence humaine. que l’on ne sache plus faire la différence. et que le vieux mythe de science-fiction de la prise de pouvoir par la machine sur l’homme devienne réalité.

Ce sont tous ces risques qui conduisent aujourd’hui certains à tirer la sonnette d’alarme.

Elon Musk, et d’autre personnalités, comme Tim Cook, le patron d’Apple, ou encore l’historien et essayiste Yuval Noah Harari, pour n’en citer que quelques-uns, viennent de lancer cette semaine une pétition pour freiner l’IA. Un appel mondial à faire une pause de six mois dans la recherche et le développement des intelligences artificielles. La pétition a été publiée sur le site futureoflife.org, une association qui œuvre pour limiter les impacts négatifs de la technologie.

Les signataires réclament un moratoire jusqu'à la mise en place de systèmes de sécurité. Ils parlent « de risques majeurs pour l'humanité » en raison des «perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l'IA provoquera ».

On pourrait se dire qu’il y a peut-être derrière cet appel des arrière-pensées économiques pour ceux, comme Elon Musk ou Tim Cook, qui sont un peu en retard dans la course à l’IA. Mais récemment, même Sam Altam, le patron d’Open AI, l’entreprise de ChatGPT, confiait qu’il avait quelques inquiétudes à propos de sa « créature ».

On n’a pas trop l’habitude de voir l’avenir en noir dans ce podcast. Au contraire, on est plutôt du genre geek enthousiaste. Mais là, quand même, il y a sans doute quelques questions à se poser.