"Rééduquer" l'IA pour la rendre conforme à la démocratie (Axel Dauchez, Make.org)
30 mai 202410:57

"Rééduquer" l'IA pour la rendre conforme à la démocratie (Axel Dauchez, Make.org)

Le collectif Make.org, a présenté à Vivatech une initiative baptisée "communs démocratiques", visant à créer une IA compatible avec l'usage démocratique.

Ce programme, en partenariat avec notamment le CNRS, Sciences-Po et La Sorbonne, a pour but de "rééduquer" les modèles d'intelligence artificielle pour les débarrasser de leurs biais afin qu'ils soient conformes aux principes des démocraties. Ainsi, ces modèles pourront être utilisés, par exemple, pour co-construire des lois sans biais. Axel Dauchez, co-fondateur de Make.org, souligne l'importance de corriger des défauts inhérents à l'IA, comme les biais d'opinion ou de représentation.

En outre, Make.org a mis au point, en collaboration avec Les Echos, un moteur de recherche sous forme de chatbot dédié au salon VivaTech, VT-Report, qui permet de rendre accessible les contenus des conférences technologiques du salon, révolutionnant ainsi l'accès aux contenus de haut niveau présentés lors de tels événements.

3 questions à Axel Dauchez :

En quoi consiste l’initiative des « communs démocratiques » que vous avez annoncée à Vivatech ?

Cette initiative est une première mondiale. Nous avons créé, avec le CNRS, Sciences Po et la Sorbonne, un programme de recherche inédit, réunissant cinquante chercheurs pendant deux ans, afin de construire une IA compatible avec un usage démocratique, c'est-à-dire une IA qui ne présente pas de biais et qui représente toutes les catégories de citoyens. Ce programme a déjà attiré des universités américaines et pourrait devenir un modèle mondial.

Quels types de biais souhaitez-vous corriger ?

Nous cherchons à corriger plusieurs types de biais, comme le biais d'opinion ou le biais de représentation. Par exemple, le biais d'opinion peut se manifester par des préférences politiques implicites des modèles. Les biais de représentation se voient lorsque certaines professions sont principalement représentées par des hommes blancs de plus de cinquante ans. Nous voulons aussi traiter des biais comme celui de la majorité ou du pluralisme, où l'importance des idées majoritaires et minoritaires doit être équilibrée de manière démocratique.

Concrètement, comment comptez-vous procéder ?

Notre approche n'est pas de créer de nouveaux modèles de langage, mais de fournir des outils pour « rééduquer » les modèles existants, avant de le proposer en open source. Ces modèles débiaisés pourront alors, par exemple, aider des acteurs du politique à co-construire des lois ou toute autre application de l’IA dans le champ démocratique. L’originalité de notre travail est d’inclure une base solide de sciences sociales pour déterminer les principes que l'IA doit suivre, ce qui est crucial pour la compatibilité entre IA et démocratie.

IA,informatique,innovation,technologies,Vivatech,chatbot,Actualité,intelligence artificielle,numérique,démocratie,Tech news,high tech,actu tech,Actualités Tech,actu high-tech,