Les dessous des algorithmes (Aurélie Jean, entrepreneuse en IA) [REDIF]

Il faut "dompter les algorithmes", explique la spécialiste de l'intelligence artificielle, Aurélie Jean, dans son dernier livre. Un décryptage lumineux des enjeux du moment. 

Réseaux sociaux, reconnaissance faciale, justice assistée par ordinateur... L'IA est partout désormais. Aurélie Jean, docteur en science, chercheuse et entrepreneuse, autrice de plusieurs livres sur l'informatique, nous explique la logique des algorithmes. Lorsque cette interview a été enregistrée, l'algorithme de recommandation de Facebook était dans l’oeil du cyclone. Aujourd'hui, les questions de fond soulevées à l’époque sont toujours d’actualité.

INTERVIEW

Monde Numérique : Comment expliquer les récents « dérapages » de l'algorithme de Facebook qui favoriserait les contenus problématiques ?

Aurélie Jean : L'algorithme n'est pas coupable. Les seuls responsables sont les gens qui conçoivent ces outils ainsi que ceux qui les utilisent, les testent et les vendent. On ne peut pas dire qu’un algorithme « échappe à ses concepteurs ». Lorsque l'on développe un algorithme d'apprentissage machine, on l'entraîne sur des jeux de données qui représentent des scénarios. On ne contrôle pas strictement le fonctionnement d’un algorithme mais il y a des moyens pour extraire, même en partie, ce qui poserait problème. C’est tout le sujet de mon livre.

En quoi un algorithme mal entrainé peut-il sembler déraper ?

Une équipe de recherche de Washington a découvert comme un algorithme qui avait été créé pour identifier des chiens Husky sur des photos s’est fait abuser en reconnaissant, non pas vraiment un Husky mais la neige qui apparaissait systématiquement avec ce type de chien sur les données d’entrainement. C’est toute la question de l'explicabilité algorithmique, qui n’est pas toujours apparente. Pour éviter ce type de biais, il est nécessaire de tester les données d'entraînement et d’appliquer des méthodes d'explicabilité.

Faut-il réguler l’utilisation de ces algorithmes ?

Il est crucial de développer de bonnes pratiques de développement, de test, et d'utilisation des algorithmes, notamment pour les prochaines régulations. Mais il faut aussi veiller à ne pas étouffer l’innovation. Des efforts sont nécessaires pour améliorer la conception et l’application des algorithmes, notamment pour éviter les biais.