[Actu] Le prix Nobel décerné à des "inquiets" de l'IA

Jérôme Colombain:
[0:03] Ce sont deux pionniers de l'intelligence artificielle qui viennent de recevoir le prix Nobel de physique 2024. L'américain John Hopfield, 91 ans, et le britanno-canadien Geoffrey Hinton, 76 ans. Ce n'est pas la première fois que l'IA est récompensée par la prestigieuse Académie royale des sciences de Suède. Mais évidemment, cette période de boom de l'intelligence artificielle, c'est une récompense qui ne passe pas inaperçue et qui montrent l'importance croissante de l'IA dans le monde scientifique et technologique. Qui sont ces deux lauréats ? Ils ne sont pas très connus du grand public comme d'habitude. Ils ont été distingués pour leurs découvertes et inventions fondamentales ayant permis, je cite, le développement de l'apprentissage automatique avec des réseaux de neurones artificiels. Ce sont donc les fameux réseaux de neurones. Leurs recherches menées depuis les années 80 ont posé les fondements des systèmes d'IA modernes qui sont capables aujourd'hui d'apprendre de manière autonome et d'accomplir des tâches complexes. Geoffrey Hinton, considéré comme l'un des pères fondateurs de l'IA, s'est particulièrement démarqué avec ses travaux sur ces réseaux de neurones qui s'inspirent du fonctionnement du cerveau humain et qui ont ouvert la voie à de nombreuses applications concrètes comme la reconnaissance faciale, la traduction automatique ou encore l'amélioration des diagnostics médicaux. Mais l'ironie, c'est que ces deux éminents spécialistes de l'intelligence artificielle sont aussi parmi les plus inquiets face aux perspectives de l'IA.

Jérôme Colombain:
[1:29] Même s'ils soulignent les bénéfices évidents de cette révolution dans les années à venir, notamment en médecine pour la détection des maladies,

Jérôme Colombain:
[1:36] ils nourrissent de grandes inquiétudes face aux risques potentiels. Et ils ne se privent pas de le dire. Geoffrey Hinton s'était fait remarquer en mai 2023 en quittant la société Google où il travaillait depuis dix ans. « J'ai soudainement changé d'avis », expliquait-il alors au magazine du Massachusetts Institute of Technology, le MIT, je pense que ces IA seront bientôt beaucoup plus intelligentes que nous. Avant d'ajouter, comment allons-nous survivre à cela ? Geoffrey Hinton craint surtout les effets délétères sur la société.

Jérôme Colombain:
[2:07] L'IA pouvant devenir une redoutable machine à fabriquer des fausses informations pour influencer les élections, ou encore une arme logicielle pour inventer des armes chimiques et des robots tueurs, sans oublier les répercussions sur les emplois et donc sur l'organisation de la société. On connaît toutes ces craintes, mais il a été l'un des premiers à les exprimer. Et puis Geoffrey Hinton évoque aussi à demi-mot cette vision apocalyptique de science-fiction, d'une intelligence artificielle devenant supérieure à l'intelligence humaine. Il dit « Nous n'avons jamais côtoyé quelque chose de plus intelligent que nous ». Et c'est vrai au fond, c'est ça la véritable source de notre peur face à l'IA. C'est que nous sommes habitués depuis la nuit des temps à être concurrencés sur le plan de la force physique par les animaux, les machines, etc. Qui décuplent nos possibilités. Mais jusqu'à présent, rien ne pouvait dépasser nos capacités intellectuelle et on a toujours évolué dans l'idée que nous étions

Jérôme Colombain:
[3:04] au sommet de la pyramide de l'intelligence. Or désormais, voilà une terra incognita qui se profile, une potentielle intelligence supérieure à la nôtre. Alors reste à s'entendre malgré tout sur la notion d'intelligence, car l'intelligence ce n'est pas seulement la connaissance ou la vitesse de calcul pour résoudre des équations ou trouver des réponses au fin fond d'un document. C'est autre chose, on le sait, c'est la perception du monde avec nos sens et pas seulement avec notre intellect.

Jérôme Colombain:
[3:32] Reste donc à savoir si des machines pourraient un jour réellement nous dépasser aussi sur ce terrain-là.