Sommet IA - "Nous ne sommes qu'à cinq ans de l'AGI" (Demis Hassabis, DeepMind & James Manyika, Google)

Monde Numérique :
[0:01] Les bénéfices et les risques de l'intelligence artificielle. Il en était question au sommet pour l'action sur l'IA. Et à cette occasion, Google France a organisé à Paris une rencontre entre deux personnalités de premier plan de l'intelligence artificielle. Demis Hassabis, prix Nobel de chimie, cofondateur et PDG de Deep Mindsets, filiale de Google spécialisée dans l'IA.

Monde Numérique :
[0:25] Et James Manyika, vice-président de Google, chargé de la recherche. Une discussion passionnante qui a été l'occasion d'évoquer les perspectives, mais aussi les risques de l'IAG, l'Intelligence Artificielle Générale, mais tout d'abord les bénéfices de l'IA, notamment dans le domaine de la santé. On écoute James Manyika, puis Demis Hassabis.

James Manyika :
[0:45] Je pense que l'un des aspects extraordinaires et passionnants pour les pays en développement en particulier est que cette technologie offre une nouvelle possibilité de surmonter certains défis.

James Manyika :
[0:56] Qu'il s'agisse de soins de santé ou d'adaptation au changement climatique. Je suis frappé, par exemple, par le fait que dans la plupart des pays du monde, 30 à 40 % des personnes atteintes de tuberculose ne sont pas diagnostiquées. Et c'est généralement parce que ces personnes vivent dans des pays en développement, dans des pays pauvres, où elles n'ont pas accès aux ressources. L'une des choses que nous avons montrées, par exemple, c'est qu'il est possible d'utiliser ces outils d'IA pour diagnostiquer la tuberculose. En fait, nous venons de réaliser une étude importante qui a été publiée dans le New England Journal of Medicine et qui le démontre. Imaginez donc que l'on donne cela à des gens et que cela puisse faire progresser les soins de santé dans les pays pauvres en voie de développement. Les opportunités sont donc extraordinaires. Je n'ai même pas parlé de l'éducation, etc.

James Manyika :
[1:44] Je suis donc très enthousiaste à l'idée de saisir ces opportunités.

Journaliste :
[1:49] Demis Hassabis, qu'avez-vous à l'esprit à court terme en termes de choses à surveiller ?

Demis Hassabis:
[1:54] Eh bien, je pense qu'il y aura des choses extraordinaires dans tous les domaines. Je suis donc très enthousiaste à propos de notre branche principale de travail sur la construction de ce que j'aime appeler une sorte d'assistant numérique universel. Donc, quelque chose qui va au-delà d'un simple chatbot et qui comprend en fait le contexte dans lequel vous êtes. Il est connecté à vos autres outils, vous savez, comme votre email, votre travail, Ce avec quoi vous travaillez, donc il rend les choses plus efficaces pour vous. C'est comme si vous aviez le meilleur assistant du monde pour vous aider à être plus efficace dans votre travail, vous redonner du temps, mais aussi pour vous recommander des choses qui enrichiront votre vie, qu'il s'agisse d'un type de vin ou d'un bon livre à lire. Et je pense que ce type de système devient possible. Je pense qu'il est très intéressant pour nous de travailler sur ce type de choses et sur des systèmes basés sur des agents capables d'accomplir des tâches en votre nom, mais aussi d'être des systèmes passifs de réponse aux questions. Et je pense que c'est en fait la voie vers l'AGI, en fin de compte.

Journaliste :
[3:01] L'AGI, c'est important. Je veux dire, c'est réellement révolutionnaire. À quoi cela ressemble dans votre esprit ?

Demis Hassabis:
[3:08] Je pense que nous sommes sur la voie de l'AGI, cette sorte d'idée d'un système qui présente toutes les capacités cognitives de l'homme. Et la raison pour laquelle c'est important, c'est qu'il s'agirait d'une véritable intelligence générale.

Demis Hassabis:
[3:22] Cela a toujours été l'objectif initial de l'IA en tant que domaine. Même dans les années 1950. avec des gens comme Alan Turing et certains de mes héros scientifiques de toujours. Et je pense que nous sommes sur le point de le faire. Nous ne sommes peut-être qu'à cinq ans d'un tel système, ce qui serait assez extraordinaire. Je pense que la société doit s'y préparer et que l'ensemble de la société en bénéficie. Mais nous atténuons également certains risques.

Journaliste :
[3:52] James, si cela se produit vraiment dans cinq ans, c'est bientôt.

Voix originales:
[3:56] Oui, c'est vrai.

James Manyika :
[3:59] Ce n'est pas très loin. Et je pense qu'une partie essentielle de ce à quoi nous devons nous préparer est de réfléchir à la manière de s'assurer que la société était résiliente et prête à faire face à cette situation. En fait, l'un des domaines clés est l'adaptation et la qualification de la main-d'œuvre. La bonne nouvelle, en tout cas, c'est que la plupart des recherches actuelles montrent qu'en fait, l'effet d'assistance et d'augmentation de l'IA est bien plus important que l'effet de déplacement. L'Organisation internationale du travail a publié l'année dernière une excellente étude portant sur quelques 140 pays et 400 professions.

James Manyika :
[4:34] L'une des conclusions de ce travail est qu'à court terme, c'est-à-dire au cours de la prochaine décennie, la probabilité d'une capacité d'assistance est en fait six fois supérieure à celle d'un déplacement. Mais en même temps.

James Manyika :
[4:47] Même si les gens vont être aidés par ces outils, il sera important de les préparer, de les aider à se former, d'avoir les bonnes compétences. L'une des choses dont nous sommes très fiers, c'est que Google, au cours des dernières années, a consacré beaucoup de temps à ce programme que nous appelons « Growing with Google », « Grandir avec Google ». Et je pense que jusqu'à présent, nous avons donné des compétences numériques ou des compétences de ce type à environ 100 millions de personnes au cours des dernières années.

Journaliste :
[5:19] Denis, je sais que vous vous qualifiez d'optimiste prudent. Est-ce que c'est 50-50 ou bien êtes-vous plus prudent qu'optimiste ?

Demis Hassabis:
[5:28] Eh bien, écoutez, je suis fondamentalement un techno-optimiste. J'ai travaillé sur l'IA tout au long de ma carrière parce que je pense qu'elle a le potentiel d'être la technologie la plus bénéfique et la plus révolutionnaire que l'humanité inventera jamais. Cela a toujours été clair pour moi et je pense que cela devient de plus en plus clair pour de plus en plus de personnes. Et puis la prudence. Vient du fait qu'avec n'importe quelle technologie massivement transformatrice et puissante, l'IA pourrait être la plus puissante. C'est aussi une technologie à double usage. Cela dépend de la façon dont nous,

Demis Hassabis:
[6:02] en tant que société, comment nous décidons de l'utiliser. Que voulons-nous faire avec cette technologie ? Voulons-nous l'utiliser pour le bien, pour la science, pour ce genre de choses, et pour la médecine, ou pour le mal ? Et je pense que c'est le défi que nous devons relever aujourd'hui. Je pense que l'autre problème est que la technologie elle-même, à mesure que nous nous rapprochons de l'AGI et de systèmes plus génétiques, comporte certains risques inhérents. Je m'inquiète donc de deux risques. Le premier est que des acteurs malveillants réaffectent des technologies d'usage général à des fins néfastes. La question est donc de savoir comment restreindre l'accès à ces technologies ou empêcher les mauvais acteurs d'agir de la sorte. Qu'il s'agisse d'individus ou de nations voyantes, mais tout en permettant et en facilitant l'accès aux bons cas d'utilisation.

Demis Hassabis:
[6:51] C'est donc la partie la plus difficile. La deuxième partie, à mesure que nous nous rapprochons de l'AGI, est le risque inhérent au système basé sur des agents. Et je m'assure qu'ils ont les bonnes valeurs, les bons objectifs. Ils ont les bons garde-fous pour que nous comprenions ce qu'ils font. Ils sont interprétables. Autant de grands défis à relever en matière de recherche. Je fais preuve d'un optimisme prudent à cet égard, car je crois beaucoup à l'ingéniosité humaine. Je pense que si nous mettons les meilleurs cerveaux sur le cou, avec suffisamment de temps et d'attention, et c'est là l'élément clé, c'est là l'élément de prudence, alors je pense que nous y parviendrons et que nous ferons passer l'humanité par cette sorte de chat de l'aiguille. Mais ensuite, nous bénéficierons de tous les avantages qu'apportera l'intelligence artificielle.