Pourquoi les patrons de l’IA crient au danger… et accélèrent ? (🔎 Zoom Tech) »

[0:01] C'est une question que beaucoup se posent en ce moment. Pourquoi les grands acteurs américains de l'intelligence artificielle n'arrêtent pas d'alerter sur les dangers supposés de l'IA tout en continuant à accélérer son développement ? Franchement, il y a quelque chose de déroutant. [0:16] Dario Amodei, Sam Altman, Elon Musk, d'un côté ils nous disent « Attention, Armageddon, risque de cyberattaque monstrueuse, disparition des emplois, perte de contrôle de la machine, etc. [0:28] » Et pendant ce temps, ils continuent à construire et à entraîner leur fameux modèle frontière toujours plus puissant. Est-ce de l'hypocrisie ? Est-ce une stratégie de communication ? Ou la preuve qu'ils ont déjà perdu le contrôle ? J'ai voulu comprendre ce paradoxe, et en creusant un peu, on découvre qu'il y a plusieurs explications qui se superposent. D'abord, il faut prendre au sérieux une possibilité. C'est le fait que ces professionnels puissent être sincèrement inquiets et dérouté, en tout cas, face aux exploits de l'intelligence artificielle, à la fois au regard des possibilités que ça ouvre, mais aussi des risques. Chez Dario Amodei, le patron d'Enthropique qui développe Claude, la peur et l'enthousiasme vont vraiment ensemble. Il pense qu'une IA extrêmement puissante va pouvoir accélérer les découvertes médicales et scientifiques et faire des avancées majeures, mais cette même puissance pourrait aussi permettre de faire beaucoup de dégâts. Dans cette vision, arrêter de développer l'IA serait en réalité absurde car ce serait renoncer aux fantastiques découvertes qu'on attend. Pour lui, continuer à avancer est donc une question de responsabilité, presque une sorte de mission sociale. [1:40] La deuxième explication est plus économique, c'est la concurrence. Si plusieurs entreprises pensent qu'elles vont toutes trop vite, que collectivement elles peuvent avoir un intérêt à ralentir, mais individuellement, chacune a peur de lever le pied. Et oui, car elles risqueraient de se faire distancer par les autres qui, eux, n'arrêteront pas. Celles qui ralentissent risque de perdre son avance, ses clients, ses meilleurs chercheurs, ses financements aussi, et du coup, perdent la bataille. C'est ce qu'on appelle le dilemme du prisonnier. Tout le monde pourrait tirer profit d'une véritable coopération, mais personne ne prend le risque de s'engager tout seul. D'où les appels à ralentir de manière collective, mais surtout pas unilatéralement. [2:23] Il y a aussi, bien sûr, des intérêts commerciaux. Quand une entreprise explique que sa technologie pourrait changer le destin de l'humanité, c'est une manière de souligner à quel point elle est puissante et elle va l'être encore plus. Et c'est donc un excellent argument marketing pour séduire les investisseurs. Surtout quand on a l'entrée en bourse en ligne de mire, comme c'est le cas pour Anthropik ou OpenAI. Il faut promettre une technologie qui va changer le monde tout en assurant qu'on sait la maîtriser. Et ça, c'est encore un autre aspect. Quand une entreprise se présente comme la mieux placée pour comprendre les dangers de l'IA, elle renforce sa position auprès des gouvernements. En prenant l'instauration de règles de sécurité, elle vise aussi à renforcer son monopole ou son oligopole, car ses règles seront forcément complexes, coûteuses, et constitueront donc des barrières, pour décourager les nouveaux entrants. C'est une technique vieille comme le monde, déjà pratiquée en son temps par les banques ou par les acteurs historiques du logiciel, qui consiste à s'approprier la régulation pour la réserver à ceux qui peuvent se la payer. Et ainsi, ils garantissent qu'ils continueront à faire la course en tête et, sans être ennuyé par des petits nouveaux. C'est d'ailleurs ce qui hérisse le poil, soit dit en passant, des acteurs européens. [3:38] Enfin, troisième explication, le contexte géopolitique. Et oui, il faut remettre tout cela dans le cadre de la rivalité entre les États-Unis et la Chine. Dans son appel au ralentissement en septembre, Dario Amodei dit clairement qu'il veut préserver l'avance américaine. Il redoute que la Chine devance les Américains, ce qui représenterait un danger stratégique. C'est sa lecture géopolitique de la question. Ça révèle une vraie tension. Ils ont peur, ces dirigeants, de perdre le contrôle de l'IA et peur que quelqu'un d'autre prenne la main à leur place. D'autant que coordonner un ralentissement entre plusieurs entreprises, ça paraît compliqué, mais alors le faire entre puissances rivales, ça semble complètement impossible. Il faudrait instaurer des règles de vérification, un peu comme le nucléaire, etc. Et on voit à quel point il est difficile de mettre tout cela en place. À l'arrivée, chacun finit donc par se convaincre qu'il doit gagner la course à l'IA pour protéger le monde et en même temps s'en faire n'importe quoi. [4:35] Alors ça ne veut pas dire d'ailleurs que les alertes sur les risques de l'IA sont injustifiées, et elles s'inscrivent simplement dans un ensemble de causes qui s'entremêlent. Et il faut aussi replacer tout cela dans une échelle de temps. Les risques civilisationnels dont on parle ne se jouent pas à 10 ou 15 ans, mais sans doute sur des dizaines, voire des centaines d'années. En tout cas, c'est ce que pensent les plus inquiets dans cette histoire. Il faut donc nuancer finalement l'idée qu'ils sont irresponsables en fonçant à tombons ouverts vers l'inconnu. [5:04] La situation est plus subtile, visiblement, et il ne reste pas complètement les bras croisés, il faut bien leur reconnaître. Par exemple, OpenAI affirme avoir interrompu cet été pendant deux semaines des phases d'entraînement de ces modèles, le temps de renforcer les protections. Anthropik, de son côté, s'est engagé à accueillir des évaluateurs extérieurs. On ne peut donc pas mesurer la sincérité réelle de ses dirigeants quand ils disent qu'il faut ralentir, mais on peut quand même examiner les contraintes qu'ils acceptent de s'appliquer. Certes, ils sont à la fois ceux qui fabriquent ces systèmes, ceux qui les vendent et ceux qui nous en expliquent les risques. Leur expertise est donc indispensable, mais ils ne doivent sans doute pas être les seuls à avoir le dernier mot.