Grok 2, Pixel Studio... Les fausses images par IA deviennent de plus en plus problématiques (Actu)

Monde Numérique :

[0:02] Bonjour et bienvenue à l'écoute du podcast Monde Numérique. Ravi de vous retrouver en ce lundi 26 août 2024 pour le premier numéro d'une nouvelle série. En effet, j'aurai désormais le plaisir de vous proposer chaque jour un épisode de Monde Numérique consacré à l'actu des technologies. Alors une actu ou un édito.

Monde Numérique :

[0:21] Et puis bien sûr, comme avant, l'hebdo chaque samedi avec ses différentes rubriques et des interviews de spécialistes et d'acteurs de la tech. Ça, on ne change pas.

Monde Numérique :

[0:30] J'espère que vous avez passé de bonnes vacances, si vous aussi vous faites votre rentrée aujourd'hui. Et on commence par une info concernant l'un des événements qui a marqué l'été, probablement. C'est l'explosion des images générées par intelligence artificielle. Alors, ce n'est pas nouveau, mais ça continue de plus belle. Et notamment en raison du lancement par un certain Elon Musk de la nouvelle version de Grok. GROK, c'est l'intelligence artificielle intégrée à X, la plateforme ex-Twitter. Voici donc GROK 2, réservé aux abonnés premium de X. Ça coûte 8 dollars par mois ou pour l'abonnement premium plus à 16 dollars par mois. Et ce GROK est assez étonnant, surpuissant. Il dépasserait les autres outils d'intelligence artificielle signés OpenAI, Anthropic, Google, Meta, etc. Et il est surtout sans filtre, totalement débridé, politiquement incorrect comparé à ses concurrents, fidèle à la ligne libertarienne d'Elon Musk.

Monde Numérique :

[1:36] Et ça concerne notamment la génération d'images et donc de fausses images. Alors du coup, les utilisateurs de X et Elon Musk en premier s'en sont donnés à cœur joie cet été en produisant toutes sortes d'images que vous avez peut-être aperçues, des images hyper réalistes, plus ou moins humoristiques. Et Grock s'est même invité dans la campagne présidentielle américaine, avec par exemple des images entre une supposée histoire d'amour entre Donald Trump et Kamala Harris. On les voit notamment en dégustant une glace ensemble sur la plage avec des regards, en échangeant des regards inamourés. Mais on a vu aussi de fausses images montrant Donald Trump face à une foule de personnes noires supposées le soutenir ou encore des images de Joe Biden hospitalisé, malade, etc. Des images donc impossibles à générer avec les outils qui existaient précédemment parce que ceux-ci sont précisément verrouillés pour éviter ce genre de dérapage. Mais avec Grok, ça devient possible. Et ce n'est pas sans risque, évidemment. Évidemment, selon l'entreprise spécialisée dans la lutte contre la désinformation NewsGuard.

Monde Numérique :

[2:40] Grok présenterait ainsi 35% de risque supplémentaire de produire de fausses

Monde Numérique :

[2:46] images d'actualité, ou en tout cas des images d'actu trompeuses. Dans le même temps, un autre sujet est à rapprocher de ce phénomène. C'est la sortie également cet été des nouveaux smartphones Pixel 9 de Google. Alors vous allez me dire quel rapport ? Non, ils ne permettent pas de générer de fausses photos de Donald Trump. Mais en revanche, ils sont eux aussi boostés à l'intelligence artificielle et ça permet des choses étonnantes. Alors on pouvait déjà supprimer un détail gênant ou une personne sur une image grâce à l'IA. mais on peut maintenant en plus ajouter quelqu'un très facilement sur une photo. Par exemple, pour photographier un groupe, la personne qui prend la photo, en trois clics, on peut ensuite la rajouter dans l'image, en la photographiant à son tour dans le même cadre et en mixant les deux. Alors avec tout cela, si on en doutait encore un peu, on peut maintenant en être sûr. Soit on ne pourra plus du tout se fier à ce qu'on voit, soit ce serait peut-être plus positif, on va devenir de plus en plus critique, mais on finira par se méfier de tout. Allez, salut, à demain.