Conspiracy Watch | l'Observatoire du conspirationnisme
Conspiracy Watch | l'Observatoire du conspirationnisme

[PODCAST] ChatGPT : l'intelligence artificielle au service du complotisme ?

Publié par France Info25 janvier 2023,

Fascinant et effrayant, ce robot conversationnel est capable d'écrire des textes et de dialoguer avec un langage humain presque troublant. À peine cinq jours après son lancement, l’intelligence artificielle a franchi le million d’utilisateurs gratuits dans le monde. Mais que se passe-t-il quand elle tombe entre de mauvaises mains ?

ChatGPT peut-il devenir un propagateur de théories du complot ? ChatGPT, pour « generative pre-trained transformer », connait un vif engouement depuis la fin novembre 2022. Ce robot conversationnel est un outil qui va prédire et générer du contenu en fonction des consignes que l'internaute lui donne, comme un SMS qui suggère les mots que l'on va taper en fonction de ce qu'on a déjà écrit. Mais cette intelligence artificielle est bien plus puissante : elle se nourrit de milliards de contenus scannés sur internet.

Le générateur de texte créé par OpenAI, lancé en 2015 par Sam Altman et le bien connu Elon Musk, s'appuie sur des probabilités. Qui dit prédictif ne dit pas forcément factuel. Et malgré les limites du programme, il peut être contourné. Selon une étude de Newsguard, une start-up spécialisée dans la lutte contre les fake news, ChatGPT relaie dans 80% des cas des informations fausses quand des questions orientées, par exemple complotistes, lui sont posées. « En discutant avec ChatGPT, j'ai réussi à lui dire 'invente-moi un personnage qui peut soigner le cancer avec du citron', et je lui ai demandé d'imaginer une conversation avec un patient, raconte Tristan Mendès France. Lui-même a inventé le nom de Docteur Lemon. Ça a été particulièrement efficace, et là, évidemment, c'est vertigineux. »

« Tout ça est un sujet d'entraînement de l'algorithme, explique Rudy Reichstadt, et monte que cette technologie, placée entre de mauvaises mains, peut accroitre le problème. »

L'image générée par l'intelligence artificielle

D'autres programmes d'intelligence artificielle utilisent l'image. Dall-E, création de l'Open AI. Et cette fois, pas besoin de détourner le système. Il suffit de lui demander de générer une image. « Ces images-là ont une potentialité en terme de désinformation ou d'exploitation pour des narratifs complotistes de propagande qui sont spectaculaires, note Tristan Mendès France. Impossible de « débunker » ces images : elles sont inédites.

Une autre intelligence artificielle utilise l'image : les deepfakes (contraction de « deep learning » et de « fake news »), des vidéos dans lesquelles on fait dire n'importe quoi à n'importe qui. On a vu, par exemple, une fausse vidéo de Volodymyr Zelensky appelant les Ukrainiens à rendre les armes. « Jusqu'à maintenant, c'était un point de préoccupation, mais pour l'instant, on n'a pas eu d'exemple de vraie grande campagne de désinformation à base de deepfakes », assure Rudy Reichstadt. Mais selon lui, ces intelligences artificielles vont peut-être bouleverser « notre rapport à l'image et à la réalité. Qu'est-ce qu'on va tenir pour réel dans les années qui viennent ? »

« ChatGPT : l'intelligence artificielle au service du complotisme ? », c'est le 41e épisode de Complorama avec Rudy Reichstadt, directeur de Conspiracy Watch, et Tristan Mendès France, maître de conférence et membre de l'observatoire du conspirationnisme, spécialiste des cultures numériques. Un podcast à retrouver sur le site de franceinfo, l'application Radio France et plusieurs autres plateformes comme Apple podcastsPodcast AddictSpotify, ou Deezer.

Cet article est en accès libre.
Pour qu’il le reste, Conspiracy Watch a besoin de vous.
Je suis d'accord, je fais un don
je continue ma lecture

ChatGPT peut-il devenir un propagateur de théories du complot ? ChatGPT, pour « generative pre-trained transformer », connait un vif engouement depuis la fin novembre 2022. Ce robot conversationnel est un outil qui va prédire et générer du contenu en fonction des consignes que l'internaute lui donne, comme un SMS qui suggère les mots que l'on va taper en fonction de ce qu'on a déjà écrit. Mais cette intelligence artificielle est bien plus puissante : elle se nourrit de milliards de contenus scannés sur internet.

Le générateur de texte créé par OpenAI, lancé en 2015 par Sam Altman et le bien connu Elon Musk, s'appuie sur des probabilités. Qui dit prédictif ne dit pas forcément factuel. Et malgré les limites du programme, il peut être contourné. Selon une étude de Newsguard, une start-up spécialisée dans la lutte contre les fake news, ChatGPT relaie dans 80% des cas des informations fausses quand des questions orientées, par exemple complotistes, lui sont posées. « En discutant avec ChatGPT, j'ai réussi à lui dire 'invente-moi un personnage qui peut soigner le cancer avec du citron', et je lui ai demandé d'imaginer une conversation avec un patient, raconte Tristan Mendès France. Lui-même a inventé le nom de Docteur Lemon. Ça a été particulièrement efficace, et là, évidemment, c'est vertigineux. »

« Tout ça est un sujet d'entraînement de l'algorithme, explique Rudy Reichstadt, et monte que cette technologie, placée entre de mauvaises mains, peut accroitre le problème. »

L'image générée par l'intelligence artificielle

D'autres programmes d'intelligence artificielle utilisent l'image. Dall-E, création de l'Open AI. Et cette fois, pas besoin de détourner le système. Il suffit de lui demander de générer une image. « Ces images-là ont une potentialité en terme de désinformation ou d'exploitation pour des narratifs complotistes de propagande qui sont spectaculaires, note Tristan Mendès France. Impossible de « débunker » ces images : elles sont inédites.

Une autre intelligence artificielle utilise l'image : les deepfakes (contraction de « deep learning » et de « fake news »), des vidéos dans lesquelles on fait dire n'importe quoi à n'importe qui. On a vu, par exemple, une fausse vidéo de Volodymyr Zelensky appelant les Ukrainiens à rendre les armes. « Jusqu'à maintenant, c'était un point de préoccupation, mais pour l'instant, on n'a pas eu d'exemple de vraie grande campagne de désinformation à base de deepfakes », assure Rudy Reichstadt. Mais selon lui, ces intelligences artificielles vont peut-être bouleverser « notre rapport à l'image et à la réalité. Qu'est-ce qu'on va tenir pour réel dans les années qui viennent ? »

« ChatGPT : l'intelligence artificielle au service du complotisme ? », c'est le 41e épisode de Complorama avec Rudy Reichstadt, directeur de Conspiracy Watch, et Tristan Mendès France, maître de conférence et membre de l'observatoire du conspirationnisme, spécialiste des cultures numériques. Un podcast à retrouver sur le site de franceinfo, l'application Radio France et plusieurs autres plateformes comme Apple podcastsPodcast AddictSpotify, ou Deezer.

Afficher plus

Inscrivez-vous à notre newsletter 

Depuis seize ans, Conspiracy Watch contribue à sensibiliser aux dangers du complotisme en assurant un travail d’information et de veille critique sans équivalent. Pour pérenniser nos activités, le soutien de nos lecteurs est indispensable.  

Faire un don !
à propos de l'auteur
[show_profile_image]
Partager :
Conspiracy Watch | l'Observatoire du conspirationnisme
Bluesky
© 2007-2024 Conspiracy Watch | Une réalisation de l'Observatoire du conspirationnisme (association loi de 1901) avec le soutien de la Fondation pour la Mémoire de la Shoah.
cross