The Albany Gazette - King Kong, vampires, astéroïdes: la désinformation à la mode IA en vogue sur TikTok

L'application populaire est menacée d'interdiction aux Etats-Unis, où le Sénat doit se prononcer prochainement sur un texte voté par la Chambre des représentants qui contraindrait ByteDance, maison mère chinoise de la plateforme, à vendre TikTok pour continuer ses activités sur le sol américain.

Les élus à l'origine de la proposition s'inquiètent de l'éventuel accès des autorités chinoises aux données des utilisateurs américains de TikTok ainsi qu'à sa capacité de propagande sur la plateforme.

Mais la question de la mésinformation est largement absente des discours politiques, soulignent les experts.

"La désinformation devrait faire partie du débat sur TikTok" alors que la popularité de l'application lui offre une large caisse de résonnance, estime Aynne Kokas, chercheuse spécialiste des médias à l'Université de Virginie.

Or, une nouvelle tendance préoccupante a fait son apparition sur TikTok, où des utilisateurs monétisent des vidéos étayant des théories du complot, relève l'organisation Media Matters.

Sur fond de musique inquiétante, les vidéos, qui recensent pour la plupart des millions de vues, mettent en scène des théories extravagantes, déroulées par des voix graves générées par l'intelligence artificielle (IA).

- "Astéroïde" -

"Nous allons probablement tous mourir dans les quelques prochaines années. Avez-vous entendu parler de ça?" interroge ainsi une voix imitant celle du très populaire créateur américain de podcasts Joe Rogan dans une vidéo devenue virale.

"Il y a un astéroïde qui va entrer en collision avec la Terre", dit la voix, citant une fuite supposée de documents "secrets" du gouvernement américain. D'autres assurent que le même gouvernement a capturé en secret des vampires ou King Kong.

Ces vidéos, généralement postées par des comptes anonymes, utilisent souvent des images générées par de l'intelligence artificielle, dit Abbie Richards de Media Matters.

Leur production peut s'avérer rentable grâce au "Programme pour la création de TikTok", qui vise selon la plateforme à rémunérer les créateurs "publiant du contenu original de haute qualité".

Ce nouveau programme a donné naissance, selon Abbie Richards, à une "industrie artisanale" de théories du complot, alimentée par des outils d'IA générative -permettant de produire textes, images ou encore sons sur simple requête en langage courant- facilement disponibles en ligne, et pour certains gratuits.

De nombreux tutoriels sur internet expliquent comment créer "des vidéos virales de théories du complot" et créer des revenus grâce au programme de TikTok.

L'un des tutoriels visionnés par l'AFP recommande aux internautes de commencer par évoquer "quelque chose de scandaleux" comme par exemple dire que "des scientifiques viennent d'être surpris en train de cacher un tigre à dents de sabre".

- "Pas un réponse" -

"Le fait d'inciter financièrement à (créer) des contenus à la fois très viraux et peu coûteux à produire crée un environnement propice au développement de théories de complot", insiste Abbie Richards, citée dans le rapport de Media Matters.

"C'est bien que TikTok rémunère les créateurs pour leur travail, mais la plateforme ne devrait pas récompenser financièrement des contenus fictifs déguisés en +théories+", poursuit cette chercheuse en désinformation.

Une porte-parole de TikTok a cependant déclaré à l'AFP que "les théories du complots ne sont pas éligibles à gagner de l'argent ni recommandées" dans les fils d'actualité des usagers.

"Les fausses informations nuisibles sont interdites, et nos équipes de sécurité en suppriment 95% de manière proactive avant qu'elles ne soient signalées".

De fait, au moins un compte diffusant une vidéo litigieuse a été désactivé après que l'AFP a cherché à joindre l'application.

Face à la multiplication des "deepfakes" -des contenus manipulés par l'IA- la Commission européenne a récemment demandé des explications à huit grands services en ligne, dont TikTok, Facebook, Google, YouTube et X, sur la façon dont ils géraient les risques liés à la diffusion de ces contenus.

Aux Etats-Unis, où l'application compte 170 millions d'utilisateurs, de nombreux experts se disent opposés à une interdiction de TikTok, via lequel nombre de jeunes utilisateurs s'informent.

"Il y a beaucoup de fausses informations sur TikTok, comme sur d'autres réseaux sociaux. Certaines sont dangereuses", estime Jameel Jaffer, professeur à l'université Columbia.

Mais pour cet avocat spécialisé dans la défense de la liberté d'expression, "donner au gouvernement le pouvoir de supprimer la désinformation ou interdire aux Américains d'accéder aux plateformes qui hébergent de la désinformation n'est pas une réponse raisonnable au problème - ni une réponse constitutionnelle".

(F.Jackson--TAG)