Réseaux sociaux & désinformation : la grande tromperie propulsée par l'IA
Réseaux sociaux & désinformation : la grande tromperie propulsée par l'IA
par Chiara Sottocorona, Journaliste et Écrivain
« La Mort de la Vérité » tel est le titre du dernier livre de Steven BRILL, publié le 4 juin par The Knops Doubleday Publishing, une division du célèbre éditeur américain Penguin Random House. Le sous-titre est éclairant : « Comment les médias sociaux et Internet ont donné aux vendeurs de potions miracles et aux démagogues les armes dont ils ont besoin pour détruire la confiance et polariser le monde. Que pouvons-nous faire pour y remédier ? » Steven Brill est un journaliste qui a travaillé pour le New York Times, le Time magazine et le New Yorker. Il est également l’auteur de best-sellers américains tels que The Teamsters et America’s Bitter Pill. En 2018 il a co-fondé, avec Gordon Crovitz, ancien éditeur du Wall Street Journal, NewsGuard, une organisation internationale qui vérifie la fiabilité des sites Web et des informations en ligne dont il est le PDG.
Depuis, NewsGuard mène une lutte sans relâche contre la désinformation, y compris dans les pays européens, forte d’une équipe de centaines de journalistes.
« En avril, mon collègue Jack BREWSTER, directeur de la section entreprise chez NewsGuard, raconte dans une enquête sur le Wall Street Journal à quel point il est facile, rapide et à bon marché de créer des content-farm, des usines de contenu, entièrement gérées par l’intelligence artificielle, et de les utiliser comme sites de diffusion de fausses informations » déclare Virginia PADOVESE, directrice pour l’Europe de NewsGuard. « En seulement 2 jours, pour un coût de 105 dollars et sans aucune expertise technique, Jack a lancé un site d’informations locales entièrement automatisé, avec un parti pris politique, capable de publier des milliers d’articles, copiés et réécrits par ChatGPT, sans aucune référence à des sources d’informations légitimes ».
Entre avril 2023 et avril 2024, NewsGuard a identifié 840 sites automatisés de ce type. Un phénomène qui, dans les semaines précédant les élections européennes, a fait craindre un pic de désinformation, comme cela s’était déjà produit lors des élections en Inde, à Taïwan et en Slovaquie en septembre dernier. En Slovaquie, 48 heures seulement avant l’ouverture du scrutin, le leader du parti progressiste, Michal SIMECKA, a été victime d’un « deepfake audio » diffusé sur les réseaux sociaux : une conversation dans laquelle on entend sa voix expliquer comment acheter les votes des minorités Roms. Analysée par le Service de vérification des faits et l’agence de presse AFP, la piste audio s’est avérée avoir été manipulée à l’aide de techniques d’Intelligence Artificielle.
Les Deep-fakes sont des médias numériques qui contiennent des sons, des images et des vidéos d’origine synthétique ou manipulés à l’aide de techniques d’intelligence artificielle pour paraître réels. En fait, le nom vient de la contraction de deep-learning (apprentissage en profondeur) et de fake-news (fausses nouvelles).
Il suffit de penser que des récents logiciels d’intelligence artificielle, fournis par des applications telles que RemakerAI ou MioCreate, permettent en quelques secondes de remplacer le visage d’une personne sur une photo ou de modifier l’environnement dans lequel le personnage apparait. Les altérations de la réalité sont de plus en plus fréquentes dans les nouvelles diffusées en ligne. Et grâce à l’IA générative, il y a quelques mois les Big Tech ont aussi introduit les générateurs de vidéo, tels que « Sora » d’OpenAI et « Veo » de Google, qui, à partir de simples requêtes textuelles, créent automatiquement des films de 60 secondes en une minute.
« La manipulation d’images et de vidéos, ainsi que de textes, permet de créer de fausses théories attribuées à différentes personnalités ou aux autorités elles-mêmes. Il est désormais possible de créer la voix clonée d’une personne de manière parfaitement crédible et de l’associer à une vidéo également manipulée » explique le général Patrick PERROT, expert en IA et Sécurité de l’Institut EuropIA, coordinateur de l’intelligence artificielle à la Direction Nationale de la Gendarmerie Française. « Ces techniques sont désormais à la portée de tous. La lutte contre la désinformation à l’ère des Deepfakes devient plus difficile que jamais ».
Un véritable danger pour la démocratie, déjà mis en évidence dans le « Global Risk Report 2024 » du World Economic Forum, qui déclare textuellement : « As polarisation grows and technological risks remain unchecked, ‘truth’ will come under pressure » (Alors que la polarisation augmente et que les risques technologiques restent incontrôlés, la « vérité » sera mise sous pression).
Dans le classement des 10 risques mondiaux qui auront le plus d’impact sur les sociétés, « La désinformation et la mésinformation arrivent en tête« . Bien avant les préoccupations liées à la cybersécurité, qui arrivent en quatrième position, ou à l’inflation, en septième position.
Risques mondiaux classés par gravité à court terme, sur une période de 2 ans :
- 1. Désinformation
- 2. Événements climatiques extrêmes
- 3. Polarisation de la société
- 4. Insécurité cybernétique
- 5. Conflit armé entre états
- 6. Manque d’opportunités économiques
- 7. Inflation
- 8. Migration involontaire
- 9. Ralentissement économique
- 10. Pollution
Le fait que la génération Z et les Millénials ont également pris l’habitude de « s’informer » uniquement en ligne et en particulier sur les réseaux sociaux a permis d’amplifier le phénomène. Ils évitent ainsi la confrontation offerte par les débats télévisés en période électorale, se privant des analyses et des éclairages offerts par la presse nationale ou internationale.
Selon l’Observatoire européen des médias numériques (EDMO), la diffusion de fausses nouvelles liées aux élections dans l’Union Européenne a atteint en mai 2024 son niveau le plus élevé depuis mai 2023, représentant 15 % de la désinformation en ligne. Des canulars flagrants ont également été signalés par le Centre de surveillance des élections de NewsGuard : sur X et sur Facebook, par exemple, a circulé la fausse affirmation selon laquelle la présidente de la Commission européenne, Ursula von der LEYEN, est liée à un fonctionnaire nazi. « En ce qui concerne les élections de 2024 dans le monde entier, nous avons déjà détecté 963 sites publiant des informations fausses ou trompeuses et 793 profils sociaux ou chaînes vidéo associées qui ont diffusé de manière répétée de fausses affirmations sur les scrutins » dit PADOVESE.
Au lendemain des élections européennes, l’effet de « polarisation » a été constaté en France avec la poussée de l’extrême droite et le séisme politique qui a conduit à de nouvelles élections législatives. Il faut alors se demander quel rôle ont joué les réseaux sociaux et quel poids a eu la désinformation.
Un débat qui sera développé par l’Institut EuropIA lors de la conférence IADATES « Intelligence artificielle et réseaux sociaux : perspectives et risques pour les jeunes » ce jeudi 20 juin au Palais de Rois Sardes à Nice, avec comme invité d’honneur, Bernard BENHAMOU, Secrétaire Général de l’Institut de la Souveraineté Numérique (ISN).
Alors que sur les chaînes de télévision, le temps de parole des candidats pendant la campagne électorale est contrôlé, pour donner une égalité des chances, sur les réseaux sociaux, il n’y a pas de limites. Au contraire, l’effet mégaphone est encore amplifié par le partage, lui-même poussé par des algorithmes. Jordan BARDELLA, le nouveau leader du Rassemblement National, compte plus de 400 000 abonnés sur sa chaîne Instagram, rapporte le journal Les Échos. Et les vidéos de ses déambulations, truffées de selfies dans la rue, « sur TikTok sont régulièrement visionnées plus d’un million de fois« , prévient le quotidien. Le succès sur YouTube, aux deux extrémités du spectre, de l’ultradroitier Eric ZEMMOUR dont les vidéos comptent 500 000 abonnés, et du leader de La France Insoumise, Jean Luc MELENCHON, qui a atteint le million de vues, est également sensationnel. Aucun membre du gouvernement en France n’a rassemblé autant d’adeptes sur les médias sociaux. Le jeune premier ministre Gabriel ATTAL ne compte que 290 000 abonnés sur sa chaîne Instagram.
Le Centre de recherche de Science Po a mené une enquête avant les élections européennes sur les attitudes des utilisateurs d’Instagram, de TikTok, de X et de Snapchat à l’égard de la politique.
Les résultats ont montré que les utilisateurs les plus fréquents des médias sociaux sont davantage abstentionnistes (36 %, contre 22 % pour les utilisateurs occasionnels). L’effet de polarisation se confirme également : les utilisateurs intensifs se révèlent plus proches des partis extrémistes, d’ultra-droite (19 %) ou d’ultra-gauche (14 %). Pas seulement en France, mais aussi en Allemagne, où l’AFD (dont le leader avait déclaré que « les SS ne sont pas automatiquement des criminels ») est suivie par 15 pour cent des utilisateurs intensifs des médias sociaux, contre 9 pour cent des utilisateurs occasionnels.
Luc ROUBAN, le directeur de la recherche, a indiqué qu’il n’est pas possible d’attribuer un effet politique à un seul réseau social. L’usage exclusif restant rare, leur usage est généralement cumulatif .
Tout en écartant donc l’hypothèse d’une construction de l’identité politique sur un réseau social spécifique, il n’en reste pas moins que les trois réseaux sociaux les plus suivis par les jeunes Français, TikTok, Instagram et X, sont sous enquête pour d’avoir violé le Code de conduite, imposé par l’UE sur l’Internet aux plateformes comptant plus de 45 millions d’utilisateurs. Ce code nécessite de bloquer la diffusion virale de contenus faux ou violents. Des infractions ont été aussi relevée au DSA (Digital Service Act) pour non-respect des droits d’auteur et manque de transparence des algorithmes utilisés. Des procédures sont déjà engagées contre TikTok (également accusé de provoquer des comportements addictifs chez les jeunes) et X, qui pourraient donner lieu à des amendes pouvant aller jusqu’à 6 pour cent du chiffre d’affaires de chaque entreprise. Dans le cas d’Instagram et Meta, l’enquête est toujours ouverte et les négociations sont en cours.
