IA & HORIZONS: L’heure des comptes a sonné pour les réseaux sociaux manipulateurs Newsletter N.18
L’heure des comptes a sonné pour les réseaux sociaux manipulateurs
Pour la troisième fois du début de l’année Meta, la société de Mark Zuckerberg qui contrôle Facebook, Instagram, WhatsApp, a perdu devant un tribunal, sur le sol américain. Le 21 octobre Raúl Torrez, le procureur général du Nouveau-Mexique, a obtenu une victoire historique dans l’affaire Cambridge Analytica, contre Facebook, à la suite d’une décision de justice condamnant l’entreprise à payer 25 milliards de dollars d’amendes civiles pour avoir enfreint la loi.
Au cours de la première phase du procès, qui a duré plus de deux semaines, un jury du Nouveau-Mexique a estimé que Facebook avait enfreint la loi de l’État sur les pratiques déloyales (Unfair Practices Act) à 43 899 725 reprises. Le verdict fait suite à un procès au cours duquel ont été examinées les pratiques de l’entreprise concernant la vie privée des utilisateurs, l’accès de tiers aux informations personnelles et sa gestion des contenus préjudiciables. Meta rejette ces conclusions et a annoncé l’intention de faire appel.
« C'est un jour historique pour le Nouveau-Mexique et pour les consommateurs de tout le pays », a déclaré le procureur général Raúl Torrez. « Depuis trop longtemps, de puissantes entreprises technologiques agissent comme si leur taille et leur influence les plaçaient hors de portée de la loi. »
Diplômé de l'université de Harvard, de la London School of Economics et de la faculté de Droit de Stanford, le procureur général Torrez est le même qui avait déjà fait condamner Meta en mars dernier pour « mise en danger des utilisateurs mineurs ».
L'affaire Cambridge Analityca porte le nom de la société de marketing politique qui avait collecté les données personnelles de près de 87 millions d'utilisateurs de Facebook (devenu Meta), sans leur consentement, afin de mieux cibler la publicité électorale de Donald Trump en 2016. Dix ans après les violations des droits civiques et 8 ans après la révélation de ce scandale qui a contribué à la première conquête du pouvoir par le président Trump, cette condamnation assume une grande valeur symbolique. D’autant plus en ce moment à quelques jours des élections américains de midterms au début de novembre.
« Cette affaire a dépassé le cadre d’une seule entreprise ou d’un seul scandale » a dit le procurer Torrez. « Il s’agit de savoir si les entreprises peuvent induire les consommateurs en erreur quant à l’utilisation de leurs données personnelles sans encourir de conséquences réelles. Le Nouveau-Mexique a tenu bon et il a obtenu un verdict constatant des millions de violations de notre législation. » Les jurés avaient estimé que les agissements reprochés à Facebook avaient touché l’ensemble des quelque 2,1 millions d’habitants de l’État, en comptant jusqu’à une infraction par habitant pour chacune des déclarations jugées trompeuses.
« Data drives all we do » (les données déterminent tout ce que nous faisons). Tel était le slogan de Cambridge Analityca, une filiale de la société de communication SCL Group, fondée à Londres en 2013 et financé au début par des puissants conservateurs britanniques. Spécialisée dans l’analyse de données à grande échelle, en utilisant les nouvelles technologies d’intelligence artificielle, elle se donne pour mission « de changer les comportements grâce aux données » : en mélangeant le traitement quantitatif de données, la psychométrie et la psychologie comportementale.
Dés l’année suivante les fonds de financements plus importants arrivent d’un milliardaire ultra conservateur américain, qui devient l’actionnaire numéro un : Rober Mercer, qui sera aussi un de majeur soutien de la campagne électorale de Donald Trump en 2016, à laquelle il a destiné des dons de 25,5 millions de dollars (dont 15 millions environ, selon une enquête de New York Times, ont été injectés dans Cambridge Analityca).
Mercer, qui avait été chercheur à IBM en AI, spécialiste du Natural language, avait aussi mis au point un des premiesr algorithme dédié au trading. Et il a créé sa fortune avec les fonds d’investissement Renaissance Technologies (que Forbes a défini en 2016 « the highest-earning edge found »).
Rebekah, la fille de Mercer, qui est du début dans le conseil d’administration de Cambridge Analityca, a organisé durant l’été 2013 la rencontre entre Alexandre Nix, le Ceo de la société, et Steve Bannon, homme de confiance de la famille Mercer. Dés l’année suivante le siège américain de Cambridge Analityca sera à Los Angeles, dans le même immeuble ou Bannon a son centre d’affaire. Entretemps Bannon qui s’était déjà affirmé comme fondateur du site d’extrême droite Breitbart News, devient le stratège de Donald Trump pour sa campagne électorale.
Cambridge Analityca avait mis à point un « psycometrics software » avec l’aide de deux chercheurs de l’université de Cambridge : un algorithme intelligent capable de tracer la personnalité, l’inclination politique et prédire le comportement des individus sur la base des préférences exprimées sur le social network. Facebook a introduit en suite l’app « This your digital life » sous forme de quiz, en laissant croire aux utilisateurs qu’il s’agissait simplement d’un test a fins de recherches. En réalité toutes les données personnelles des utilisateurs et de tous les amis connectés étaient acquises par Cambridge Analityca, et ce déjà pendant l’année précèdent l’élection. Le quotidien The Guardian à fin 2015 avait alerté sur ces collectes douteuses des donnés par la firme britannique.
Comment ont été utilisés en suite tous ces profils ? La vraie opération de manipulation a commencé dans le dernier mois de campagne électorale, quand est parti le bombardement de « dark post ». Il s’agit de messages de propagande personnalisés envoyé à travers les réseaux sociaux et visibles seulement à la personne « target », cible.
Jason Bloomberg, analyste et collaborateur de Forbes a expliqué que ces messages ont été utilisé massivement comme de fake-news pour déplacer les votes en faveur de Trump. Une longue enquête du site Scout.ai a révélé plus tard que dans la dernière semaine avant les élections américaines aurait été lancés 100 millions de dark-post dans les États où les électeurs étaient plus incertains et dans les États qui étaient encore favorable aux démocrates.
Le scandale hélas a émergé trop tard, quand l’informaticien Christophe Wylie, ex employé de Cambridge Analityca, a décidé de rompre le silence en 2018. Le 10 avril 2018, convoqué au Sénat américain Mark Zuckerberg a dû affronter quatre heures d’interrogatoire. Mais il s’en était sortie avec des excuses publiques et beaucoup de promesses.
Toutefois l’année suivant, en juillet 2019, la Federal Trade Commission impose a Facebook une amende de 5 milliards de dollars à cause de violations de la privacy, la plus haute pénalité jusqu’à ce moment-là infligée à une entreprise américaine.
« The $5 billions penalty against Facebook is the largest ever imposed on any company for violating consumers’ privacy » FTC.
Les autres procès plus récents à Meta
_________________________________________________________________
Aux Etats-Unis
Le Tribunal de Santa Fé avait émis un autre verdict en mars : une condamnation à payer 375 millions de dommages et intérêts, en démontrant pour la première fois que la société de Mark Zuckerberg avait pleinement conscience des problèmes de sécurité qui touchaient les utilisateurs mineurs de ses réseaux sociaux. Il avait émergé pendant le procès que 20% des utilisateurs d’Instagram âgés de 13 à 15 ans avaient été exposés contre leur gré à des images de nudité ou ils avaient reçu par des adultes des message à caractères sexuels.
Ce verdict a ouvert la voie aux 1.500 autres plaignants contre Meta, YouTube, TikTok et Snapchat. Le mois d’août, après un nouveau procès fleuve intenté par les avocats de 29 États américains, qui a montré la dimension des dommages portés à la santé mentale des mineurs par l’addiction aux réseaux sociaux de Meta, pour éviter une nouvelle condamnation et obtenir la fin des poursuites, Mark Zuckerberg a versé 18 milliards de dollars de dédommagement et il s’est engagé à introduire des changements à ses applications pour les utilisateurs mineurs (temps de connexion limité, exclusion de connexion la nuit, suppression de like)
En Europe- La Réglementation des marchés numériques (DMA)
200 millions d'euros (Avril 2025) : La Commission européenne a infligé cette amende à Meta pour non-respect des règles du Digital Markets Act (DMA).
Après une amende de 390 millions d’euros déjà infligée début 2023 par la Cnil irlandaise,Facebook en écope d'une autre amende historique de 1,2 millions d’euros la même année par le regulater irlandais Data Protection Commission, dont elle a fait appel. En cause : les transferts de données d'utilisateurs européens vers les Etats-Unis en violation du règlement général sur la protection des données personnelles (RGPD).
___________________________________________________________________
Comment les réseaux sociaux exarcerbent la fracture sociale
La mobilisation sociale du samedi 17 octobre et les violences commises par les casseurs constituent une aubaine pour les adversaires de la France. Et les réseaux sociaux ont fait caisse de résonnance. « Les troubles en France attisés par la désinformation » a titré le 20 octobre un rapport de l’organisation internationale de fact-checking NewsGuard, allertant que des fausses vidéos fabriquées avec l’IA « ont été vues des millions de fois sur les réseaux sociaux ».
« Alors que la France est secouée par des manifestations et des émeutes, des allégations mensongères visent les immigrés musulmans du pays » ont expliqué les fact-chekers Natalie Huet et Isis Blachez. « Dans les heures qui ont suivi le basculement des manifestations dans la violence, NewsGuard a identifié trois fausses affirmations devenues virales, qui visaient apparemment à amplifier le chaos et à en rejeter la responsabilité sur des militants pro-palestiniens ou étrangers.
Le compte X @MrEdogtagnft a publié la vidéo en déclarant, sur un ton sarcastique : « DERNIÈRE MINUTE : Des manifestants étudiants, pour la plupart pacifiques, ont incendié la tour Eiffel ». La publication a cumulé 11,6 millions de vues et 2 300 likes
Un message X de l'utilisateur anti-immigration @RosaneBonoro a partagé une vidéo et a déclaré (en portugais) : « Félicitations, @EmmanuelMacron Vous avez détruit Paris ». La publication a été vue 3,7 millions de fois, avec 29 000 likes.
Une autre fausse affirmation partagée en mode viral soutenait que les pillards auraient pris pour cible uniquement des commerces appartenant à des juifs — à Marseille ou ailleurs — mais elle est dénuée de fondement. Les médias français ont rapporté que des commerçants musulmans et catholiques ont également vu leurs boutiques être saccagées, par ailleurs, tant les autorités locales que des responsables de la communauté juive ont démenti cette allégation.
Enfin sont arrivées les déclarations de Donald Trump sur son réseau Truth, reprises sur Facebook : « La France brûle ! Fermer vos frontières avant qu’il ne soit trop tard ! ». Deux jours après lors d’une réunion de campagne électorale Trump a taclé la France comme étant un pays « autrefois grand, aujourd’hui brisé » en proie à la violence et la dégradation.
Les vrais révendications originelles - soit les problèmes des étudiants, l’augmentation du coût de la vie, le prix croissant des carburants – ont bien risqué d’être cachées par une vague de messages et des vidéos ayant comme boucle émissaire l’immigration. Et cela pas seulement en France, même chose en Italie et en Espagne. Partout une dramatisation et instrumentalisation politique des protestations en cours.
Au point que même le magazine britannique The Economist, en choissisant en couverture une image hautement dramatique, a poussé le titre du numéro de fin octobre :
The agony of liberal Europe
Centrist rulers have fallen dangerously short—and are now paying the price
___________________________________________________________________
En divers pays éuropéens aussi c’est le temps des nouvelles éléctions. En France la campagne pour la prochaine présidentielle 2027 est commencé, l’Espagne risque d’aller aux éléctions anticipées, l’Italie est en campagne pour les legislatives qui seront dans quelque mois. Comme avait anticipé il y a deux ans le rapport « Global Risk 2024 » du World Economic Forum « les fake news et l’utilisation toujours plus répandue des systèmes d’IA, dans les vidéos et chat-bot, alimentent des risques serieux de polarisation idéologique, afin de déstabiliser les démocraties ».
