Des acteurs malveillants créent des faux comptes et orchestrent l’amplification de fake news pour influencer l’opinion publique sur le réseau social. Le géant américain part en guerre contre ces techniques.
« Opérations d’information et Facebook ». Ce rapport a de quoi surprendre car son titre semble tout droit sorti d’un film d’espionnage. Rien de fictif pourtant dans ce texte qui contient de la dynamite. Facebook confirme en effet être la cible d’acteurs malveillants, qui tentent de manipuler l’opinion publique, et détaille pour la première fois leurs méthodes. Le texte est signé du responsable de la sécurité Alex Stamos et de ses bras droits Jen Weedon et William Nuland.
Facebook accusé d’amplifier les fake news
Evidemment, le contexte est pour beaucoup dans la publication de ce rapport après les élections américaines et pendant la campagne présidentielle française. Ces échéances ont amplifié des phénomènes qui ne sont pas nouveaux, comme la propagation de fake news.
Mais jamais le réseau social n’a été autant sur la sellette, accusé comme ses congénères de ne rien faire pour empêcher ces dérives. On se souvient notamment du coup de gueule de Tim Bernes-Lee au mois de mars dernier, exhortant les géants du Web à trouver un dispositif pour filtrer les contenus. Le site BuzzFeed avait aussi prouvé que les fausses informations étaient plus populaires que les vraies durant les trois mois précédant le vote américain.
Revenons aux opérations d’informations. Selon Facebook, elles peuvent être conduites aussi bien par des gouvernements que par des acteurs non étatiques pour peser sur le sentiment politique national ou étranger pour obtenir « un résultat stratégique ou géopolitique ».
C’est la première fois dans l’histoire que des leaders ont l’opportunité d’atteindre un public mondial par le biais de nouveaux médias comme Facebook. Une audience qui va relayer de bonne foi et de façon organique des campagnes lancées pourtant par des sources biaisées.
30 000 faux comptes supprimés en France depuis le 13 avril dernier
Si Facebook relativise énormément l’ampleur et l’impact des tentatives de manipulations qui sont survenues durant les élections américaines, il n’en est pas de même pour la présidentielle française. Il révèle ainsi qu’il a pris des mesures contre plus de 30 000 faux comptes dans notre pays à partir du 13 avril dernier, soit quatre jours avant le premier tour du scrutin !
Le réseau social refuse d’employer le terme « fake news », trop vague selon lui. Il a donc développé sa propre terminologie. Outre les opérations d’information, il a retenu plusieurs concepts :
- celui de « false news » pour désigner de faux articles qui prétendent être factuels mais qui comportent des distorsions intentionnelles afin de tromper ou attirer des gens.
- de « false amplifiers » : une action coordonnée par des faux comptes avec l’intention de manipuler une discussion politique
- et de « disinformation » : une information ou un contenu manipulé ou imprécis mais toujours propagé intentionnellement
Derrière la « désinformation », des humains, pas des bots
Facebook distingue trois types d’action dont sa plate-forme est victime :
- la collecte de données ciblées : reconnaissance d’informations, cyber opérations contre des organisations ou des individus, hameçonnage, ou prise de contrôle de comptes, et vol de données.
- la création de contenus fallacieux : génération de spam, de meme et d’histoires, création de faux comptes et personnages.
- l’amplification : des faux comptes diffusent des memes et du contenu, technique de l’astroturfing qui a pour but de donner une fausse impression d’un comportement ou d’un mouvement populaire spontané
Contrairement à ce que l’on pourrait croire, et c’est l’un des grands enseignements de ce rapport, les contenus fallacieux ne sont pas diffusés par des bots. « La plupart des opérations d’information ne sont pas pilotées par des processus automatisés, mais par des personnes coordonnées qui se consacrent à l’exploitation de faux comptes », décrit le réseau social. Ce qui suggère un niveau d’organisation élevé.
Ces méthodes étaient déjà employées par d’autres groupes à des fins financières. Mais les opérations d’information seraient bien plus complexes à contrer. « Les parrains de ces opérations ne sont pas contraints par des réalités économiques comme les spammeurs ou les fraudeurs de clics, font observer les experts en sécurité de Facebook. Difficile en effet de les dissuader en les touchant au porte-monnaie.
Les Russes étaient à la manoeuvre durant l’élection américaine
Facebook assure déployer davantage de personnel en période critique comme des élections pour aider les personnes dont on a usurpé l’identité et protéger l’intégrité des comptes. Les personnes qui ont été ciblées sont prévenues par des alertes, des recommandations personnalisées sont formulées et des communications directes sont engagées de manière pro-active avec certaines cibles potentielles et des organismes gouvernementaux.
Le développement de nouveaux outils fait aussi partie du plan de bataille. Le réseau social travaille à repérer automatiquement des faux comptes et tente maintenant de détecter les orchestrations manuelles. Ainsi, grâce au machine learning, Facebook repère des aberrations statistiques ou des motifs récurrents dans l’activité de ses utilisateurs comme le fait que trop de messages soient répétés avec du même contenu ou un volume excessif de nouveaux contenus créés. Les systèmes sont mis à jour quotidiennement.
Le réseau social affirme ne pas être en mesure d’identifier qui se cache derrière ces abus. Il glisse cependant une pépite au passage, sous forme de périphrase : « Nos données ne contredisent pas les conclusions du directeur des services de renseignement américain dans son rapport du 6 janvier 2017 ». Et que disait donc ce rapport ? Que le gouvernement russe a tenté de favoriser l’élection de Donald Trump contre Hillary Clinton. Et en France ? Qui a créé plus de 30 000 faux comptes sur le réseau social ? Facebook ne répond malheureusement pas à cette question.
