A l'intérieur d'une ferme de robots Facebook qui publie plus de 200 000 messages politiques par mois

Les chercheurs de Comparitech ont accédé à une ferme de robots Facebook non sécurisée utilisée pour contrôler près de 14 000 faux comptes. Voici ce que nous avons trouvé.

Le problème des robots

Facebook, comme la plupart des autres réseaux sociaux, a un problème de bot.

Du point de vue de Facebook, les bots peuvent être indiscernables des utilisateurs légitimes. Ces programmes automatisés peuvent être utilisés pour extraire les informations personnelles des utilisateurs sans leur consentement, fabriquer des campagnes d'influence, pousser secrètement des agendas, diffuser de la désinformation et rendre les escroqueries plus convaincantes.

Alors que les systèmes automatisés peuvent détecter une activité de bot plus flagrante, des bots plus sophistiqués peuvent imiter l'entrée humaine avec une telle précision que Facebook peut avoir du mal à faire la différence.

En raison de son échec à arrêter les bots sur sa plate-forme, il semble que Facebook essaie plutôt de normaliser l'idée que les bots ne sont qu'une partie de la vie sur Internet. Les bots ne seront pas arrêtés de si tôt.

À l'intérieur de la ferme de robots

Des chercheurs de Comparitech, dirigés par Bob Diachenko, sont récemment tombés sur une ferme de robots Facebook hébergée sur un serveur non sécurisé. Nous avons trouvé la ferme de robots dans le cadre de nos analyses de routine pour les bases de données vulnérables sur Internet. Sans authentification nécessaire pour accéder à la ferme de robots, nous avons jeté un coup d'œil sous le capot pour voir comment cela fonctionne.

La ferme de robots que nous avons trouvée a été utilisée pour créer et gérer 13 775 comptes Facebook uniques . Ils ont chacun publié 15 fois par mois en moyenne, pour un total de 206 625 messages de cette seule ferme au cours d'un mois donné. Notez que de nouveaux bots sont créés par des fermes de bots et supprimés en permanence par les systèmes de modération de Facebook, de sorte que les chiffres totaux peuvent varier considérablement d'un mois à l'autre. Le premier message de ces comptes a été créé en octobre 2020.

Les chercheurs affirment que Facebook n'a bloqué qu'environ un compte de bot sur 10 de la ferme au moment de la publication.

Les autres comptes sont actifs, voir ci-dessous une capture d'écran prise le 10 mai montrant qu'un message a été publié il y a 17 heures :

Ces robots semblent être utilisés à des fins de manipulation politique. Ils publient du contenu politique provocateur et diviseur pour inciter les utilisateurs légitimes de Facebook. À première vue, chaque compte ressemble à une personne réelle, avec une photo de profil et une liste d'amis (probablement composée d'autres robots). Pour étendre leur portée et s'assurer qu'ils ne se contentent pas de publier les uns sur les autres, les bots rejoignent des groupes Facebook spécifiques où leurs publications sont plus susceptibles d'être vues et discutées par des utilisateurs légitimes.

Environ 50 pour cent des messages portaient sur des sujets politiques. Les incidents de presse et les publications liées à la pandémie étaient également courants.

« Trump » était le mot-clé le plus utilisé dans les publications de robots, suivi de « Biden ». Certains événements spécifiques discutés incluent les élections présidentielles américaines de 2020, les incendies de forêt en Californie, les manifestations en Biélorussie, les restrictions aux frontières américaines, la pandémie de COVID-19 et une récente fusillade à San Antonio.

La plupart des comptes de bot étaient enregistrés avec des numéros de téléphone temporaires et des adresses e-mail @mail.ru. En raison du manque d'autorisation nécessaire pour accéder au backend de la ferme de bots, les chercheurs de Comparitech ont pu collecter des paires de nom d'utilisateur et de mot de passe pour chaque compte de bot.

Comparitech a signalé les comptes de bots à Facebook mais n'a pas reçu de réponse au moment de la publication.

Sélénium utilisé pour imiter l'apport humain

Un outil clé utilisé par la ferme de robots pour imiter le comportement humain s'appelle Selenium.

Les tâches de création de publications et d'abonnement à des groupes sont mises en requêtes pour être exécutées automatiquement par Selenium.

Selenium est un ensemble d'outils multifonctionnel qui, dans ce cas, simule l'activité d'un utilisateur réel. Les robots contrôlés via Selenium peuvent ouvrir et parcourir des pages Web dans un navigateur Web normal, cliquer sur des boutons et des liens, saisir du texte et télécharger des images. Les robots que nous avons découverts ont publié des articles avec du texte et des images, republié des articles de médias et rejoint des groupes populaires dans diverses catégories (musique, émissions de télévision, films, etc.).

Partie d'un script utilisé pour enregistrer un compte Facebook.

Selenium peut être utilisé pour contrôler une armée de robots, les charger de rejoindre des groupes et de créer des publications. Les chercheurs ont découvert que les sessions de bot peuvent émuler une gamme d'agents utilisateurs, des iPhones aux navigateurs Chrome, afin que le propriétaire puisse faire en sorte que le trafic semble provenir d'un large éventail d'appareils. Le sélénium peut être utilisé via des proxys, permettant en outre aux robots de masquer leur source. Selenium peut même être configuré pour ajouter un délai entre les clics, de sorte qu'il ne semble pas parcourir les pages plus rapidement qu'un humain normal. Les chercheurs affirment que même certaines des techniques de détection de bots les plus avancées ne peuvent pas faire la distinction entre un humain et le sélénium.

Ce qui reste flou, c'est d'où les bots obtiennent leurs informations et leurs images. Les chercheurs n'ont pu trouver aucun robot d'exploration qui rassemble les images publiées par les robots, nous supposons donc que les attaquants accumulent le contenu à partir d'une source privée.

Bien que cette ferme de robots particulière n'ait pas été bien sécurisée, la plupart sont beaucoup plus difficiles à trouver et à accéder pour les utilisateurs non autorisés.

Pourquoi des robots ?

Alors, quel est le but de tout ce bot farming ? Ils pourraient être utilisés à diverses fins. Quiconque gère la ferme de robots peut l'utiliser à ses propres fins ou la louer à des tiers moyennant des frais.

Les bots jouent un rôle énorme dans les campagnes d'influence. Les campagnes d'influence parrainées par l'État en provenance de Russie ont reçu beaucoup d'attention au cours des deux derniers cycles de l'élection présidentielle américaine. Ils ont probablement utilisé des fermes de robots comme celle-ci pour diffuser de la désinformation et inciter les utilisateurs de Facebook.

Les robots peuvent être utilisés pour gonfler artificiellement l'enthousiasme perçu du public pour une certaine cause, personne, produit ou point de vue. L'Astroturfing, par exemple, masque les véritables commanditaires d'un message pour le faire apparaître comme s'il émanait et était soutenu par des participants de la base. Si les gens pensent que les bots sont humains, ils sont plus susceptibles de croire que le message a un soutien populaire.

Dans la même veine, les bots peuvent être utilisés pour augmenter artificiellement le nombre d'abonnés ou de followers. La ferme de robots que nous avons examinée a souscrit des comptes à certains groupes. Pour les vrais utilisateurs, une page ou un groupe de 1 000 membres semble plus légitime qu'une page d'une douzaine de membres. Cela peut être utilisé pour attirer les victimes pour une sorte d'escroquerie.

Enfin, bien que le moins probable, Facebook profite des robots pour gonfler son propre nombre d'utilisateurs et son activité, peut-être pour plaire aux parties prenantes qui exigent une croissance trimestrielle des utilisateurs.

Gardez à l'esprit que les robots ne sont pas nécessairement malveillants tout le temps. Ils peuvent être configurés pour publier du contenu bénin jusqu'à ce que l'administrateur de la ferme de robots décide de les armer lors d'une attaque.

Traduction ZeJournal