Une pizza au fromage ? Le réseau Instagram de Meta a facilité la création d’un réseau pédophile à grande échelle

Une enquête approfondie menée par le Wall Street Journal et l’Observatoire de l’Internet de Stanford révèle qu’Instagram, propriété de Meta, a servi de refuge à un réseau organisé et massif de pédophiles.

Mais ce qui distingue cette affaire de la plupart des autres, c’est que les algorithmes d’Instagram faisaient la promotion de contenus pédophiles auprès d’autres pédophiles, tandis que les pédophiles eux-mêmes utilisaient des emojis codés, tels qu’une image de carte ou une part de pizza au fromage.

"Le Journal et les chercheurs universitaires ont constaté qu’Instagram met en relation les pédophiles et les guide vers les vendeurs de contenu grâce à des systèmes de recommandation qui excellent dans la mise en relation de ceux qui partagent des intérêts de niche.

…

Les comptes pédophiles sur Instagram mélangent impudence et efforts superficiels pour dissimuler leur activité, ont constaté les chercheurs. Certains emojis fonctionnent comme une sorte de code, comme l’image d’une carte – qui signifie « personne attirée par un mineur » – ou celle d’une « pizza au fromage », qui partage ses initiales avec « pornographie infantile », selon Levine, de l’Université de Massachusetts. Beaucoup se déclarent « amoureux des petites choses de la vie »". -WSJ

Selon les chercheurs, Instagram permettait aux pédophiles de rechercher du contenu avec des hashtags explicites tels que #pedowhore et #preteensex, qui étaient ensuite utilisés pour les mettre en relation avec des comptes qui annonçaient du matériel pédopornographique à vendre par des utilisateurs se présentant sous des noms tels que « little sl*t for you » (petite s*lope pour vous).

Les vendeurs de matériel pédopornographique indiquent souvent l’âge supposé de l’enfant, en disant qu’ils sont « au chapitre 14 » ou qu’ils ont « 31 ans », avec un emoji représentant une flèche inversée.

BREAKING: Instagram algorithm exposed promoting pedophile networks in massive investigation, video sales, ‘preteensex’ menus, in-person meetups with underage boys and girls, using emojis such as a map and cheese pizza - WSJ

— Jack Poso ???????? (@JackPosobiec) June 7, 2023

Meta affirme avoir supprimé 27 réseaux pédophiles au cours des deux dernières années et prévoit d’autres suppressions.

Le fait qu’une équipe de trois universitaires disposant d’un accès limité puisse trouver un réseau d’une telle ampleur devrait alerter Meta », a déclaré Alex Stamos, directeur de l’Observatoire de l’Internet de Stanford et responsable de la sécurité de Meta jusqu’en 2018, ajoutant que l’entreprise dispose d’outils bien plus efficaces pour « cartographier » son réseau pédophile que ne le font les personnes extérieures.

« J’espère que l’entreprise réinvestira dans des enquêteurs humains », a-t-il ajouté.

Les chercheurs qui enquêtent sur le réseau ont créé des comptes tests au sein du réseau pédophile, qui ont été immédiatement inondés de recommandations de contenus pédophiles « suggérés pour vous », ainsi que de comptes renvoyant à des sites d’échange hors plate-forme.

"Les créateurs et les acheteurs de contenus pédophiles ne sont qu’une partie d’un écosystème plus vaste consacré aux contenus pédophiles sexualisés. D’autres comptes de la communauté pédophile sur Instagram rassemblent des mèmes pro-pédophilie ou discutent de leur accès aux enfants. Les employés actuels et anciens de Meta qui ont travaillé sur les initiatives de sécurité des enfants sur Instagram estiment que le nombre de comptes qui existent principalement pour suivre ce type de contenu est de l’ordre de centaines de milliers, voire de millions". -WSJ

Selon Brian Levine, directeur du UMass Rescue Lab, « Instagram est une rampe d’accès à des sites Internet où les abus sexuels sur les enfants sont plus explicites ». Levine a rédigé un rapport de 2022 pour l’Institut national de la justice du ministère de la Justice sur l’exploitation des enfants sur internet.

De plus, Meta est à l’origine de 85 % des rapports sur la pornographie enfantine déposés auprès du National Center for Missing & Exploited Children (Centre national pour les enfants disparus et exploités), selon le rapport. Cela dit, « Meta a eu plus de mal que d’autres plateformes à faire face à ces efforts, à la fois en raison de la faiblesse de l’application de la loi et des caractéristiques de conception qui favorisent la découverte de contenus légaux et illicites, a constaté Stanford ».

Today the WSJ and Stanford Internet Observatory released important research showing pedophiles use Instagram to share material.

We're happy that Stanford and WSJ followed our steps in working on this critical issue. As an independent researcher with my team, we showed how…

— Andrea Stroppa ???? Claudius Nero's Legion ???? (@andst7) June 7, 2023

« Le problème d’Instagram se résume aux fonctions de découverte de contenu, à la manière dont les sujets sont recommandés et à la mesure dans laquelle la plateforme s’appuie sur la recherche et les liens entre les comptes », a déclaré David Thiel, technologue en chef à l’Observatoire de l’Internet de Stanford. « Il faut mettre en place des garde-fous pour que quelque chose qui connaît une telle croissance reste nominalement sûr, et Instagram ne l’a pas fait.

Sarah Adams, une Canadienne mère de deux enfants, a développé une audience sur Instagram pour lutter contre l’exploitation des enfants. Photo : Alana Paterson pour le Wall Street Journal

"Sarah Adams, une Canadienne mère de deux enfants, s’est constitué un public sur Instagram qui discute de l’exploitation des enfants et des dangers d’un partage excessif sur les médias sociaux. Compte tenu de son objectif, les followers d’Adams lui envoient parfois des choses troublantes qu’ils ont rencontrées sur la plateforme. En février, dit-elle, l’un d’entre eux lui a envoyé un message avec un compte marqué du terme « incest toddlers » (« enfants inceste »).

Adams explique qu’elle a accédé à ce compte – une collection de mèmes pro-agression qui compte plus de 10 000 abonnés – pendant les quelques secondes nécessaires pour le signaler à Instagram, puis qu’elle a essayé de l’oublier. Mais au cours des jours suivants, elle a commencé à recevoir des messages de parents horrifiés. Lorsqu’ils ont consulté le profil Instagram d’Adams, ils ont appris qu’on leur recommandait des « enfants inceste » à la suite des contacts d’Adams avec le compte.

Un porte-parole de Meta a déclaré que les « enfants inceste » violaient les règles de l’entreprise et qu’Instagram avait commis une erreur dans l’application de ces règles. La société a déclaré qu’elle prévoyait d’aborder ces recommandations inappropriées dans le cadre de son nouveau groupe de travail sur la sécurité des enfants". -WSJ

Meta a reconnu au Journal avoir reçu un flot de rapports d’exploitation sexuelle d’enfants et n’avoir pas agi en conséquence, accusant un problème de logiciel qui a empêché une grande partie des rapports d’utilisateurs d’être traités.

Alors que Meta permet aux pédophiles de se déchaîner sur ses plateformes, ZeroHedge est toujours interdit.

Photo d'illustration: Mark Zuckerberg, PDG de Meta