Désinformation, IA : en amont des élections européennes, Meta prend des mesures

Lundi (26 février), Meta a annoncé qu’elle se pencherait sur la lutte contre la désinformation et les risques posés par l’intelligence artificielle (IA) en vue des élections européennes de juin.

Meta, la maison-mère des réseaux sociaux Facebook, Instagram, Threads et WhatsApp, suit désormais les traces de TikTok, qui a annoncé le 14 février se préparer pour les élections européennes.

Dans un communiqué, Marco Pancini, responsable des affaires européennes chez Meta, affirme que « les contenus susceptibles de contribuer à des violences imminentes ou à des dommages physiques, ou destinés à empêcher le vote » sont déjà retirés de Facebook, Instagram et Threads.

Cependant, pour tout contenu qui ne violerait pas ces politiques, Meta travaille avec des organisations de vérification des faits (fact-cheking), soit « 26 partenaires à travers l’UE qui couvrent 22 langues », afin d’examiner et d’évaluer les publications sur ses plateformes.

Pour permettre à ses partenaires de repérer et d’évaluer plus facilement et plus rapidement le contenu lié aux élections européennes, l’entreprise technologique américaine « utilisera la détection de mots-clés pour regrouper les contenus apparentés ».

« Nos partenaires de vérification des faits sont également en train d’être intégrés à notre nouvel outil de recherche, Meta Content Library, qui dispose d’une puissante capacité de recherche pour les aider dans leur travail », peut-on lire dans le communiqué publié sur le site web de l’entreprise.

Meta mettra aussi en place un centre d’opérations pour les élections (Elections Operations Center) afin d’identifier le plus rapidement possible les menaces et de mettre en œuvre des stratégies d’atténuation en temps réel.

Plus tôt ce mois-ci, TikTok a promis de mettre en place « un centre électoral en langue locale sur son application pour chacun des 27 États membres de l’UE afin de s’assurer que les utilisateurs puissent facilement séparer les faits de la fiction ».

La plateforme chinoise collabore avec neuf organisations de vérification des faits en Europe, évaluant l’exactitude des contenus dans 18 langues européennes et étiquetant « toute affirmation qui ne peut être vérifiée ».

Meta et TikTok vont attaquer la Commission européenne en justice au sujet de la redevance de surveillance annuelle que les entreprises visées par le règlement sur les services numériques (DSA) doivent payer.

Publicités

Les publicités présentant des contenus discrédités, décourageant le vote et remettant en cause la validité de l’élection ou de ses résultats seront également interdites. Les publicités de Meta sont soumises à plusieurs niveaux d’analyse et de détection avant mais aussi après leur publication.

Meta collabore avec le Réseau européen des normes de vérification des faits (EFCSN) pour former les vérificateurs de faits européens à l’évaluation des contenus générés par l’IA et des contenus modifiés par des moyens numériques. En outre, l’entreprise est en train de lancer une campagne d’éducation aux médias afin de sensibiliser le public à l’identification de ce type de contenu.

Pour ce qui est de TikTok, les comptes appartenant à des responsables politiques ou à des partis politiques ne peuvent pas faire de publicité ou générer des revenus sur la plateforme, ceux qui enfreignent ces règles risquant de voir leur contenu supprimé.

Toutefois, la plateforme de partage de vidéos applique également des « politiques plus nuancées d’application des règles relatives aux comptes afin de protéger l’intérêt public ».

Par exemple, si un responsable politique ou un parti partage des informations erronées susceptibles de saper les processus civiques ou de causer un préjudice réel en période électorale, TikTok peut interdire au compte de publier du contenu pendant une période pouvant aller jusqu’à 30 jours et supprimer le contenu en cas d’infraction aux règles.

Opérations d’influence

Tout comme TikTok, Meta mentionne les opérations d’influence clandestines, qu’elle définit comme des efforts coordonnés visant à manipuler le débat public à des fins stratégiques, et qui peuvent aller de campagnes clandestines avec l’utilisation de fausses identités à des actions ouvertement menées par des médias contrôlés par l’État.

Pour lutter contre ces opérations, Meta a mis en place des équipes spécialisées chargées de mettre un terme à ce type de comportement et a « organisé une session pour se concentrer sur les menaces spécifiquement associées aux élections du Parlement européen ».

L’entreprise étiquette également les médias contrôlés par l’État sur Facebook, Instagram et Threads pour informer les utilisateurs de l’influence potentielle des gouvernements.

TikTok prévoit de son côté d’introduire des rapports dédiés aux opérations d’influence clandestines dans un effort de transparence, de responsabilisation et de collaboration intersectorielle.

La plateforme, qui appartient à l’entreprise chinoise ByteDance, introduira également des étiquettes pour les vidéos relatives aux élections européennes, guidant les utilisateurs vers un centre électoral TikTok et utilisant des rappels sur les hashtags pour inciter les utilisateurs à respecter les règles, à vérifier les faits et à signaler tout contenu qu’ils soupçonnent d’enfreindre les règles de la communauté.

La Commission européenne a ouvert une enquête formelle à l’encontre de TikTok en vertu de la loi sur les services numériques (DSA) lundi (19 février) pour de possibles infractions dans plusieurs domaines, notamment celui de la protection des enfants.

Intelligence artificielle

Le contenu généré par l’IA sera soumis à un examen et, si l’information est considérée comme « altérée », c’est-à-dire « falsifiée, manipulée ou transformée que ce soit pour un [enregistrement] audio, une vidéo ou une photo », l’entreprise l’étiquettera et minimisera sa visibilité, tandis que les publicités qui ont été discréditées ne seront pas du tout autorisées à être diffusées.

Meta étiquette les contenus photoréalistes générés par l’IA, grâce à Meta AI, même s’ils ne sont pas « altérés », et développe des outils pour étiqueter les images générées par l’IA à partir de diverses sources, notamment Google, OpenAI, Microsoft, Adobe, Midjourney et Shutterstock.

Le géant américain de la tech ajoutera également une fonction via laquelle les utilisateurs pourront signaler les contenus générés par l’IA qu’ils partagent en ajoutant une étiquette, sans quoi ils risquent des sanctions. Si le contenu « présente un risque substantiel de tromper le public sur des questions importantes », l’entreprise peut utiliser une étiquette plus visible « pour que les utilisateurs disposent de plus d’informations et du contexte ».

Sur Meta, les annonceurs doivent indiquer s’ils utilisent des images photoréalistes modifiées, des vidéos ou des sons réalistes pour les publicités liées aux questions sociales, aux élections ou à la politique.

Le processus d’examen et d’étiquetage du contenu généré par l’IA de Meta est très similaire à ce que TikTok a annoncé plus tôt ce mois-ci, mais ce dernier a également mentionné qu’il allait créer un espace dédié au sein de son bureau de Dublin afin de réunir les équipes spécialisées sur les élections.

Meta souligne qu’elle a collaboré avec des pairs du secteur pour établir des normes et des lignes directrices communes afin de répondre à la prévalence du contenu généré par l’IA en ligne.

« Ce travail dépasse le cadre d’une seule entreprise et nécessitera un effort considérable de la part de l’industrie, des gouvernements et de la société civile », conclut l’entreprise dans son communiqué.