Facebook supprime les faux comptes qui utilisaient l'IA pour créer de fausses photos de profil

Facebook a lutté contre le contenu diviseur sur ses plateformes.

Angela Lang / Camaraderielimited

Facebook a déclaré vendredi avoir fermé des centaines de faux comptes, pages et groupes qui trompaient les utilisateurs, y compris certains qui utilisaient l'intelligence artificielle pour générer de fausses photos de profil. Les chercheurs qui ont étudié le groupe de comptes ont déclaré que c'était la première fois qu'ils voyaient des images générées par l'IA à une si grande échelle, ce qui soulève des inquiétudes sur la manière dont le réseau social abordera ce problème avant l'élection présidentielle américaine de 2020.

La société a également supprimé de faux comptes du service de partage de photos Instagram, dont elle est propriétaire. Il a supprimé 610 comptes Facebook, 89 pages, 156 groupes et 72 comptes Instagram provenant des États-Unis et du Vietnam. Environ 55 millions de comptes ont suivi au moins une des pages et la plupart de ces abonnés venaient de l'extérieur des États-Unis.

Les images de profil de ces faux utilisateurs de Facebook ont ​​été générées à l'aide de l'intelligence artificielle. Le cou est déformé sur la gauche et l'arrière-plan a quelque chose de mal dans les deux images.

Capture d'écran de Queenie Wong / Camaraderielimited

"Nous travaillons constamment pour détecter et arrêter ce type d'activité", a déclaré Facebook dans un article de blog. "Nous ne voulons pas que nos services soient utilisés pour manipuler les gens."

La société a déclaré qu'elle avait supprimé les comptes pour avoir ingéré des ingérences étrangères et gouvernementales ou "un comportement inauthentique coordonné", ce qui signifie que la personne qui gérait les comptes avait induit les autres en erreur sur leur identité et ce qu'ils faisaient.

Ciblant les citoyens américains ainsi que le public vietnamien, espagnol et chinois, les faux comptes "publient généralement des mèmes et d'autres contenus sur les actualités et les questions politiques américaines, notamment la destitution, l'idéologie conservatrice, les candidats politiques, les élections, le commerce, les valeurs familiales et la liberté de religion. ", A déclaré Facebook.

De nombreux faux comptes ont promu du contenu pro-Trump par un média américain appelé The BL, abréviation de The Beauty of Life, selon Facebook. L'organisation de vérification des faits Snopes allègue que The BL est lié à Epoch Media Group, propriétaire de The Epoch Times. Selon Snopes, d'anciens employés d'Epoch Times dirigent The BL ou travaillent pour le média.

Stephen Gregory, l'éditeur des éditions américaines de The Epoch Times, a nié dans un éditorial que les sociétés soient affiliées les unes aux autres. Il a reconnu que d'anciens employés d'Epoch Times travaillaient pour The BL, mais a déclaré que cela ne prouvait pas que les deux sociétés étaient connectées. Le BL est également une publication d'Epoch Times Vietnam, mais depuis 2018, il n'est plus répertorié comme faisant partie d'Epoch Media Group.

Facebook, qui interdit déjà à Epoch Media Group de faire de la publicité, a également déclaré avoir interdit le BL. Le réseau social a déclaré que le BL avait violé ses règles, y compris celles contre le spam et les fausses déclarations. Facebook a déclaré qu'il était capable de lier l'activité de faux compte à Epoch Media Group malgré les efforts pour échapper à la détection.

Le BL n'a pas immédiatement répondu à une demande de commentaire. Epoch Media Group a souligné l'éditorial de Gregory.

Graphika, une société d'analyse des médias sociaux, et le Digital Forensics Lab de l'Atlantic Council ont analysé le réseau de faux comptes et ont constaté qu'une grande partie du contenu en anglais était pro-Trump ou attaquait les rivaux du président.

Lecture en cours:
                        Regarde ça:
                    
                    Ne laissez pas Facebook utiliser votre position pour trouver des amis

1:26

Les comptes utilisaient de fausses photos de profil et prétendaient être des Américains pour rejoindre des groupes tels que "America Needs President Trump" et "Trump for America's President". En utilisant l'IA, ces faux comptes comprenaient des photos de profil de personnes qui n'existent pas réellement.

Les chercheurs ont remarqué des détails subtils dans les photos de profil qui indiquaient qu'ils étaient faux. Par exemple, sur certaines photos, les accessoires tels que les lunettes et les boucles d'oreilles n'étaient pas symétriques. Il est possible que les dimensions du cou de quelqu'un aient été légèrement déformées ou que l'arrière-plan de la photo ait semblé faux.

"La facilité avec laquelle l'opération a réussi à générer autant d'images synthétiques, afin de donner à ses faux comptes des visages (pour la plupart) convaincants, est une préoccupation", selon le rapport de Graphika et du Conseil de l'Atlantique.

Dans d'autres cas, de faux comptes utilisaient des photos à partir d'images d'archives ou de photos glamour trouvées en ligne.

Un autre réseau de faux comptes est originaire du pays de Géorgie. Facebook a supprimé 39 comptes Facebook, 344 pages, 13 groupes et 22 comptes Instagram, qui comptaient collectivement plus de 450 000 abonnés et membres. Le réseau prétendait être des médias, des partis politiques et des militants, publiant des informations sur des sujets, des questions politiques et des critiques politiques.

Plus tôt vendredi, Twitter a partagé les données de 5 929 comptes en provenance d'Arabie saoudite qu'il a supprimées pour manipuler des informations.

"Ces comptes représentent la partie principale d'un plus grand réseau de plus de 88 000 comptes engagés dans des comportements de spam sur un large éventail de sujets", a déclaré Twitter. "Nous avons suspendu définitivement tous ces comptes."

Publié à l'origine le 20 décembre à 10 h 52, heure du Pacifique.
Mises à jour, 13 h 30: Ajoute plus d'informations sur les images de profil générées par l'IA; 21 décembre: Comprend plus d'informations sur le contenu promu par les comptes.