Connectez-vous avec nous

High-Tech

Facebook supprime les faux comptes qui utilisaient l'IA pour créer de fausses photos de profil

Facebook a lutté contre le contenu diviseur sur ses plateformes.

Angela Lang / Camaraderielimited

Facebook a déclaré vendredi avoir fermé des centaines de faux comptes, pages et groupes qui trompaient les utilisateurs, y compris certains qui utilisaient l'intelligence artificielle pour générer de fausses photos de profil. Les chercheurs qui ont étudié le groupe de comptes ont déclaré que c'était la première fois qu'ils voyaient des images générées par l'IA à une si grande échelle, ce qui soulève des inquiétudes sur la manière dont le réseau social abordera ce problème avant l'élection présidentielle américaine de 2020.

La société a également supprimé de faux comptes du service de partage de photos Instagram, dont elle est propriétaire. Il a supprimé 610 comptes Facebook, 89 pages, 156 groupes et 72 comptes Instagram provenant des États-Unis et du Vietnam. Environ 55 millions de comptes ont suivi au moins une des pages et la plupart de ces abonnés venaient de l'extérieur des États-Unis.

Les images de profil de ces faux utilisateurs de Facebook ont ​​été générées à l'aide de l'intelligence artificielle. Le cou est déformé sur la gauche et l'arrière-plan a quelque chose de mal dans les deux images.

Capture d'écran de Queenie Wong / Camaraderielimited

"Nous travaillons constamment pour détecter et arrêter ce type d'activité", a déclaré Facebook dans un article de blog. "Nous ne voulons pas que nos services soient utilisés pour manipuler les gens."

La société a déclaré qu'elle avait supprimé les comptes pour avoir ingéré des ingérences étrangères et gouvernementales ou "un comportement inauthentique coordonné", ce qui signifie que la personne qui gérait les comptes avait induit les autres en erreur sur leur identité et ce qu'ils faisaient.

Ciblant les citoyens américains ainsi que le public vietnamien, espagnol et chinois, les faux comptes "publient généralement des mèmes et d'autres contenus sur les actualités et les questions politiques américaines, notamment la destitution, l'idéologie conservatrice, les candidats politiques, les élections, le commerce, les valeurs familiales et la liberté de religion. ", A déclaré Facebook.

De nombreux faux comptes ont promu du contenu pro-Trump par un média américain appelé The BL, abréviation de The Beauty of Life, selon Facebook. L'organisation de vérification des faits Snopes allègue que The BL est lié à Epoch Media Group, propriétaire de The Epoch Times. Selon Snopes, d'anciens employés d'Epoch Times dirigent The BL ou travaillent pour le média.

Stephen Gregory, l'éditeur des éditions américaines de The Epoch Times, a nié dans un éditorial que les sociétés soient affiliées les unes aux autres. Il a reconnu que d'anciens employés d'Epoch Times travaillaient pour The BL, mais a déclaré que cela ne prouvait pas que les deux sociétés étaient connectées. Le BL est également une publication d'Epoch Times Vietnam, mais depuis 2018, il n'est plus répertorié comme faisant partie d'Epoch Media Group.

Facebook, qui interdit déjà à Epoch Media Group de faire de la publicité, a également déclaré avoir interdit le BL. Le réseau social a déclaré que le BL avait violé ses règles, y compris celles contre le spam et les fausses déclarations. Facebook a déclaré qu'il était capable de lier l'activité de faux compte à Epoch Media Group malgré les efforts pour échapper à la détection.

Le BL n'a pas immédiatement répondu à une demande de commentaire. Epoch Media Group a souligné l'éditorial de Gregory.

Graphika, une société d'analyse des médias sociaux, et le Digital Forensics Lab de l'Atlantic Council ont analysé le réseau de faux comptes et ont constaté qu'une grande partie du contenu en anglais était pro-Trump ou attaquait les rivaux du président.

Lecture en cours:
                        Regarde ça:
                    
                    Ne laissez pas Facebook utiliser votre position pour trouver des amis

1:26

Les comptes utilisaient de fausses photos de profil et prétendaient être des Américains pour rejoindre des groupes tels que "America Needs President Trump" et "Trump for America's President". En utilisant l'IA, ces faux comptes comprenaient des photos de profil de personnes qui n'existent pas réellement.

Les chercheurs ont remarqué des détails subtils dans les photos de profil qui indiquaient qu'ils étaient faux. Par exemple, sur certaines photos, les accessoires tels que les lunettes et les boucles d'oreilles n'étaient pas symétriques. Il est possible que les dimensions du cou de quelqu'un aient été légèrement déformées ou que l'arrière-plan de la photo ait semblé faux.

"La facilité avec laquelle l'opération a réussi à générer autant d'images synthétiques, afin de donner à ses faux comptes des visages (pour la plupart) convaincants, est une préoccupation", selon le rapport de Graphika et du Conseil de l'Atlantique.

Dans d'autres cas, de faux comptes utilisaient des photos à partir d'images d'archives ou de photos glamour trouvées en ligne.

Un autre réseau de faux comptes est originaire du pays de Géorgie. Facebook a supprimé 39 comptes Facebook, 344 pages, 13 groupes et 22 comptes Instagram, qui comptaient collectivement plus de 450 000 abonnés et membres. Le réseau prétendait être des médias, des partis politiques et des militants, publiant des informations sur des sujets, des questions politiques et des critiques politiques.

Plus tôt vendredi, Twitter a partagé les données de 5 929 comptes en provenance d'Arabie saoudite qu'il a supprimées pour manipuler des informations.

"Ces comptes représentent la partie principale d'un plus grand réseau de plus de 88 000 comptes engagés dans des comportements de spam sur un large éventail de sujets", a déclaré Twitter. "Nous avons suspendu définitivement tous ces comptes."

Publié à l'origine le 20 décembre à 10 h 52, heure du Pacifique.
Mises à jour, 13 h 30: Ajoute plus d'informations sur les images de profil générées par l'IA; 21 décembre: Comprend plus d'informations sur le contenu promu par les comptes.

Continuer la lecture
Cliquez pour commenter

Laissez un commentaire

Votre adresse e-mail ne sera pas publiée.

Sport2 jours ago

Actualités du cricket 2022 : réponse de Charlie Dean à la vidéo controversée de « Mankad », troisième ODI Angleterre – Inde.

Voyages2 jours ago

Qantas : Les problèmes de repas et les hausses de prix ne dissuaderont pas les Australiens de prendre l’avion.

High-Tech2 jours ago

Mise à jour sur la guerre en Russie et en Ukraine : Le plan de mobilisation de Vladimir Poutine est un échec retentissant et les analystes pointent du doigt ses failles

Sport5 jours ago

Opals Australie – France Coupe du monde de basket-ball féminin : Lauren Jackson revient et marque son premier panier, équipes, flux, TV, FIBA

High-Tech5 jours ago

Tremblement de terre en Nouvelle-Zélande : un séisme de magnitude 5,8 ressenti au large de l’île du Sud

Voyages6 jours ago

Un touriste australien survit de justesse à un accident de scooter à Bali après avoir été attaqué par des chiens errants.

Beauté - Santé6 jours ago

Comment acheter une montre de marque sans se ruiner ?

Sport1 semaine ago

Actualités AFL 2022 : Andrew Gaze condamne la consommation excessive d’alcool lors de la Brownlow Medal, Patrick Cripps

High-Tech1 semaine ago

Le VW T-Roc R est-il rapide ?

Voyages1 semaine ago

Nomade numérique : Les Australiens peuvent désormais vivre sans impôts à Bali

Sport2 semaines ago

Finales de l’AFL 2022 : Matthew Richardson laisse Tom Hawkins en plan, Geelong vs Brisbane

High-Tech2 semaines ago

Un camion de godemichés et de lubrifiants se renverse sur une autoroute de l’Oklahoma.

Sport2 semaines ago

Golf 2022 : photo de Sergio Garcia, championnat BMW PGA, actualités, amende DP World Tour

Voyages2 semaines ago

Disney Cruise Line annonce que le Disney Wonder naviguera vers l’Australie

High-Tech2 semaines ago

Les troupes azerbaïdjanaises tentent d’avancer en Arménie.

Sport2 semaines ago

NRL 2022 : défaite du Melbourne Storm, décisions controversées du Bunker, knock-on de Cameron Munster, pénalité de Harry Grant, victoire des Canberra Raiders.

High-Tech2 semaines ago

Pourquoi Google est-il gris ? Le Google Doodle rend hommage à la reine Elizabeth II

Voyages3 semaines ago

Décès de la Reine Elizabeth : Message lu dans les avions du monde entier

Sport3 semaines ago

EPL 2022 : Thomas Tuchel limogé par Chelsea, réaction, Ligue des champions, qui sera le nouvel entraîneur ?

High-Tech3 semaines ago

MG ZS EV : la voiture électrique la moins chère du marché

Voyages4 semaines ago

Time Out classe les rues les plus cool du monde et place Gertrude St, Melbourne, en deuxième position.

Sport4 semaines ago

US Open 2022 : Nick Kyrgios, actualités, scores, finale de Wimbledon, victoire au deuxième tour, conférence de presse après la victoire.

High-Tech4 semaines ago

NASA : Le test de la fusée avant le retour de l’homme sur la Lune sera lancé aujourd’hui.

High-Tech4 semaines ago

Tempête de grêle en Espagne : Une fille est tuée, d’autres sont blessées par une forte grêle

Voyages4 semaines ago

L’hôtesse de l’air et le petit ami ne sont pas satisfaits du repas de la petite amie à bord.

High-Tech3 semaines ago

Les amis de la jeune fille tuée à Bali se réunissent en son honneur

Voyages3 semaines ago

Un « avion fantôme » privé autrichien s’écrase au large de la Lettonie.

Voyages3 semaines ago

Décès de la Reine Elizabeth : Message lu dans les avions du monde entier

High-Tech3 semaines ago

MG ZS EV : la voiture électrique la moins chère du marché

Sport4 semaines ago

AFL 2022 : les chiffres révèlent le problème de l’exemption des préfinales, de la finale de qualification, de la finale préliminaire et de la finale.

Sport3 semaines ago

F1 2022 Grand Prix des Pays-Bas en direct : Daniel Ricciardo, grille de départ, Max Verstappen

High-Tech2 semaines ago

Pourquoi Google est-il gris ? Le Google Doodle rend hommage à la reine Elizabeth II

Voyages2 semaines ago

Disney Cruise Line annonce que le Disney Wonder naviguera vers l’Australie

High-Tech2 semaines ago

Les troupes azerbaïdjanaises tentent d’avancer en Arménie.

Sport3 semaines ago

EPL 2022 : Thomas Tuchel limogé par Chelsea, réaction, Ligue des champions, qui sera le nouvel entraîneur ?

High-Tech2 semaines ago

Un camion de godemichés et de lubrifiants se renverse sur une autoroute de l’Oklahoma.

Sport2 semaines ago

NRL 2022 : défaite du Melbourne Storm, décisions controversées du Bunker, knock-on de Cameron Munster, pénalité de Harry Grant, victoire des Canberra Raiders.

Sport2 semaines ago

Finales de l’AFL 2022 : Matthew Richardson laisse Tom Hawkins en plan, Geelong vs Brisbane

Sport2 semaines ago

Golf 2022 : photo de Sergio Garcia, championnat BMW PGA, actualités, amende DP World Tour

Voyages1 semaine ago

Nomade numérique : Les Australiens peuvent désormais vivre sans impôts à Bali