Accueil High-Tech Enseigner la désinformation est un jeu d'enfant chez Defcon

Enseigner la désinformation est un jeu d'enfant chez Defcon

0
0

À l'asile de cette année, les enfants apprendront comment les campagnes de désinformation utilisent les robots pour semer le chaos sur les réseaux sociaux.

Getty Images

La campagne de désinformation menée par la Russie lors de l'élection présidentielle américaine de 2016 a profondément ébranlé les entreprises de médias sociaux telles que Facebook et Twitter. Maintenant, les enfants participant à la conférence Defcon apprennent à créer leur propre armée de robots.

Mais les organisateurs de l'asile 900tz, l'événement réservé aux enfants de Defcon, affirment qu'il n'y a pas lieu de s'alarmer.

L'objectif n'est pas de lancer une nouvelle vague de canulars et de chaos sur les médias sociaux pour l'élection présidentielle américaine de 2020. Il s'agit d'enseigner à la prochaine génération d'électeurs la facilité avec laquelle la fraude éclate dans les médias sociaux et de démolir les outils utilisés par les acteurs étrangers pour répandre la désinformation, a déclaré le cofondateur de r00tz, Nico Sell.

"Les enfants sont maintenant vraiment intéressés et veulent un moyen de s’engager", a déclaré Sell lors de la conférence Defcon sur le piratage informatique organisée cette semaine à Las Vegas. "Ils entendent beaucoup parler de fausses nouvelles – ce sont des choses que nous voulons leur montrer, les mécanismes exacts de la façon dont les choses fonctionnent réellement."

C’est la deuxième année que le défi de r00tz Asylum se concentre sur la politique, après que des pirates informatiques de Defcon 2018 aient appris à pirater des sites Web simulant les résultats des élections régionales.

Le défi de cette année est divisé en deux parties. Premièrement, le Voting Village enseignera aux enfants comment pirater des sites Web de financement de campagne simulés et modifier des documents. Ensuite, le village de l'intelligence artificielle travaillera avec les enfants pour créer une campagne de désinformation afin de diffuser les documents falsifiés sur un réseau social simulé.

"C'est un parcours entièrement fermé. Rien, y compris les robots que les enfants écrivent, ne touchera quoi que ce soit sur l'internet ouvert", a déclaré Win Suen, l'animateur du challenge chez AI Village.

Nous voulons surtout leur apprendre à quel point il est facile de mettre en place des robots de désinformation sur Twitter et Facebook.

Sven Cattell, responsable du village de l'IA

À l'approche de l'élection présidentielle américaine de 2020, les législateurs ont mis en garde contre les efforts de désinformation à venir. Lors d'une audience au Congrès tenue en juillet, l'ancien avocat spécial, Robert Mueller, a déclaré aux législateurs que la Russie se mêlait de la campagne 2020 "alors que nous siégeons ici".

"Ce que nous enseignons aux enfants à faire va sûrement être utilisé par les Russes et de nombreux autres pays. Ce n'est pas sorcier", a déclaré Sell.

Cela ne sera pas de la même ampleur que la campagne de désinformation de 2016 en Russie, qui consistait en un effort de 35 millions de dollars et 13 acteurs étatiques dévoués inculpés par le ministère de la Justice des États-Unis. Les enfants participant à l'atelier apprendront à créer leurs propres robots et à les coder de manière à éviter les algorithmes de filtrage anti-spam, a déclaré Sven Cattell, responsable du village AI.

Les algorithmes seront une version atténuée de ce que les réseaux sociaux tels que Facebook et Twitter utilisent, car il est supposé être une expérience d'apprentissage, a-t-il noté.

"Nous voulons surtout leur apprendre à quel point il est facile de mettre en place des robots de désinformation sur Twitter et Facebook, et leur montrer comment cela pourrait fonctionner en ligne", a déclaré Cattell.

Une fois que les enfants auront compris à quel point il est simple de créer des robots, ils seront plus sceptiques quant aux campagnes de désinformation en ligne sur les réseaux sociaux, explique-t-il.

Les campagnes de désinformation utilisent fréquemment des robots pour renforcer le faux engagement avec des canulars, donnant ainsi l’impression que les contenus frauduleux sont réellement pris en charge.

Le défi

Un élément clé de l'asile de r00tz est de s'assurer que les enfants ne prennent pas ce qu'ils ont appris et qu'ils n'abusent de ce pouvoir.

À chaque session, les organisateurs examinent le code de déontologie et expliquent aux participants qu’il ne s’agit pas de techniques qu’ils devraient utiliser à des fins malveillantes. Ils soulignent les conséquences du piratage, y compris la prison, et les règles du village sont affichées tout autour de la pièce, a déclaré Sell.

Les organisateurs fourniront aux enfants un gabarit de codage et leur expliqueront comment créer des bots pour un réseau de médias sociaux simulé composé de vrais tweets utilisant des hashtags liés aux animaux de compagnie. L'objectif est de créer des robots qui twittent un hashtag dans le but de tromper l'algorithme "Recommandé" du réseau et de dépasser le hashtag de pets avec une désinformation.

C'est une véritable tactique qui peut être utilisée dans les campagnes de désinformation. L'algorithme "suggéré" de Facebook a été amené à recommander à plusieurs reprises des canulars aux gens.

À mesure que le défi se poursuivra, les organisateurs d'AI Village ajouteront des filtres anti-spam plus difficiles, et les enfants devront trouver des solutions. Mais les robots créés pour le challenge ne fonctionneraient probablement pas sur les réseaux sociaux aujourd'hui, explique Cattell.

"Cela aurait peut-être fonctionné en 2007", a-t-il déclaré. "La détection de spam est plus avancée maintenant, elle les arrêterait probablement toutes."

Chaque équipe sera autorisée à avoir trois robots. Les participants pourront ensuite voir les résultats changer en temps réel sur un grand écran, comme s'il s'agissait d'une véritable campagne de désinformation.

Bien que le défi soit une version réduite de la propagation de la désinformation, les organisateurs estiment que les leçons sont tout aussi importantes.

"Ce que nous faisons est un peu analogue aux karts à pédales pour enfants", a déclaré Suen. "Tout est fait sur un parcours fermé, avec des fonctionnalités de sécurité supplémentaires et une supervision par un adulte. Le parcours est également beaucoup plus facile et plus contrôlé que tout ce qu'un conducteur rencontre dans le monde réel, mais j'espère que les enfants s'amuseront et apprendront aussi quelque chose."

Chargez plus d'articles en relation
Chargez plus par Camaractu
CHargez plus dans High-Tech

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Regardez aussi

Les fans de Star Trek ne sont pas satisfaits du nouveau logo de l’US Space Force

Une paume de visage de Star Trek: le capitaine Picard de la prochaine génération. Primordi…