Accueil High-Tech Un modèle d'IA crée de faux discours onusiens qui sont terriblement réels

Un modèle d'IA crée de faux discours onusiens qui sont terriblement réels

0
0

Les discours générés par l'IA s'ajoutent aux préoccupations concernant les fausses nouvelles.

James Martin / Camaraderielimited

Selon une étude publiée cette semaine, il ne faut qu'une demi-journée à un modèle d'IA pour apprendre à écrire des faux discours de l'ONU.

Le modèle linguistique à code source ouvert, formé à l'aide du texte Wikipedia et des transcriptions de plus de 7 000 discours prononcés à l'Assemblée générale des Nations Unies, pouvait facilement imiter les discours sur le ton des dirigeants politiques, selon les chercheurs des Nations Unies Joseph Bullock et Miguel Luengo-Oroz .

Les chercheurs ont déclaré qu'ils n'avaient qu'à alimenter le modèle en quelques mots pour qu'il puisse générer des textes cohérents et générés "de haute qualité". Par exemple, lorsque les chercheurs ont nourri le modèle, "le Secrétaire général a fermement condamné les attentats terroristes meurtriers perpétrés à Mogadiscio", le modèle a généré un discours montrant le soutien à la décision de l'ONU. Les chercheurs ont déclaré que le texte de l'IA était presque impossible à distinguer du texte créé par l'homme.

Mais tous les résultats ne valent pas la peine d'être applaudis. Un changement de quelques mots peut faire la différence entre un discours diplomatique et une diatribe haineuse.

Les chercheurs ont souligné que les modèles de langage peuvent être utilisés à des fins malveillantes. Par exemple, lorsque les chercheurs ont alimenté le modèle avec une phrase inflammatoire telle que "Les immigrés sont à blâmer", cela a généré un discours discriminatoire selon lequel les immigrés présumés sont à blâmer pour la propagation du VIH / sida.

À une époque marquée par la crise politique, l’étude ajoute aux inquiétudes concernant les fausses informations. L'accessibilité des données facilite l'utilisation de l'intelligence artificielle par un plus grand nombre de personnes pour générer de faux textes, ont déclaré les chercheurs. Cela ne leur a pris que 13 heures et 7,80 $ pour former le modèle.

"Surveiller et répondre aux discours de haine automatisés – qui peuvent être diffusés à grande échelle et qui sont souvent impossibles à distinguer du discours humain – devient de plus en plus difficile et nécessitera de nouveaux types de contre-mesures et de stratégies tant au niveau technique que réglementaire", les chercheurs ont déclaré dans l'étude.

Certains groupes de recherche sur l'intelligence artificielle, tels que OpenAI, une organisation à but non lucratif soutenue par Elon Musk, se sont abstenus de publier des modèles avancés de génération de texte par crainte d'une utilisation malveillante.

Les chercheurs n'ont pas immédiatement répondu à une demande de commentaire supplémentaire sur l'étude de cas.

Lecture en cours:
                        Regarde ça:
                    
                    C'est ainsi que l'IA biaisée pourrait rapidement devenir un gros problème

3:48

  • WEBSILOR Grue d'atelier porte-à-faux électrique et rotative - Modèle : Elévation
    Outillage Levage et travail en hauteur Treuil, cric, palan et accessoires Grue d'atelier WEBSILOR, Grue d'atelier à porte à faux…
  • WEBSILOR Grue d'atelier porte-à-faux électrique et rotative - Modèle : Elévation et
    Outillage Levage et travail en hauteur Treuil, cric, palan et accessoires Grue d'atelier WEBSILOR, Grue d'atelier à porte à faux…
  • Celle Qui M'a Emmené, Le Mal D'amour Et Le Robot, Fais-Moi L'amour Pas La Guerre, Je Veux T'aimer J'veux Pas Mourir / Atals, Les Fils S'en Vont, Y'a Pas De Vrai Malheur Il Y A Qu'de Faux Problèmes
    Achetez ce produit et cumulez des SuperPoints à dépenser sur PriceMinister! Retrouvez tout l'univers musique_vinyle au meilleur prix sur PriceMinister.…
  • Modèle d'expo : Chaise design Rhonda - Vert - Extérieur - Relevable
    Jardin piscine Mobilier de jardin et jeux Mobilier de jardin Chaise de jardin MYYOUR, Cette chaise a été crée pour…
Chargez plus d'articles en relation
Chargez plus par Camaractu
CHargez plus dans High-Tech

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Regardez aussi

Amazon Modern Love Series évite le cynisme ou la certitude

Anne Hathaway et Gary Carr se rencontrent joliment dans une épicerie. Vidéo Amazon Prime M…