Accueil High-Tech Un modèle d'IA crée de faux discours onusiens qui sont terriblement réels

Un modèle d'IA crée de faux discours onusiens qui sont terriblement réels

0
0
  • Websilor - Grue d'atelier porte-à-faux électrique et rotative - Modèle :
    Outillage Levage et travail en hauteur Treuil, cric, palan et accessoires Grue d'atelier WEBSILOR, Grue d'atelier à porte à faux électrique • Grande précision de positionnement • Capacité de 500 kg et poids de lestage intégré • Mât sur tourelle rotative avec 8 positions de blocage • Livré
    9 659,52 € 10 732,80 € -10%
  • MANTA 2300x900x6mm feuille de Decking de bateau de mousse d'EVA de faux teck de
    Outillage Matériel et aménagement de l'atelier Manutention et transport Tapis de sécurité MANTA, Caractéristiques: -100% tout neuf et de haute qualité -Les feuilles de faux teck en mousse EVA antidérapante offrent un confort inégalé et une traction exceptionnelle - même lorsqu'elles sont
    46,65 € 78,37 € -40%

Les discours générés par l'IA s'ajoutent aux préoccupations concernant les fausses nouvelles.

James Martin / Camaraderielimited

Selon une étude publiée cette semaine, il ne faut qu'une demi-journée à un modèle d'IA pour apprendre à écrire des faux discours de l'ONU.

Le modèle linguistique à code source ouvert, formé à l'aide du texte Wikipedia et des transcriptions de plus de 7 000 discours prononcés à l'Assemblée générale des Nations Unies, pouvait facilement imiter les discours sur le ton des dirigeants politiques, selon les chercheurs des Nations Unies Joseph Bullock et Miguel Luengo-Oroz .

Les chercheurs ont déclaré qu'ils n'avaient qu'à alimenter le modèle en quelques mots pour qu'il puisse générer des textes cohérents et générés "de haute qualité". Par exemple, lorsque les chercheurs ont nourri le modèle, "le Secrétaire général a fermement condamné les attentats terroristes meurtriers perpétrés à Mogadiscio", le modèle a généré un discours montrant le soutien à la décision de l'ONU. Les chercheurs ont déclaré que le texte de l'IA était presque impossible à distinguer du texte créé par l'homme.

Mais tous les résultats ne valent pas la peine d'être applaudis. Un changement de quelques mots peut faire la différence entre un discours diplomatique et une diatribe haineuse.

Les chercheurs ont souligné que les modèles de langage peuvent être utilisés à des fins malveillantes. Par exemple, lorsque les chercheurs ont alimenté le modèle avec une phrase inflammatoire telle que "Les immigrés sont à blâmer", cela a généré un discours discriminatoire selon lequel les immigrés présumés sont à blâmer pour la propagation du VIH / sida.

À une époque marquée par la crise politique, l’étude ajoute aux inquiétudes concernant les fausses informations. L'accessibilité des données facilite l'utilisation de l'intelligence artificielle par un plus grand nombre de personnes pour générer de faux textes, ont déclaré les chercheurs. Cela ne leur a pris que 13 heures et 7,80 $ pour former le modèle.

"Surveiller et répondre aux discours de haine automatisés – qui peuvent être diffusés à grande échelle et qui sont souvent impossibles à distinguer du discours humain – devient de plus en plus difficile et nécessitera de nouveaux types de contre-mesures et de stratégies tant au niveau technique que réglementaire", les chercheurs ont déclaré dans l'étude.

Certains groupes de recherche sur l'intelligence artificielle, tels que OpenAI, une organisation à but non lucratif soutenue par Elon Musk, se sont abstenus de publier des modèles avancés de génération de texte par crainte d'une utilisation malveillante.

Les chercheurs n'ont pas immédiatement répondu à une demande de commentaire supplémentaire sur l'étude de cas.

Lecture en cours:
                        Regarde ça:
                    
                    C'est ainsi que l'IA biaisée pourrait rapidement devenir un gros problème

3:48

  • MYCS Étagère murale - Vert d'eau, modèle moderne, placard, avec porte Vert d'eau - 154 x 80 x 47 cm, modulable
    Une étagère murale stylée en MDF Vert d'eau avec de multiples possibilités de rangement. Dimensions: Largeur 154 x Hauteur 80 x Profondeur 47. Vous rêvez d'une étagère murale sur-mesure qui saura mettre en valeur vos romans et vos beaux-livres? Chez MYCS, nous vous proposonsde concevoir la bibliothèque qui
    572,00 € 880,00 € -35%
  • Les Poulettes Bijoux Boucles d'Oreilles Argent et Plaqué Or Lanterne et Swarovski - Petit Modèle - Beige
    Boucles d'oreilles argent et swarovski sont une création de Maryla Dubiel, épurées et élégantes, un objet original. Crochet pour oreilles perçées composées d'une forme de lanterne argent et plaqué or (4cm x 1cm) avec en son centre une perle swarovski (6mm). Hauteur boucles 5,6 cm. Bijou livré dans son écrin
    99,00 € 110,00 € -10%
Charger plus d'articles connexes
Charger plus dans High-Tech