Accueil High-Tech Un modèle d'IA crée de faux discours onusiens qui sont terriblement réels

Un modèle d'IA crée de faux discours onusiens qui sont terriblement réels

0
0
  • NATURE'S PLUS Source de vie adulte Adultes NATURE'S PLUS 90 comp Maintient en bonne santé et redonne forme et tonus à tous ceux qui sont fatigués.
      Le Source de Vie Adulte de Nature's Plus réunit 45 nutriments : 14 vitamines, 9 minéraux, 3 enzymes, 4 bioflavonoïdes, 4 acides gras mono et polyinsaturés, 4 bases nutritives, 11 bases végétales (astragale, schisandra, orge, échinacée, thym, mousse d?Irlande) et 2 pigments. Source de Vie Adulte est un
  • WEBSILOR Grue d'atelier porte-à-faux électrique et rotative - Modèle : Elévation et
    Outillage Levage et travail en hauteur Treuil, cric, palan et accessoires Grue d'atelier WEBSILOR, Grue d'atelier à porte à faux électrique • Grande précision de positionnement • Capacité de 500 kg et poids de lestage intégré • Mât sur tourelle rotative avec 8 positions de blocage • Livré

Les discours générés par l'IA s'ajoutent aux préoccupations concernant les fausses nouvelles.

James Martin / Camaraderielimited

Selon une étude publiée cette semaine, il ne faut qu'une demi-journée à un modèle d'IA pour apprendre à écrire des faux discours de l'ONU.

Le modèle linguistique à code source ouvert, formé à l'aide du texte Wikipedia et des transcriptions de plus de 7 000 discours prononcés à l'Assemblée générale des Nations Unies, pouvait facilement imiter les discours sur le ton des dirigeants politiques, selon les chercheurs des Nations Unies Joseph Bullock et Miguel Luengo-Oroz .

Les chercheurs ont déclaré qu'ils n'avaient qu'à alimenter le modèle en quelques mots pour qu'il puisse générer des textes cohérents et générés "de haute qualité". Par exemple, lorsque les chercheurs ont nourri le modèle, "le Secrétaire général a fermement condamné les attentats terroristes meurtriers perpétrés à Mogadiscio", le modèle a généré un discours montrant le soutien à la décision de l'ONU. Les chercheurs ont déclaré que le texte de l'IA était presque impossible à distinguer du texte créé par l'homme.

Mais tous les résultats ne valent pas la peine d'être applaudis. Un changement de quelques mots peut faire la différence entre un discours diplomatique et une diatribe haineuse.

Les chercheurs ont souligné que les modèles de langage peuvent être utilisés à des fins malveillantes. Par exemple, lorsque les chercheurs ont alimenté le modèle avec une phrase inflammatoire telle que "Les immigrés sont à blâmer", cela a généré un discours discriminatoire selon lequel les immigrés présumés sont à blâmer pour la propagation du VIH / sida.

À une époque marquée par la crise politique, l’étude ajoute aux inquiétudes concernant les fausses informations. L'accessibilité des données facilite l'utilisation de l'intelligence artificielle par un plus grand nombre de personnes pour générer de faux textes, ont déclaré les chercheurs. Cela ne leur a pris que 13 heures et 7,80 $ pour former le modèle.

"Surveiller et répondre aux discours de haine automatisés – qui peuvent être diffusés à grande échelle et qui sont souvent impossibles à distinguer du discours humain – devient de plus en plus difficile et nécessitera de nouveaux types de contre-mesures et de stratégies tant au niveau technique que réglementaire", les chercheurs ont déclaré dans l'étude.

Certains groupes de recherche sur l'intelligence artificielle, tels que OpenAI, une organisation à but non lucratif soutenue par Elon Musk, se sont abstenus de publier des modèles avancés de génération de texte par crainte d'une utilisation malveillante.

Les chercheurs n'ont pas immédiatement répondu à une demande de commentaire supplémentaire sur l'étude de cas.

Lecture en cours:
                        Regarde ça:
                    
                    C'est ainsi que l'IA biaisée pourrait rapidement devenir un gros problème

3:48

  • WEBSILOR Grue d'atelier porte-à-faux électrique et rotative - Modèle : Elévation
    Outillage Levage et travail en hauteur Treuil, cric, palan et accessoires Grue d'atelier WEBSILOR, Grue d'atelier à porte à faux électrique • Grande précision de positionnement • Capacité de 500 kg et poids de lestage intégré • Mât sur tourelle rotative avec 8 positions de blocage • Livré
  • Catalyons Marathonyon 500ml Les Catalyons sont des catalyseurs indiscutables qui interviennent personnellement dans les diverses synthèses et régulations cellulaires nécessaires au maintien de la vie.
    Contenance : 500 ml Utilisation : 1 bouchon le matin à jeun ou 15 min avant le repas. 1 à 2 fois par jour. Avaler sans diluer. Les Catalyons sont des oligo-éléments naturels ionisés. Ils sont formés d'ions libres en solution dans l'eau purifiée dont la concentration est liée à la solubilité de l'élément.Les
Chargez plus d'articles en relation
Chargez plus par Camaractu
CHargez plus dans High-Tech

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Regardez aussi

Les propriétaires de Chevy Bolt EV verront les informations de la station de charge en temps réel

Les entreprises poursuivent leurs efforts pour simplifier la recharge des véhicules électr…