Accueil High-Tech YouTube a promis de suspendre les commentaires sur les vidéos pour enfants. Ça n'a pas

YouTube a promis de suspendre les commentaires sur les vidéos pour enfants. Ça n'a pas

0
0

YouTube a annoncé son intention de resserrer sa politique concernant les vidéos destinées aux enfants mercredi.

Getty Images

YouTube est sur le point de repositionner la façon dont son énorme service de vidéo en ligne traite les clips destinés aux enfants. Après une amende record de 170 millions de dollars, annoncée mercredi, pour violation de la confidentialité des données personnelles des enfants, YouTube s'est engagé à désactiver les commentaires, les notifications et les annonces personnalisées sur toutes les vidéos destinées aux enfants. Et son système d'apprentissage automatique va contrôler le vaste catalogue de YouTube afin de garder les vidéos pour enfants en ligne, a annoncé la société.

Un problème: l'apprentissage automatique de YouTube était supposé suspendre les commentaires sur les vidéos mettant en vedette de jeunes mineurs. Ça n'a pas.

Il est encore facile de trouver des vidéos activées par des commentaires sur les jeunes enfants sur YouTube. Une seule recherche YouTube sur un sujet destiné aux enfants – "faire semblant" – a généré plus de 100 vidéos avec commentaires activés, toutes mettant en évidence des nourrissons, des enfants d’âge préscolaire et d’autres enfants assez jeunes pour avoir encore des dents de lait.

Après que Camaraderielimited ait contacté YouTube avec une liste de ces vidéos, les commentaires ont été désactivés sur près de la moitié d'entre elles.

"Nous investissons beaucoup dans les équipes et les technologies qui nous permettent de fournir aux mineurs et aux familles la meilleure protection possible", a déclaré la porte-parole de YouTube, Ivy Choi. "Nous avons suspendu les commentaires sur des centaines de millions de vidéos de mineurs dans des situations à risque et mis en place un classificateur qui nous permet de supprimer deux fois plus de commentaires violents. Nous continuons à désactiver les commentaires sur des centaines de milliers de vidéos par jour et à améliorer nos classificateurs. "

Lecture en cours:
                        Regarde ça:
                    
                    Le gouvernement devrait-il briser les grandes technologies? (La charge quotidienne …

6h51

Avec 2 milliards d'utilisateurs mensuels, YouTube est la plus grande source de vidéos en ligne au monde. En fait, c'est la première source mondiale de vidéos pour enfants. Le contenu pour enfants est l'une des catégories les plus regardées, mais YouTube a été la cible de nombreux scandales impliquant des enfants. Cette pénalité de 170 millions de dollars concernait les données collectées par YouTube sur des enfants sans le consentement de leurs parents. Mais YouTube a également fait face à des scandales impliquant des vidéos de maltraitance et d'exploitation d'enfants et de contenu cauchemardesque dans son application YouTube pour enfants, présentée comme une zone protégée pour les enfants.

Les difficultés rencontrées par YouTube pour gérer le contenu destiné aux enfants ne sont qu'un des problèmes du défilé auquel le site appartenant à Google a été confronté ces dernières années, notamment des accusations selon lesquelles il multiplie les discours de haine, répand les théories du complot et discrimine certains créateurs. L'une des grandes entreprises de technologie de Google est confrontée à des questions croissantes quant à son pouvoir. Le ministère de la Justice a lancé une enquête antitrust sur les grandes technologies.

En février, YouTube avait annoncé la désactivation des commentaires sur les vidéos de jeunes enfants à la suite du tollé suscité par un cercle de pédophilie softcore. Certaines vidéos mettant en vedette de jeunes enfants comprenaient des commentaires comportant des liens prédateurs. En cliquant sur les liens, les téléspectateurs seraient transportés vers d'autres moments de la vidéo YouTube avec une mineure en position de suggestion sexuelle. Et une fois que vous êtes tombé dans ce trou de lapin, l'algorithme de recommandation de YouTube est apparu pour vous nourrir davantage.

YouTube a donc annoncé la suspension des commentaires sur les vidéos mettant en vedette des mineurs de 13 ans et moins, ainsi que sur des vidéos mettant en scène des mineurs plus âgés risquant d’attirer les prédateurs. Les changements se produiraient "au cours des prochains mois", avait alors déclaré YouTube. YouTube ferait une exception pour "un petit nombre de chaînes qui modèrent activement leurs commentaires et prennent des mesures supplémentaires pour protéger les enfants", avait annoncé la compagnie à l'époque.

Ce que nous avons trouvé

Six mois plus tard, la seule recherche de Camaraderielimited a trouvé plus de 100 vidéos postées au cours du dernier mois par plus de 100 chaînes différentes. Ils ont tous mis en vedette de jeunes enfants – bébés, enfants en bas âge et enfants clairement pas plus âgés que les élèves du primaire. Tous avaient des commentaires activés.

Les vidéos allaient de clips avec presque aucune vue sur des chaînes sans abonnés à des vidéos visionnées près de 23 millions de fois. Une vidéo contenait 1 750 commentaires. Plusieurs vidéos montrent des enfants vêtus de vêtements limités, comme une jeune fille en maillot de bain ou un bébé dans une couche.

Quoi qu'ils fassent, ça ne sera jamais parfait.

Christo Wilson, professeur à la Northeastern University

Sur plus de 100 vidéos, YouTube a suspendu les commentaires de 48 d'entre elles après que Camaraderielimited ait fourni une liste de liens – la vidéo contenant 1 750 commentaires en faisait partie. Généralement, ces vidéos contenant des commentaires récemment désactivés ne comportaient aucun adulte filmé. YouTube a déclaré que la surveillance par un adulte est l’une des nombreuses choses qu’elle évalue lorsqu’elle désactive les commentaires.

La plupart des commentaires sur ces vidéos semblaient innocents: émojis cœur-oeil, éloge de l'adorableness ou commentaires sur les jouets.

Mais de temps en temps, on levait les sourcils: une vidéo de trois filles mangeant des sucettes et jouant dans des manèges, par exemple, comportait deux commentaires au total. L'un d'eux a été posté par un compte avec un avatar à croix gammée portant le nom "Nazi kurde". Le commentaire, traduit du kurde, semblait faire référence à bitcoin.

(YouTube a désactivé les commentaires sur cette vidéo après la diffusion de Camaraderielimited, ce qui a effacé le commentaire nazi kurde du public.)

Autres recherches ont trouvé des vidéos YouTube d’enfants plus âgés portant des vêtements épars. Le scandale de la pédophilie en début d'année avait été déclenché par un vlogger dénonçant des liens prédateurs après avoir recherché le terme "bikini hul". En réponse, YouTube a déclaré qu'il suspendrait également les commentaires sur les vidéos mettant en vedette des enfants âgés de 14 à 17 ans si le sujet présentait un potentiel d'abus.

Une recherche de vidéos "teen bikini hul" postées le mois dernier a renvoyé une vidéo d'une fille s'identifiant elle-même âgée de 16 ans et portant différents maillots de bain. Il a 75 commentaires. Une autre personne a été influencée par un influenceur qui révèle son âge – 17 ans – et sa date de naissance dans la description de la vidéo. Sa vidéo, montrant plus d'une douzaine de costumes en deux pièces, contient 309 commentaires, dont un lui demandant de "montrer votre douce Tushy non censurée".

"Quel est l'intérêt d'un essai si vous ne montrez pas vos fesses ??", a écrit un autre. "Tu n'es pas nue, et tu les portes en public, en toute légalité … bon courage … gaspillage de bande passante."

Machines d'apprentissage des mineurs

L'une des difficultés rencontrées dans l'utilisation d'algorithmes pour contrôler les vidéos avec des mineurs réside dans le fait qu'aucune technologie ne peut tout capturer, ont déclaré des experts en apprentissage automatique.

"Quoi qu'ils fassent, ça ne sera jamais parfait", a déclaré Christo Wilson, professeur d'informatique à la Northeastern University. "Nous devons simplement accepter qu'un adulte puisse être considéré comme un enfant ou ne le voit pas. Peu importe leur apprentissage en machine, ils doivent avoir une sorte de processus humain en coulisse."

YouTube a plus de 10 000 modérateurs humains chargés d'adresser des vidéos enfreignant l'une de ses règles.

Nous investissons considérablement dans les équipes et les technologies qui nous permettent d’offrir aux mineurs et aux familles la meilleure protection possible.

Ivy Choi, porte-parole de YouTube

L'échelle de YouTube, où 500 heures de vidéo sont téléchargées chaque minute, ajoute au défi. Même si le taux de réussite de l'apprentissage automatique de YouTube est bas, le nombre de vidéos qu'il ne parvient pas à capturer restera important.

"Vous n'avez peut-être qu'une aiguille dans une botte de foin. Mais ajoutez de plus en plus de bottes de foin, et il sera plus facile pour quelqu'un de la trouver", a déclaré Christian Shelton, professeur d'informatique à l'université de Californie, Riverside. "La technologie ne sera jamais parfaite. Aucune autre solution ne serait parfaite non plus, mais vous ne devriez pas laisser la technologie de côté."

L'échelle de Google et de YouTube joue en sa faveur à certains égards. Les algorithmes ont besoin de données pour apprendre, et YouTube contient plus de vidéos et de données à ce sujet que quiconque. L'apprentissage automatique de la vidéo, qui considère essentiellement les vidéos comme des collections d'images fixes, requiert également un niveau de puissance de calcul plus pratique pour une entreprise disposant des ressources de Google.

Et l'un des changements de politique annoncés la semaine dernière par YouTube pourrait aider à améliorer son apprentissage automatique. Dans le cadre de son accord avec la FTC, YouTube exigera que les téléchargeurs identifient des vidéos "faites pour les enfants", a-t-il déclaré, introduisant de manière efficace davantage d'étiquettes sur ses données.

Les algorithmes ont besoin d’annotations comme celles-ci pour apprendre, et plus le contenu traité est volumineux, plus elles sont nécessaires, selon Arnav Jhala, professeur d’informatique à North Carolina State University. Les algorithmes recherchent des modèles et des corrélations entre les étiquettes et les entités visibles dans les cadres.

"Plus ils auront d'étiquettes, plus ils auront de corrélation et, sur une vidéo non étiquetée, les algorithmes auront une plus grande précision", a-t-il déclaré. "Mais vous avez presque affaire à un adversaire de l'autre côté."

C'est-à-dire que certains téléchargeurs ont des raisons de mal identifier leurs vidéos.

Les trolls, par exemple, pourraient confondre les contenus inappropriés avec des vidéos pour enfants, dans le but de dissimuler des images sensibles devant leurs yeux. Auparavant, YouTube présentait des exemples de vidéos pour enfants comportant des astuces d'auto-agression. Une tendance de soi-disant vidéos "adaptées aux enfants" sur YouTube dans lesquelles des personnages familiers s'adonnent à un comportement étrange, violent ou dérangeant a reçu son propre surnom: Elsagate. Des données mal étiquetées pollueraient l'information en formant un algorithme d'apprentissage automatique.

Au-delà de cela, la vidéo qui cible un public d'enfants est "assez vague comme une directive" pour donner un algorithme, a déclaré Wilson.

Et les résultats de YouTube jusqu'à présent, selon Wilson? "Pas génial."

  • Gaja Promis Ca' Marcanda 2017 Gaja
    The decision to experiment in Tuscany, was taken by Angelo Gaja around the mid-eighties when it became clear the need…
  • 2 Décorations à suspendre Rock'n roll 85 cm Taille Unique
    Ce lot comprend deux décorations Rock'n Roll.    Elles se forment d'une spirale rouge ou d'une spirale bleue en plastique…
  • APC - Câble d'alimentation - IEC 60320 C20 pour IEC 60309 16A (F) - CA 230 V - 16 A - 2.5 m - noir - pour P/N: SUVTR30KH3B5S, SUVTR30KH5B5S, SUVTR30KHS, SUVTR40KH4B5S, SUVTR40KH5B5S, SUVTR40KHS
    - Offre exclusivement réservée aux professionnels
  • Cap Adrénaline Animation d'anniversaire pour enfant à domicile sur Cannes et l'Alpes-Maritimes
    Faites venir à votre domicile un comédien qui s'occupera d'animer son anniversaire selon le thème désiré à Cannes et l'Alpes-Maritimes.
Chargez plus d'articles en relation
Chargez plus par Camaractu
CHargez plus dans High-Tech

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Regardez aussi

Faites la connaissance des mamans qui nagent avec des serpents de mer mortels

Deux grand-mères fantastiques plongent autour d'un grand serpent de mer, photographian…