Accueil High-Tech La technologie faciale d'Amazon montre le genre et les préjugés raciaux, selon une étude du MIT

La technologie faciale d'Amazon montre le genre et les préjugés raciaux, selon une étude du MIT

0
0
  • Pompe à chaleur de piscine Inverter NOVARDEN NSH95i pour bassins jusqu'à 40m3
  • Générateur De Brouillard Opacifiant 1500m3

Roberto Machado Noa / Getty Images

La technologie faciale d'Amazon a eu plus de mal à reconnaître le sexe des femmes à la peau plus sombre et a commis plus d'erreurs d'identification du genre en général que les technologies concurrentes de Microsoft et d'IBM, selon une étude du MIT publiée jeudi.

Le logiciel de reconnaissance d'Amazon a incorrectement identifié les femmes comme des hommes 19% du temps, selon l'étude. De plus, 31% du temps, les femmes à la peau plus foncée étaient identifiées à tort comme des hommes. Les logiciels de Microsoft, à titre de comparaison, identifiaient les femmes à la peau plus foncée que les hommes 1,5% du temps.

Matt Wood, directeur général de l'intelligence artificielle chez Amazon Web Services, a déclaré que les résultats des tests de l'étude reposent sur une analyse faciale, et non sur une reconnaissance faciale. L'analyse, dit-il, peut trouver des visages dans des vidéos ou des images et attribuer des attributs génériques, tels que le port de lunettes. La reconnaissance, a-t-il déclaré, fait correspondre le visage d'un individu aux images contenues dans des vidéos et des photographies. La technologie Rekognition inclut ces deux fonctionnalités.

"Il n'est pas possible de tirer une conclusion sur l'exactitude de la reconnaissance faciale pour tout cas d'utilisation, y compris l'application de la loi, sur la base des résultats obtenus en utilisant l'analyse faciale", a déclaré Wood dans un communiqué.

Wood a ajouté que l'étude n'utilisait pas la dernière version de Rekognition. Amazon, utilisant une version mise à jour de Rekognition avec des données similaires, n'a trouvé aucune correspondance faussement positive, explique Wood.

Deborah Raji, une auteur de l'étude, a déclaré qu'elle et sa co-auteure, Joy Buolamwini, comprenaient la distinction entre reconnaissance faciale et analyse faciale.

"Nous expliquons clairement dans notre document que la tâche que nous avons choisie d'évaluer est la tâche d'analyse faciale de la classification binaire de genre", a déclaré Raji. "Cela signifie que, compte tenu du nombre de visages détectés, dans quelle mesure le modèle comprend-il ce qu'il voit?"

Dans un article publié vendredi sur son blog, Buolamwini a mis en garde les utilisateurs contre le scepticisme lorsque les entreprises affirment disposer de systèmes parfaitement précis.

"Wood déclare que la société a utilisé une large base de données de plus d'un million de visages pour tester ses capacités de reconnaissance faciale et a bien fonctionné", a écrit Buolamwini. "Bien que leur performance par rapport au repère puisse sembler louable, nous ne connaissons pas la composition démographique ou phénotypique (type de peau) détaillée de ce repère. Sans cette information, nous ne pouvons évaluer les biais, notamment le sexe, la couleur ou la couleur."

Amazon a fourni la reconnaissance aux organismes chargés de l'application de la loi, bien que des groupes de défense des libertés civiles, des membres du Congrès et les propres employés d'Amazon aient exprimé des préoccupations au sujet de la confidentialité. Plus tôt ce mois-ci, un groupe d'actionnaires a également appelé Amazon à cesser de vendre sa technologie Rekognition aux agences gouvernementales.

À la lumière de l'étude du MIT, Buolamwini a déclaré qu'il était "irresponsable" pour Amazon de continuer à vendre la technologie aux organismes chargés de l'application de la loi. La technologie d'analyse faciale peut être utilisée à mauvais escient et pourrait conduire à une surveillance de masse, a-t-elle déclaré. En outre, des inexactitudes pourraient faire en sorte que des innocents soient identifiés à tort comme des criminels.

Raji a fait écho à ce sentiment. "Si le système identifie faussement un suspect en raison de sa précision réduite sur un groupe démographique particulier", elle pourrait "être gravement préjudiciable".

Première publication le 25 janvier à 15h54 PT.
Mise à jour, 23h14: Ajoute le commentaire de Buolamwini et Raji.

  • Générateur de brouillard
  • Programmateur d'arrosage Flex GARDENA - 1890-34
Chargez plus d'articles en relation
Chargez plus par Camaractu
CHargez plus dans High-Tech

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Regardez aussi

Les propriétaires de Chevy Bolt EV verront les informations de la station de charge en temps réel

Les entreprises poursuivent leurs efforts pour simplifier la recharge des véhicules électr…