Accueil High-Tech Amazon a juste tranquillement invité le gouvernement à «peser» sur la reconnaissance faciale

Amazon a juste tranquillement invité le gouvernement à «peser» sur la reconnaissance faciale

0
0

Chris Monroe / Camaraderielimited

Lorsque le système controversé de reconnaissance faciale d'Amazon a confondu par erreur 28 membres du Congrès avec des criminels, cela a fait beaucoup de bruit. Particulièrement parmi certains de ces membres du Congrès, qui ont exigé des réponses immédiates.

Maintenant, Amazon a publié un post de blog officiel contestant les résultats de ce test – celui qui comprend un message plutôt intéressant à la toute fin.

Un message qui suggère qu'Amazon, comme Microsoft, peut croire que le gouvernement américain devrait peser sur la reconnaissance faciale – que ce n'est pas le travail d'Amazon à la police. Mais aussi un message qui peut m'obliger à expliquer quelques choses.

L'ACLU a comparé tout le Congrès à une base de données de 25 000 clichés criminels utilisant le produit Rekognition d'Amazon. Ce fut le résultat – aux paramètres par défaut.

ACLU

Jeudi, Amazon avait déjà dit à Camaraderielimited qu'il ne croyait pas que le test de reconnaissance du visage de Rekognition de l'American Civil Liberties Union (ACLU) était complètement juste – en grande partie parce que l'ACLU utilisait l'outil à 80% par défaut. l'établissement d'un niveau de confiance, par opposition au paramètre de 95% et plus recommandé par Amazon aux organismes d'application de la loi.

(En anglais courant: Même si le système d'Amazon était à seulement 80% sûr qu'un membre du Congrès ressemblait à un criminel, il le dirait quand il serait testé de cette façon, à moins que vous ne changiez le réglage.)

L'ACLU a répliqué que la police pourrait facilement faire la même chose: 80% est le réglage par défaut, il n'y a pas d'instructions pour dire à un organisme d'application de la loi d'utiliser un paramètre différent – et l'ACLU croit simplement que le logiciel de reconnaissance faciale est trop facile pour les gouvernements d'abuser.

(Vous pouvez lire une explication plus détaillée ici.)

Mais vendredi, le nouveau mémo d'Amazon conteste que la société ne fournisse pas d'instructions – Amazon prétend avoir une documentation qui spécifie un niveau de confiance de 99%. (Camaraderielimited voit une mention de 99 pour cent dans la documentation d'Amazon, mais ce n'est qu'une idée passagère – pas exactement une instruction claire.)

Il ne s'agit pas seulement d'une mention évidente, mais Amazon a également un exemple distinct de schéma d'authentification des employés dans lequel le niveau de confiance par défaut de 80% semble être acceptable.

Capture d'écran par Sean Hollister / Camaraderielimited

La note souligne également que la reconnaissance faciale d'Amazon est en fait plutôt bonne, jugée par les normes de l'industrie, si elle ne correspond que 28 sur 507 membres du Congrès. Les faux positifs sont généralement acceptés dans les logiciels de reconnaissance faciale, parce que les humains reprennent là où les machines s'arrêtent.

OK, maintenant, voici la partie étrange. Vendredi après-midi, Amazon a retiré ce mémo de l'Internet – et l'a remplacé par un qui a ajouté une nouvelle phrase en bas:

«Cependant, il est très raisonnable que le gouvernement intervienne et précise la température (ou les niveaux de confiance) que les organismes d'application de la loi doivent respecter pour contribuer à leur travail de sécurité publique», peut-on lire dans la note.

Le bas du mémo Amazon, avant et après.

Capture d'écran par Sean Hollister / Camaraderielimited

Cela peut être lu au moins de différentes façons:

1) Amazon estime que le gouvernement des États-Unis devrait dire à Amazon directement (pas par la réglementation) comment il pense que son logiciel devrait fonctionner.

2) Amazon estime que le gouvernement devrait dire à ses propres organismes d'application de la loi quel niveau de confiance à utiliser lors de l'utilisation de la reconnaissance faciale. (Fondamentalement, passer la balle.)

3) Comme Microsoft, Amazon estime que le gouvernement devrait réglementer la reconnaissance faciale.

Nous ne savons pas exactement lequel est exact, mais une source proche de la question dit que non. 2 est la bonne – Amazon pense que le gouvernement devrait s'assurer qu'il utilise l'outil avec soin.

De toute façon, la balle semble être dans la cour du Congrès.

Amazon a refusé de commenter.

Dans une déclaration, l'ACLU a écrit: "Dans ses cinq étapes de chagrin sur son produit de surveillance du visage dangereux, Amazon est clairement bloqué au déni .En 48 heures, Amazon est passé de son propre système par défaut d'un taux de correspondance de 80 pour cent Il faut dire qu'Amazon devrait être à 95%, et dire aujourd'hui que ce devrait être 99%. »A aucun moment, Amazon n'a pris la moindre responsabilité pour l'impact très grave que leur produit de surveillance du visage a sur de vraies personnes.

Mise à jour, 15h38 PT: Ajout de l'instruction ACLU.

  • netatmo Caméra de surveillance intérieure connectée à reconnaissance faciale Welcome Netatmo NSC01
    La caméra connectée Welcome Netatmo détecte et alerte en temps réel en cas de présence ou d'intrusion dans votre maison.…
  • Netatmo Welcome - Caméra à reconnaissance faciale Wi-Fi avec application smartphone
    Achetez ce produit et cumulez des SuperPoints à dépenser sur PriceMinister! Retrouvez tout l'univers informatique_reseau au meilleur prix sur PriceMinister.…
Chargez plus d'articles en relation
Chargez plus par Camaractu
CHargez plus dans High-Tech

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Regardez aussi

Les co-fondateurs d'Uber vendent des millions de leurs actions dans l'entreprise

lily of the desert Gelée d'aloé véra à boire - 473 ml Lily of the desert L'actio…