de l’ingénierie manuelle des caractéristiques aux réseaux de neurones qui suralimentent la reconnaissance faciale a également produit un marché pour les informations faciales sans réglementation ni surveillance, causant une foule de problèmes, selon un chercheur et activiste.
« Scientists Gone Wild : comment notre visage a propulsé la montée des innovations en matière de surveillance biométrique » a existé par Adam Harvey, scientifique basé à Berlin et fondateur de CV Dazzle. Harvey est également co-fondateur d’Exposing.ai, un outil en ligne qui peut informer les individus si leurs images ont effectivement été utilisées dans la formation de modèles de reconnaissance faciale.
La présentation a été organisée et parrainée par le Center for Ethics, Society and Computing (ESC) de l’Université du Michigan.
L’intérêt de Harvey pour La reconnaissance faciale et la sécurité ont été étayées par ses expériences en tant que photographe à New York, au moment même où les caméras commençaient à se multiplier comme jamais auparavant dans les téléphones portables. Cela a coïncidé avec l’augmentation de l’intérêt et du financement de la recherche sur la biométrie pour les applications de sécurité après le 11 septembre.
La reconnaissance faciale était principalement confinée à des scénarios de capture contrôlée, et les algorithmes pas encore assez sophistiqué pour une large application.
« Un surplus de données publiées en ligne composé d’informations biométriques et un besoin croissant de nouvelles technologies biométriques » assemblés comme source d’ensembles de données, déclare Harvey.
L’introduction d’algorithmes de biométrie faciale basés sur des réseaux de neurones convolutifs a créé une demande inégalée de données faciales, et Internet, explique Harvey, a offert la chaîne d’approvisionnement.
Labellisé Faces in the Wild était un précédent ensemble de données, soutient-il, pas même s’il offrait les informations qui permettraient aux réseaux de neurones d’automatiser la partie ingénierie des fonctionnalités du travail de formation de l’algorithme. Cela a également créé un précédent sur le plan éthique, selon Harvey.
Différents ensembles de données ont donc été développés, un certain nombre d’entre eux avec « in the Wild » dans leur titre.
Un article de fin de session l’ensemble de données entraînerait d’autres ensembles de données, déclare-t-il, dont certains ne sont pas rapidement disponibles.
L’ensemble de données Duke MTMC a déplacé le processus de collecte de données hors ligne et « a fini par être le plus populaire et le plus utilisé , dans le monde, ensemble de données pour multi-cibles multi-caméras » avec de nombreuses citations.
De nombreux autres ensembles de données ont suivi la même conception de capture d’images CCTV à des fins d’étude de recherche.
« Isn n’est-ce pas appelé ‘CCTV’ ? Télévision en circuit fermé ? Et maintenant, c’est sur Internet », déclare Harvey.
Le consentement n’a presque jamais été demandé pour ces bases de données, dit Harvey, et même lorsqu’il l’était, les scientifiques se composait toujours d’images de personnes qui ne l’avaient pas accordée.
Il examine le développement continu d’ensembles de données, tels que MegaFace, qui a mis à l’échelle l’approche de grattage d’Internet pour atteindre 67 2 000 visages.
En 2017, Google et Facebook disposaient d’ensembles de données d’environ 8 et 10 millions de visages, respectivement.
Harvey a partagé une diapositive imaginant l’extension de l’ensemble de données Duke MTMC à d’autres chercheurs. dans le monde entier pour un usage commercial, scolaire et militaire.
La réaction se développe
Lorsque Duke a discrètement retiré l’ensemble de données hors ligne, déclare Harvey, c’était un aveu implicite de regret.
CVPR 2019, qui devait être basé sur l’utilisation de l’ensemble de données Duke MTMC, a été annulé « en raison du fait que l’ensemble de données était désormais dans les limbes juridiques ». MTMC a été remplacé par ReID, qui a été collecté en Chine, pour permettre la tenue de la conférence.
Les ensembles de données basés sur des licences Creative Commons ont une certaine défense juridique, même dans les cas où ils sont utilisés à des fins commerciales, ce qui brise vraiment les limites du CC, dit Harvey. De même, elles ne sont généralement pas associées, ce qui est requis par la licence sous laquelle elles sont utilisées.
La source la plus courante d’images dans ces ensembles de données est les mariages, a en fait découvert Harvey.
A peu d’entre eux peuvent avoir eu lieu dans l’Illinois, auquel cas un ensemble de données comme MegaFace enfreint probablement le BIPA, prévient Harvey. L’existence d’enfants de Californie pourrait augmenter la responsabilité de la COPPA.
Harvey reconnaît un modèle. « Il s’agit simplement d’utiliser le manuel de jeu impur habituel consistant à prendre les données d’autres personnes, puis à les réutiliser pour quelque chose de différent, et à les utiliser pour d’autres fonctions », dit-il. « Et vous vous retrouvez avec une reconnaissance faciale vraiment biaisée ou inepte qui est dangereuse, incorrecte et qui devrait être, honnêtement, illégale. »
Les ensembles de données qui entraînent moins de biais et une plus grande précision développent toujours une « asymétrie de puissance » qui est indésirable, selon Harvey.
Dans sa nouvelle tâche, Harvey utilise des données synthétiques et des objets imprimés en 3D pour produire un ensemble de données de formation pour trouver des armes à sous-munitions, dont les images ne sont pas disponibles sur Internet à grande échelle.
Les participants ont posé des questions sur les équivalents d’autres lieux de recherche gourmands en données, sur la façon de faire comprendre au grand public le niveau de problème qu’ils devraient avoir concernant la reconnaissance faciale et le partage d’informations, et s’il est même judicieux de partager quoi que ce soit en ligne.
Sur ce dernier point, Harvey déclare que la communauté doit aider les représentants légaux à développer de bien meilleures licences, « et nous avons très probablement besoin de quelques recours collectifs pour avoir lieu. »
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
