utilisé par la plus grande force de police du Royaume-Uni est « extrêmement précis », mais lorsque la reconnaissance faciale en direct est utilisée à des seuils de reconnaissance faciale inférieurs, une petite différence dans l’efficacité entre certaines données démographiques a été observée, comme l’ont révélé des tests effectués par le National Physical Laboratory (NPL) du Royaume-Uni.
« Nous constatons que, si le système fonctionne à des seuils bas et faciles, le système commence à montrer une prédisposition par rapport aux hommes et aux femmes noirs combinés », a déclaré Tony Mansfield, chercheur principal au NPL. Mansfield a ajouté qu’il pensait que les autorités n’avaient pas fait fonctionner le système à ces limites.
Mansfield a fourni les résultats de l’examen préalable de NPL mardi au comité des sciences, du développement et de l’innovation avec Lindsey Chiswick, directeur du renseignement chez Met Cops dans le cadre d’une requête sur la gouvernance de l’intelligence artificielle.
Le système basé sur le NEC, utilisé par le Metropolitan Cops Service pour le maintien de l’ordre, a fini par faire l’objet d’un débat avec des groupes de défense des droits soulevant des questions sur positifs incorrects et discrimination.
L’étude de recherche sur le NEC Neoface V4 1 utilisant le détecteur de visage HD5 a commencé en 2022 pour la police métropolitaine et la police du sud du Pays de Galles avec le laboratoire pénétrant 3 cas d’utilisation policière : reconnaissance faciale en direct (LFR ), la reconnaissance faciale rétrospective (RFR) et la reconnaissance faciale initiée par l’opérateur (OIFR).
En avril, le NPL a fourni son tout premier ensemble de résultats concluant à une « amélioration considérable » de sa précision. Les autorités météorologiques ont déclaré à l’époque que l’étude du NPL sur le système de NEC avait en fait donné la confiance en soi nécessaire pour reprendre la surveillance de la reconnaissance faciale après qu’elle ait été brièvement interrompue.
Les groupes tels que Big Sibling Watch, néanmoins, ont en fait fait valoir que le taux de précision n’est pas assez élevé et ont gardé à l’esprit que le rapport ne consistait pas en des ventilations par origine ethnique.
Le dernier rapport NPL est supposé fournir plus d’informations sur la façon dont l’ethnicité affecte la reconnaissance faciale. Le test a montré que les identifications positives incorrectes augmentent à des seuils de correspondance de visage inférieurs (0,58 et 0,56) et commencent à montrer un « déséquilibre statistiquement substantiel entre les données démographiques avec plus de sujets noirs ayant un faux favorable que de sujets asiatiques ou blancs ».
« Les femmes asiatiques étaient les plus performantes – avaient le meilleur taux de reconnaissance de la démographie – et les femmes noires avaient le plus bas. Mais elles étaient vraiment très proches. »
Le système, néanmoins, n’a montré aucun biais lorsqu’il est utilisé avec une liste de surveillance de 178 000 images de remplissage à des seuils plus élevés (0,64 ou plus) sans aucun faux positif. Selon le rapport, les résultats du dépistage à limite moyenne (0,60 à 0,62) ont soulevé huit résultats positifs incorrects, mais aucun biais statistiquement significatif dans la démographie.
Michael Birtwistle de l’Institut Ada Lovelace, néanmoins, gardé à l’esprit tout au long de la session a jugé par le Comité que les tests effectués par NPL étaient « une photo d’une seule version d’un seul système » qui ne peut pas être généralisée.
« Nous pensons que sans une structure réglementaire appropriée, il n’y a pas une garantie que les systèmes de reconnaissance faciale déployés par les autorités répondront à des exigences de précision abordables ou que leur utilisation restera proportionnelle aux dangers qu’ils présentent », déclare Birtwistle.
Marion Oswald, partenaire de recherche senior à l’Alan L’Institut Turing a déclaré qu’il y a certainement un potentiel dans ces outils, bien que leur utilisation soit actuellement limitée alors que les systèmes de police utilisent différents formats d’informations et bases de données qui ne sont pas connectés.
« Cela en soi crée un risque », dit-elle.
Oswald a également ajouté que les flics doivent être familiarisés avec des problèmes tels que les disparités ethniques lors du déploiement de technologies de reconnaissance faciale. Des erreurs se produiront à des limites inférieures à celles suggérées : au réglage de 0,56, parmi les 33 individus mal identifiés, 22 étaient noirs, dit-elle.
« C’est très difficile quand on existe avec un match pour choisir quoi en faire à moins que vous ne compreniez vraiment les paramètres du système, quelles pourraient être les imprévisibilités, quelles sont les menaces d’erreurs et de biais dans les rapports fournis par le NPL », déclare Oswald.
Étant donné que l’étude de recherche a été publiée, le système NEC a été utilisé 3 fois, consistant en des notifications et aucun positif incorrect, selon Chiswick de la Met Police.
Toute l’actualité en temps réel, est sur L’Entrepreneur
