Un projet de travail d’une exigence de mesure du biais dans la biométrie faciale a en fait été publié par l’Organisation internationale de normalisation (ISO) et la Commission électrotechnique internationale (CEI), tout simplement comme l’Institut national américain de Standards and Technology (NIST) met à jour ses travaux sur la prédisposition dans les systèmes experts de manière plus générale.
La norme ISO/IEC 19795-10 « Infotech– Dépistage et rapport des performances biométriques– Partie 10 : Mesure de la variation de l’efficacité du système biométrique à travers les groupes démographiques, l’exigence en cours de développement est restée en développement pendant deux ans, selon un post LinkedIn de John Howard, chercheur principal en information du Maryland Test Center.
Discutez du projet avant le 6 mai.
Le dépistage de la prédisposition (ou différentiel démographique) dans la reconnaissance faciale est jusqu’à présent minime, principalement aux tests du NIST .
Le NIST plaide pour une méthode « soci-technique »
Une technologie mise à jour Le document de politique ical du NIST recommande d’élargir la portée de la recherche des sources de biais dans les systèmes d’IA. Selon la société, cela peut aider à améliorer la reconnaissance des biais de l’IA et à atténuer leurs dommages.
La version modifiée de la publication spéciale 1270 du NIST, « Vers une norme d’identification et de traitement des biais dans les systèmes experts », étend cette portée pour prendre en compte le contexte social dans lequel les systèmes d’IA sont publiés, en utilisant une métaphore de l’iceberg. Les biais statistiques et informatiques ne comprennent que la partie visible « au-dessus de l’eau » de l’iceberg, les biais humains et les biais systémiques formant de grandes zones énumérées ci-dessous.
« Si nous voulons développer des systèmes d’IA crédibles, nous devons pensez à tous les facteurs qui peuvent ébranler la confiance du public dans l’IA », déclare Reva Schwartz, enquêteur privé principal du NIST pour la prédisposition à l’IA, parmi les auteurs des rapports. « Un certain nombre de ces aspects vont au-delà de la technologie elle-même et concernent les effets de l’innovation, et les commentaires que nous avons reçus d’un large éventail d’individus et d’organisations ont souligné ce point. »
Les auteurs soutiennent qu’un « socio Une approche « technique » est nécessaire pour atténuer efficacement la prédisposition à l’IA.
L’avant-projet a été publié l’année dernière et a reconnu huit parties qui contribuent à rendre l’IA digne de confiance.
Toute l’actualité en temps réel, est sur L’Entrepreneur
