mardi, 9 août 2022

Un article d’Idemia propose un cadre pour une prise en compte plus large de l’excellence biométrique

Les algorithmes des systèmes experts devraient être évalués plus largement afin de s’assurer que les systèmes fournissent des résultats qui motiveront la confiance en soi dans la biométrie et d’autres innovations avancées, selon un tout nouveau document de position d’un marché chef. Les données de formation et la configuration des systèmes pourraient également demander du travail.

‘Six Secret Factors in Algorithm Excellence’, écrit par la vice-présidente du développement et de l’engagement client d’Idemia, Teresa Wu, définit les exigences pour choisir les innovations de l’IA pour l’identité numérique et applications biométriques.

Les problèmes avec les algorithmes dépassent les facteurs simples à prendre en compte pour la précision, Wu compose, avec un biais algorithmique comme exemple préparé d’une caractéristique défavorable trop souvent présente dans les systèmes d’IA.

Elle continue de faire six recommandations que les développeurs d’algorithmes doivent poursuivre pour une « efficacité optimale », chacune ciblant un une menace particulière écoute la structure de gestion des risques de l’IA du NIST. Les recommandations devraient comprendre un « cadre de références qui va au-delà des considérations techniques pour évaluer si une entreprise d’innovation en matière d’identité et de biométrie recherche la qualité dans le développement de son algorithme basé sur l’IA ».

L’exigence d’ouverture, d’efficacité progressivement et à travers de multiples tests, « l’expérience et la ténacité dans le domaine », la sécurité et la confidentialité, et les engagements d’équité et de principes sont chacun expliqués. Wu garde à l’esprit que les systèmes biométriques utilisés pour la reconnaissance et la confirmation doivent être testés pour les deux, et rejette la responsabilité de la vague actuelle de législation restreignant l’utilisation de la reconnaissance faciale par les États et les villes avec ces algorithmes qui montrent une prédisposition et peuvent entraîner l’exclusion des services. .

Wu souligne également l’importance de s’approvisionner en informations de formation de manière éthique et de configurer correctement la technologie afin d’éviter de présenter une prédisposition.

Un exemple concret et un avertissement du milieu universitaire

Un exemple de résultats qui montrent un biais dans un système d’IA, qu’il soit introduit par l’algorithme ou l’exécution, une femme vivant au Manitoba, au Canada, devait faire corriger la couleur de son image par le personnel de l’autorité des permis de conduire après le Le système a signalé l’image comme représentant un teint « anormal », rapporte CBC. ture de respecter son « application logicielle de reconnaissance faciale et ses normes photo ».

Tolu Ilelaboye, un Afro-Canadien de Winnipeg, est mécontent de la réponse de la firme grand public, qui dit que lorsque des problèmes de capture d’image surviennent , les membres du personnel ajustent les paramètres de la caméra vidéo et d’autres facteurs. Ilelaboye dit que cela n’a pas été fait dans son cas et a suggéré qu’une bien meilleure formation des employés aurait pu résoudre le problème. MPI dit également que le teint n’est pas un facteur pour qu’une image de licence soit refusée.

Cela pourrait être pire. Un article présenté à la conférence ACM 2022 sur l’équité, la responsabilité et la transparence a révélé que les robots formés sur des « modèles fondamentaux » utilisés dans la vision par ordinateur, le traitement du langage naturel ou les deux adoptaient des stéréotypes sectaires sur les personnes en fonction de leur couleur de peau ou de leur sexe.

Les auteurs de ‘Robots Enact Deadly Stereotypes’ découvrent que les politiques institutionnelles doivent être mises en place pour minimiser les dommages causés par les grands ensembles de données et les ‘Dissolution Designs’, et publient une action collaborative requise pour faire face aux préjugés et autres des habitudes néfastes sont construites dans certains systèmes informatiques.

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici