Un nouveau laboratoire a été créé à la SMU (Southern Methodist University), avec Pangiam comme premier partenaire industriel, pour étudier les performances de la reconnaissance faciale et d’autres systèmes d’intelligence artificielle sur diverses populations d’utilisateurs.
Le laboratoire d’examen des systèmes intelligents et des biais (ISaBEL) a été fondée au AT&T Center for Virtualization de SMU. Le laboratoire étudiera comment atténuer les biais dans les systèmes d’IA sur la base des dernières recherches et normes évaluées par des pairs.
L’ISO a récemment approuvé un projet de travail d’une norme pour évaluer les performances de la reconnaissance faciale sur différents groupes démographiques, et sollicite les commentaires de la communauté des chercheurs.
L’annonce note que des décisions automatisées sont prises avec des algorithmes d’IA dans une gamme de cas d’utilisation allant de la sécurité des aéroports aux condamnations judiciaires et pourraient avoir un impact considérable sur différents groupes. Un biais peut cependant être introduit par des données incomplètes ou une dépendance à des données erronées.
« Comment étudier et atténuer les biais dans les systèmes d’IA est un domaine en évolution rapide, avec des poches de chercheurs du monde entier apportant des contributions importantes », commente John Howard, chercheur au AT&T Center, expert en biométrie et principal scientifique des données au Installation d’essai du Maryland. Howard est également un éditeur sur la norme ci-dessus. « Des laboratoires comme ISaBEL aideront à faire en sorte que ces percées se retrouvent dans les produits où elles peuvent faire le plus de bien et à éduquer la prochaine génération d’informaticiens sur ces questions importantes. »
Des expériences seront conçues et réalisées à ISaBEL avec divers ensembles de données pour quantifier les performances du système d’IA dans différents groupes démographiques, selon l’annonce.
« Chez Pangiam, nous sommes fondamentalement déterminés à faire avancer l’industrie avec des efforts percutants tels que celui-ci », déclare Shaun Moore, directeur de l’IA de Pangiam et ancien élève de SMU. « L’atténuation des biais est une priorité pour notre équipe depuis 2018 et nous avons décidé de démontrer publiquement nos efforts pour atteindre la parité des performances entre les pays et les ethnies. SMU est l’institution idéale pour cette recherche. »
ISaBEL recrute actuellement des étudiants diplômés et de premier cycle pour participer à des projets de recherche.
Pangiam a également annoncé un plan d’embauche agressif aux États-Unis, pour aller avec un nouveau bureau en Virginie.
Toute l’actualité en temps réel, est sur L’Entrepreneur
