Crédit : Thinkstock
Le biais dans l’avancement de l’intelligence artificielle est en fait une préoccupation croissante car son l’utilisation augmente dans le monde entier. Cependant, quels que soient les efforts déployés pour créer des exigences en matière d’IA, il appartient en fin de compte aux organisations et aux responsables informatiques d’adopter les meilleures pratiques et de garantir l’équité tout au long du processus de vie de l’IA afin d’éviter tout effet désastreux de réglementation, de crédibilité et de revenus, selon un tout nouveau Forrester Research. rapport d’étude.
Bien qu’une suppression à 100 % de la prédisposition à l’IA soit impossible, les DSI doivent déterminer quand et où l’IA doit être utilisée et quelles pourraient être les implications de son utilisation, a déclaré Brandon Purcell, vice-président de Forrester.
Les préjugés ont fini par être si inhérents aux conceptions de l’IA que les entreprises envisagent de recruter un tout nouveau cadre supérieur appelé le directeur de l’éthique chargé de naviguer dans les ramifications éthiques de l’IA, a déclaré Purcell. Salesforce, Airbnb et Fidelity ont déjà des responsables de l’éthique et d’autres devraient suivre, a-t-il informé CIO.com.
Assurer l’équité du modèle d’IA
Les DSI peuvent prendre de nombreuses mesures non seulement pour déterminer mais également équilibrer l’équité des modèles d’IA, a-t-il déclaré, bien qu’il n’y ait pas de normes réglementaires dictant les spécificités de l’équité.
La première étape, a déclaré Purcell, est de s’assurer que le modèle lui-même est juste. Il a suggéré d’utiliser le critère d’équité basé sur la précision [GG3] qui optimise l’égalité, une exigence d’équité basée sur la représentation qui optimise l’équité, et un critère d’équité individuel. Les entreprises doivent unir plusieurs critères d’équité pour examiner l’influence sur les prédictions du modèle.
Alors que l’exigence d’équité basée sur la précision garantit qu’aucun groupe dans l’ensemble de données ne bénéficie d’un traitement préférentiel, l’exigence d’équité basée sur l’équité garantit que la conception offre des résultats équitables basés sur les ensembles de données.
« La parité de groupe, par exemple, vise à garantir que des proportions égales de différents groupes sont choisies par un algorithme. Par exemple, un algorithme employant optimisé pour la parité démographique fonctionnerait avec une proportion de candidats masculins et féminins représentative de la population globale (très probablement 50:50 dans ce cas), indépendamment des distinctions potentielles dans les qualifications », a déclaré Purcell.
Un exemple de biais dans l’IA était le modèle Apple Card AI qui attribuait plus de crédit aux hommes, comme cela a été révélé fin 2019. Le problème est apparu lorsque la conception a offert au cofondateur d’Apple, Steve Wozniak, une limite de crédit 10 fois supérieure à celle de salut s meilleure moitié malgré le fait qu’ils partagent exactement les mêmes actifs.
Stabiliser l’équité de l’IA
Équilibrer l’équité de l’IA tout au long de son cycle de vie est nécessaire pour s’assurer que les prévisions d’une conception est proche d’être sans parti pris.
Pour ce faire, les entreprises devraient envisager de solliciter les commentaires des parties prenantes pour spécifier les exigences de service, rechercher des données de formation plus représentatives lors de la compréhension des données, utiliser des étiquettes plus inclusives tout au long de la préparation des informations, explorer l’inférence causale et l’IA contradictoire dans la phase de modélisation, et tenir compte de l’intersectionnalité dans la phase d’évaluation, a déclaré Purcell. « L’intersectionnalité » décrit comment différents aspects de l’identité d’une personne s’intègrent pour aggraver les impacts des préjugés ou des privilèges.
« De fausses corrélations représentent la prédisposition la plus néfaste », a-t-il déclaré. « Pour surmonter ce problème, certaines entreprises commencent à utiliser des méthodes d’inférence causale, qui reconnaissent les relations de cause à effet entre les variables et, pour cette raison, suppriment les liens préjudiciables. » D’autres entreprises testent l’apprentissage contradictoire, une technique d’apprentissage automatique qui optimise deux fonctions de coût contradictoires.
Purcell a déclaré : « Lors de la formation de sa plate-forme VisualAI pour le paiement au détail, le fournisseur de vision par ordinateur Everseen a utilisé la découverte contradictoire. à la fois pour optimiser la détection de vol et pour empêcher le modèle de faire des prévisions basées sur des attributs délicats, tels que la race et le sexe. Lors de l’évaluation de l’équité des systèmes d’IA, se concentrer exclusivement sur une catégorie telle que le sexe pourrait masquer les préjugés qui se produisent à un niveau plus granulaire pour les personnes appartenant à 2 ou plusieurs populations traditionnellement privées de leurs droits, telles que les femmes non blanches. »
Il a donné l’exemple de l’article critique de Joy Buolamwini et Timnit Gebru sur le biais algorithmique dans la reconnaissance faciale qui a révélé que le taux d’erreur pour le système de classification par sexe de Face était de 0,7 % pour les hommes et de 21,3 % pour les femmes, toutes races confondues, et que le le taux d’erreur a bondi à 34,5 % pour les femmes à la peau foncée.
Plus de façons de changer l’équité dans l’IA
Il existe quelques autres techniques que les entreprises pourraient utiliser pour assurer l’équité dans l’IA qui consistent de déployer divers modèles pour différents groupes lors de la phase de publication et de crowdsourcing avec des primes de biais – où les utilisateurs qui détectent les préjugés sont récompensés – lors de la phase de suivi.
« Il est parfois difficile d’obtenir des données de formation adéquates sur groupe sous-représenté UPS. Quoi qu’il en soit, le modèle sera dominé par la tyrannie de la masse. D’autres fois, le biais systémique est tellement établi dans l’information qu’aucune quantité de magie de l’information ne pourra l’éradiquer. Dans ces cas, il peut être essentiel de séparer les groupes en divers ensembles de données et de produire des conceptions différentes pour chaque groupe », a déclaré Purcell.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
