Twitter fait appel à l’assistance du quartier HackerOne pour essayer de corriger les prédispositions inconfortables avec ses modèles d’IA.
L’algorithme de recadrage d’images utilisé par Twitter était destiné à conserver les parties les plus fascinantes de une image dans le recadrage de l’aperçu dans les chronologies des individus. Tout cela est excellent, jusqu’à ce que les utilisateurs découvrent l’année dernière qu’il préférait les couleurs de peau plus claires aux couleurs foncées et les seins et les jambes des femmes sur leur visage.
Quand les scientifiques ont introduit une photo d’un homme noir et d’une femme blanche dans le système, l’algorithme montrait la femme blanche 64 % du temps et l’homme noir seulement 36 % du temps. Pour les photos d’une femme blanche et d’une femme noire, l’algorithme a montré la femme blanche dans 57 % des cas.
Twitter a fourni des primes variant entre 500 $ et 3 500 $ à quiconque découvre des preuves de prédisposition nuisible dans ses algorithmes. . Toute personne ayant réussi sera également la bienvenue à DEF CON, une importante convention de hackers.
Rumman Chowdhury, directeur du génie logiciel chez Twitter, et Jutta Williams, superviseur d’articles, ont écrit dans un article de blog :
Après avoir initialement rejeté le problème, il est excellent de voir Twitter prendre ses fonctions et essayer de résoudre le problème. Ce faisant, l’entreprise affirme vouloir « créer un précédent sur Twitter et sur le marché, pour l’identification proactive et collective des dommages algorithmiques ».
3 employés de Twitter en matière d’éthique, de transparence et de Le service de responsabilité a trouvé des prédispositions dans ses propres tests et déclare que l’algorithme est, généralement, environ 4 % plus susceptible d’afficher les personnes à la peau plus claire par rapport à la peau plus foncée et 8% plus susceptible d’afficher les femmes que les hommes.
Cependant. , les membres du personnel n’ont trouvé aucune preuve que certaines parties du corps des personnes étaient plus susceptibles d’être montrées que d’autres.
« Nous avons découvert que pas plus de 3 images sur 100 par sexe n’avaient le recadrage sur la tête, » ils ont discuté dans un article publié sur arXiv.
Twitter a lentement abandonné son algorithme de recadrage d’image problématique et ne semble pas pressé de le rétablir de sitôt :
Beaucoup de choses ont changé en 5 ans. De même, nous quittons le travail de recadrage de la plupart des images. Ce n’est pas un problème qui nécessite une solution de ML.
— Dantley Davis (@dantley) 10 mars 2021
À sa place, Twitter a en fait mis en place la possibilité pour les utilisateurs de gérer la façon dont leurs images sont recadrées.
« Nous avons pris en compte les compromis entre la vitesse et la cohérence du recadrage automatisé avec les dangers potentiels que nous avons vus dans cette recherche « , a écrit Chowdhury dans un article en mai.
« Parmi nos conclusions, tout sur Twitter n’est pas un bon candidat pour un algorithme, et dans ce cas, comment recadrer une image est la meilleure décision à prendre. par des individus. »
(Photo d’Edgar MORAN sur Unsplash)
Toute l’actualité en temps réel, est sur L’Entrepreneur
