Votre patron est une machine : l’essor de la gestion des algorithmes

Le film traditionnel culte de 1999, Workplace, dépeint la vie sombre de Peter en tant qu’ingénieur d’applications logicielles vivant dans une cabine. Tous les vendredis, Peter tente d’empêcher son manager et les mots redoutés : « Je vais vous demander de continuer et de venir demain. »

Cette scène est toujours populaire sur le Web près de 25 ans plus tard en raison du fait qu’il attrape des éléments désagréables de la relation de travail – la vulnérabilité ressentie par Peter, la fausse sympathie que son employeur exprime lorsqu’il fournit ce règlement, la demande continue de meilleures performances.

Il n’y a pas de pénurie de représentations de la culture populaire d’employeurs horribles. Il y a même un film avec ce titre. Mais les choses pourraient être prêtes à empirer. Que faut-il faire des tout nouveaux patrons qui s’installent dans les bureaux de tous les secteurs : les superviseurs d’algorithmes ?

L’essor de la gestion des algorithmes

La possibilité que des robots remplacent les travailleurs est souvent couverte dans les médias. Ce n’est pas seulement le travail qui est automatisé. Les gérants aussi. De manière significative, nous voyons des algorithmes logiciels présumer des fonctions de gestion, telles que la sélection des candidatures, la délégation du travail, l’évaluation de l’efficacité des employés et même le choix du moment où les membres du personnel doivent être licenciés.

Le déchargement des tâches des superviseurs humains vers les fabricants ne fera que s’intensifier à mesure que les gadgets de surveillance et de surveillance deviennent de plus en plus sophistiqués. En particulier, la technologie portable qui peut suivre les mouvements des travailleurs.

Du point de vue d’un employeur, il y a beaucoup à faire acquise en transférant les responsabilités des managers aux algorithmes. Les algorithmes réduisent les coûts d’organisation en automatisant les tâches qui prennent plus de temps à accomplir. Uber, avec ses 22 800 travailleurs, peut surveiller 3,5 millions d’automobilistes selon les chiffres annuels les plus récents.

Les systèmes de systèmes experts peuvent également découvrir des méthodes pour optimiser les organisations de services. Le modèle de tarification rapide d’Uber (augmenter brièvement les coûts pour attirer des chauffeurs pendant les périodes mouvementées) n’est possible que parce qu’un algorithme peut traiter les modifications en temps réel des besoins des clients.

Les risques

Quelques problèmes associés à la gestion des algorithmes reçoivent plus d’attention que d’autres. Peut-être que le risque le plus pris en compte par les journalistes, les scientifiques et les décideurs politiques est le biais algorithmique.

Ancien classement CV d’Amazon système en est un exemple tristement célèbre. Ce programme, qui était utilisé pour évaluer les CV des candidats sur une échelle de un à cinq, a été interrompu car il évaluait régulièrement les CV présentant des caractéristiques masculines supérieures à celles comparables considérées comme plus féminines.

Un certain nombre d’autres préoccupations entourent la croissance de la gestion des algorithmes.

L’idée de confier des choix hautement personnels aux superviseurs de systèmes informatiques est sinistre. Beast Ztudio/Shutterstock

L’un est le problème de la transparence. Des algorithmes intemporels sont programmés pour faire des choix basés sur des instructions détaillées et donner simplement des sorties programmées.

Algorithmes d’apprentissage automatique , d’autre part, apprennent à faire des choix par eux-mêmes après une exposition directe à de nombreuses informations de formation. Cela signifie qu’ils deviennent plus compliqués à mesure qu’ils se développent, rendant leurs opérations opaques même pour les développeurs.

Lorsque le raisonnement derrière une décision comme celle de licencier un membre du personnel n’est pas transparent, un arrangement éthiquement douteux est en cours. Le choix de l’algorithme de licencier l’employé était-il préjudiciable, corrompu ou arbitraire ?

Si tel est le cas, sa sortie serait considérée comme moralement invalide, voire illégale. Comment un employé montrerait-il que son licenciement est le résultat de motivations illégales ?

La gestion des algorithmes intensifie le déséquilibre des pouvoirs entre employeurs et travailleurs en protégeant les abus de pouvoir de toute réparation. Et les algorithmes coupent une fonction humaine vitale de la relation de travail. C’est ce que feu le théoricien Jean-Jacques Rousseau appelait notre « sens naturel de la pitié » et notre « répugnance innée à voir son prochain souffrir ».

Malgré le fait que tous les managers humains ne sont pas attentionnés, il n’y a pas de pourcentage opportunité que seront les gestionnaires d’algorithmes. Dans notre étude de cas sur les coursiers Amazon Flex, nous avons observé l’exaspération que les travailleurs de la plateforme ressentent face à l’incapacité de l’algorithme à accepter les appels humains. Les algorithmes développés pour augmenter l’efficacité sont indifférents aux situations d’urgence de garde. Ils n’ont aucune tolérance pour les travailleurs qui se déplacent lentement puisqu’ils découvrent encore la tâche. Ils ne travaillent pas pour trouver un service qui aide un employé aux prises avec une maladie ou une déficience.

Que pouvons-nous faire

Les risques auxquels sont confrontés les travailleurs sous la gestion d’algorithmes sont déjà un l’objectif principal des chercheurs, des syndicats et des concepteurs d’applications logicielles qui tentent de promouvoir d’excellentes conditions de travail. Les dirigeants politiques américains discutent d’une extension des droits numériques pour les travailleurs. D’autres services incluent des évaluations régulières des effets de l’impact des algorithmes sur les travailleurs et offrent aux employés leur mot à dire sur la manière dont ces innovations sont utilisées.

Alors que les entreprises peuvent découvrir que les algorithmes de gestion sont extrêmement rentables, l’exigence de réaliser des bénéfices n’est pas un facteur pour endurer la souffrance des membres du personnel.

Peter a finalement découvert comment gérer son patron et rendre le travail agréable. Il l’a fait en mettant en valeur sa valeur lors de rencontres extrêmement personnelles avec les plus hauts niveaux de la direction. La question est, comment se serait-il comporté si son employeur avait été un algorithme ?

Robert Donoghue, PhD Prospect, Social and Policy Sciences, University of Bath and Tiago Vieira, PhD Prospect, Sciences politiques et sociales, Institut universitaire européen

Cette Le message est republié à partir de The Conversation sous une licence Innovative Commons. Consultez le message initial.