Les législateurs et régulateurs californiens s’agitent à nouveau. Cette fois, ils voient des problèmes avec la façon dont les entreprises utilisent la surveillance biométrique et les systèmes de choix automatisés.
D’une part, le Fair Employment and Housing Council de l’État réfléchit à de toutes nouvelles règles sur la façon dont les choix de travail sont automatisés .
L’un de l’autre, un législateur de l’État déclare que les gestionnaires espionnent progressivement inutilement des personnes qu’ils déclarent espérer conserver pendant la Grande Démission.
Le comité d’entreprise souhaite interdire les algorithmes qui tendent au moins à éliminer des candidats en fonction des qualités garanties par l’État. C’est exactement la même interdiction avec laquelle les décideurs humains travaillent.
La reconnaissance faciale est moins préoccupante dans ce cas puisque la Californie interdit actuellement aux entreprises d’exiger des images des candidats à la tâche, bien qu’il y ait des exceptions.
Le conseil veut aller encore plus loin, en interdisant l’utilisation d’outils de choix automatisés et d’informations d’intelligence artificielle pour trouver des antécédents criminels. Cela peut interdire l’utilisation de services de grattage de photos comme ceux de Clearview AI, qui obtiennent presque certainement la plupart des tirs réservés par la police.
La détection des émotions, y compris l’analyse de la voix, devrait également être justifiée. Les algorithmes portent la prédisposition collective de leurs développeurs, désavantageant les individus des catégories protégées.
La tenue de registres serait également mise à jour, obligeant les entreprises à conserver les informations connexes, constituées des critères d’évaluation utilisés par les logiciels pour faire des choix.
Ceux qui montrent qu’ils ont été ignorés à tort pourraient demander une compensation financière.
La Society for Personnel Management a rendu compte de l’évolution du processus d’élaboration des règles, adoptant une position hésitante.
Dans un article publié par SHRM, l’organisation a gardé à l’esprit que les modifications proposées pourraient accroître l’exposition à la responsabilité des employeurs adoptant la prise de décision automatisée.
Dès qu’ils sont à bord, les nouvelles recrues entrent dans des environnements qui sont surveillés de manière significative avec des outils biométriques et autres déployés pour s’assurer que les personnes travaillent au bureau ou, plus précisément, hors du bureau.
Les systèmes biométriques déployés peuvent voir les travailleurs avec des caméras (dans certains cas s utilisant la reconnaissance faciale) et des compteurs et analyseurs de frappe.
Ash Kalra, membre de l’Assemblée de Californie, a déclaré au magazine Fortune que malgré les augmentations de productivité et les autres améliorations des employés que la surveillance aurait réellement apportées, il y a en fait eu un excès préjudiciable.
Cette année, Kalra a introduit la loi sur la responsabilité de l’innovation dans l’environnement de travail pour informer les travailleurs de tout espionnage numérique que les employeurs utilisent pour les surveiller.
Les coûts indiquent que « les systèmes de travail basés sur les données sont fréquemment opaque, non testé et sans aucune surveillance réglementaire. »
Il s’agit d’une législation relativement légère. En plus d’obliger les entreprises à informer les travailleurs, la loi donnerait aux personnes surveillées le droit de voir et de corriger les données numériques recueillies.
Les outils devraient être évalués pour les dommages potentiels et l’atténuation de tout défaut associé avant la publication. Il n’y a pas besoin d’analyses continues ou régulières, néanmoins.
Toute l’actualité en temps réel, est sur L’Entrepreneur
