Le bureau du commissaire aux détails (ICO) du Royaume-Uni a publié sa 3e plus grosse amende de 7,5 millions de livres sterling. Il a été imposé à Clearview AI, la société de reconnaissance faciale douteuse qui a déjà été du mauvais côté de décisions similaires des régulateurs en Italie, en France et en Australie. Clearview a collecté plus de 20 milliards d’images de visages d’individus sur Facebook et d’autres plateformes de médias sociaux. Il a ensuite offert à ceux-ci l’accès à des entreprises personnelles et à des organisations telles que les forces de police du monde entier.
L’ICO a constaté que Clearview avait enfreint la loi britannique sur la protection des données de plusieurs manières, consistant à ne pas disposer d’un facteur légal pour collecter des informations sur les propriétaires britanniques, à ne pas l’utiliser de manière équitable et manière transparente, et arrêter de travailler pour avoir un processus en place pour empêcher que les informations ne soient stockées indéfiniment. L’ICO a acheté l’entreprise pour effacer les images des propriétaires britanniques et s’abstenir d’en collecter davantage à l’avenir.
John Edwards, le commissaire britannique aux détails, a déclaré à propos de son jugement : « L’entreprise permet non seulement la reconnaissance de ces personnes, mais surveille efficacement leur comportement et l’offre en tant que service commercial. Ce n’est pas souhaitable. » L’ICO a également révélé que la technologie de Clearview avait été proposée sur une « base d’essai totalement gratuite » à la police britannique, bien que cela ait effectivement cessé.
Sourire pour la caméra
L’application logicielle de reconnaissance faciale devient une réalité de la vie au Royaume-Uni. La prolifération de Ring et d’autres sonnettes vidéo, par exemple, a en fait fourni aux flics une nouvelle méthode pour éliminer les activités criminelles en demandant aux propriétaires leurs images et leur son (beaucoup ont des microphones efficaces pour obtenir des conversations des passants). En 2019, la base de données nationale de la police britannique contenait des images d’environ 20 millions de visages, dont beaucoup étaient des personnes qui n’avaient en fait jamais été inculpées ou reconnues coupables d’une infraction.
Il y a des problèmes avec les autorités qui utilisent cette innovation pour éliminer les infractions pénales. D’une part, le risque d’un positif incorrect est élevé. Lorsque la police du sud du Pays de Galles a vérifié son système de reconnaissance faciale pendant 55 heures, par exemple, 2 900 correspondances potentielles ont été signalées – 95 % d’entre elles étaient des positifs incorrects. Il y a des histoires, en particulier aux États-Unis, d’arrestations injustifiées et même de condamnations basées sur une application logicielle de reconnaissance faciale. Peut-être en raison du manque de variété du secteur technologique, ces systèmes ne sont pas capables de reconnaître les femmes ou celles issues d’une minorité ethnique, ce qui aggrave la discrimination et les préjugés existants.
La Commission européenne a en fait révélé son intention d’interdire certains aspects de la technologie de reconnaissance faciale à l’avenir. Ce n’est pas simplement votre visage : la surveillance de l’innovation s’élargit à un tel rythme qu’il est désormais possible d’évaluer la façon dont vous vous promenez, votre rythme cardiaque, votre rythme respiratoire et, de manière controversée, vos sentiments.
L’innovation en matière de sécurité a été normalisée par la pandémie
Covid-19 a propulsé le développement de la technologie de surveillance. En France, la technologie de reconnaissance faciale a été utilisée dans les transports publics pour savoir si les passagers portaient des masques, et l’Australie a testé une application logicielle comparable pour vérifier que les gens étaient à la maison pendant la quarantaine. Des milliards de personnes dans le monde ont vu leurs mouvements enregistrés par différentes applications de test et de suivi Covid-19.
Il y a en fait eu un certain soutien public pour ce genre de procédures. Près des deux tiers (61%) des Britanniques déclarent avoir été heureux de partager leurs informations sur l’état de santé tout au long de la pandémie, et 54% ont aimé sacrifier une partie de la confidentialité de leurs informations pour raccourcir la durée du verrouillage.
La sécurité s’est également glissée dans d’autres domaines de notre vie. La technologie de surveillance de l’environnement de travail – de la surveillance des e-mails et de la navigation sur le Web au suivi vidéo et à la journalisation cruciale – est en fait devenue monnaie courante avec l’essor du travail à distance. Pratiquement un tiers des salariés sont désormais surveillés dans leurs tâches, contre 24 % plus tôt dans l’année. Microsoft a même breveté un logiciel de détection des sensations pour garder un œil sur la santé et le bien-être des employés après avoir pesé des éléments biométriques tels que la voix et la fréquence cardiaque. Les syndicats et les députés demandent un nouvel ensemble de droits à l’information pour protéger les employés dans ces scénarios.
Dans certains cas, les régulateurs agissent là où les pratiques enfreignent la législation RGPD existante. H&M en Allemagne, par exemple, s’est vu infliger une amende de 35,2 millions d’euros en 2020 pour sécurité extrême des travailleurs, et au Royaume-Uni, Barclays fait l’objet d’une enquête pour son utilisation d’une application logicielle pour suivre l’activité du système informatique du personnel.
La vie privée est un droit humain fondamental
Nous avons tous droit à la vie privée ; chez vous, au travail et lorsque nous sommes en public. Des organisations telles que Clearview AI qui prennent et stockent nos images à notre insu ou sans notre approbation doivent être condamnées à une amende et éviter de le faire une fois de plus. Cependant, ce n’est que la suggestion de l’iceberg.
La technologie de reconnaissance faciale, et plus largement l’identification biométrique, est un effet domino qui menace notre droit fondamental à la vie privée. La technologie retiendra constamment ses tentations. Cependant, les organisations doivent jouer leur rôle dans l’établissement d’une culture de respect constant de la vie privée afin de garantir que la vie privée soit prise en compte à chaque étape de la méthode. La méthode que nous utilisons maintenant aura de véritables effets sur l’avenir que nous développons – pour nous-mêmes, nos enfants et leurs enfants.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
