Un rapport publié par le Haut-Commissariat des Nations Unies aux droits de l’homme (HCDH) a en fait recommandé que les innovations des systèmes experts (IA), y compris la biométrie, soient développées et publiées avec une grande considération pour les droits humains fondamentaux. En attendant, les États doivent imposer un moratoire sur l’utilisation de la biométrie à distance dans les espaces publics, indique le rapport.
Le rapport garde à l’esprit que ces technologies telles que les systèmes de surveillance de la reconnaissance faciale, le profilage, la décision automatisée -making et autres technologies d’apprentissage automatique, qui sont de plus en plus diffusées par les États et les organisations, peuvent refléter des prédispositions et porter atteinte aux droits des individus.
S’exprimant lors d’une audition en cours devant la commission des affaires juridiques et des droits de l’homme du Conseil de l’Europe sur les effets de l’apparition du logiciel espion Pegasus qui a touché des milliers de personnes dans 45 nations, la chef des droits de l’homme de l’ONU, Michelle Bachelet, a réitéré sa préoccupation, contactant les États pour qu’ils mettent un terme à l’utilisation de telles innovations jusqu’à ce que suffisamment de garanties idéales humaines soient en place.
Selon Bachelet, l’avantage potentiel de l’IA les innovations sont substantielles, cependant u Des mesures urgentes doivent être prises par les autorités afin de s’assurer que les préoccupations concernant leur exactitude et leurs impacts inéquitables sur la société sont correctement résolus.
« L’intelligence artificielle peut être une force pour les grands. Les technologies de l’IA peuvent avoir des impacts négatifs, voire désastreux, si elles sont utilisées sans tenir suffisamment compte de la manière dont elles impactent les droits humains des personnes. Nous ne pouvons pas payer pour continuer à jouer au rattrapage concernant l’IA. Des mesures sont nécessaires maintenant pour mettre des garde-fous des droits de l’homme sur l’utilisation de l’IA pour le bien de tous », a déclaré Bachelet lors de l’audience.
La reconnaissance biométrique à distance en temps réel, qui suggère actuellement généralement la reconnaissance faciale, est désigné comme une menace particulière pour les droits de l’homme.
Le rapport du HCDH publié mercredi à Genève souligne le fait qu’outre les violations du droit des individus à la vie privée, des technologies d’IA spécifiques affectent également leur droit à l’éducation, à la santé, d’association, de mouvement, de réunion pacifique et même de liberté d’expression.
Le rapport détaille également des cas de discrimination ou de mauvais traitements subis par des individus à la suite de décisions erronées ou biaisées rendues par des systèmes alimentés par l’IA. , et insiste de la même manière sur la nécessité d’une diligence raisonnable concernant l’impact de ces innovations avant leur adoption et leur mise en œuvre finale.
Parmi d’autres problèmes, le rapport critique également l’opacité dans laquelle biomet Les informations ric sont souvent collectées, conservées et partagées, et suggèrent la nécessité d’une plus grande ouverture de la part des entreprises et des États dans la manière dont ils développent et publient des innovations basées sur l’IA afin que leur effet réel sur les droits de l’homme et la société puisse être mieux compris.
L’utilisation de l’IA telle que les systèmes de reconnaissance faciale dans des lieux publics par certains pays a fait l’objet de vives critiques dans le passé, les doigts pointant du doigt les problèmes d’infraction aux droits de l’homme.
Toute l’actualité en temps réel, est sur L’Entrepreneur
