Un point de consensus intéressant se développant lors de l’atelier 2022 sur la loi sur l’intelligence artificielle de l’Association européenne pour la biométrie (EAB) est qu’il sera pratique dans les conversations sur l’opportunité d’autoriser des exceptions à une restriction sur la biométrie à distance systèmes en public pour savoir exactement ce que signifie « à distance ».
L’atelier a été organisé par Zoom sur 2 jours la semaine dernière.
Le début d’une discussion à trois entre les 3 organisations de l’UE sur la loi sur l’IA est attendu vers le printemps 2023, selon Catherine Jasserand de CiTIP à KU Leuven.
Jasserand constate que le texte de compromis du Conseil européen supprimait les termes « lointain » et « à distance » du sens donné dans l’Acte, et s’interroge sur ce qu’il impliquait dans ce contexte par « distant ».
Même définir la « biométrie » d’une manière qui couvre les cas d’utilisation souhaités est quelque peu controversé, ce qui a conduit le Parlement européen à écrire dans une catégorie de « données basées sur la biométrie ».
Katharina Senhert de la société allemande d’exigences DIN a expliqué comment les parties prenantes peuvent être associées à la procédure d’établissement de normes d’IA et de biométrie aux niveaux européen et international.
Le spécialiste de la biométrie d’Idemia et chef de projet, Pierre Gacon, a fourni l’état actuel de l’accord sur l’exigence ISO/IEC 9868 pour les systèmes de reconnaissance biométrique à distance.
Le groupe de travail JTC1 a été mandaté par la CE pour traiter les exigence pour les cas d’utilisation «à haut risque» et a initialement proposé une norme de système de gestion spécifique au secteur, déclare Gacon. Désormais, les opérateurs sont invités à décrire l’ISO/CEI 42001 pour la gestion du système, tandis que la norme en cours d’avancement traite des aspects techniques.
Un manque de clarté autour du terme « à distance » a entraîné le titre de la norme être modifié en « Systèmes de reconnaissance biométrique, y compris les sujets de capture passive et non informés », et la suppression ultérieure de « non informé ».
Julien Chiaroni du Conseil européen de l’innovation a fourni le travail effectué pour soutenir des systèmes fiables certifiés avec le directives.
Une procédure inachevée
Irina Orssich, responsable du secteur de la politique en matière d’IA à la Commission européenne, a examiné les tentatives des gouvernements locaux pour mettre en place un écosystème autour de la loi sur l’IA afin de promouvoir à la fois la confiance et la qualité.
7 commissions du Parlement européen travaillent sur la loi et un vote est prévu pour novembre. Côté Conseil, la Présidence tchèque (pour le second semestre 2022) entend effectivement parvenir à une position commune d’ici décembre.
Kai Zenner du Parlement européen a exposé les principaux points de discorde au sein du Parlement, et ce que les législateurs tentent d’atteindre.
Obstacles à l’évaluation
Weibke Hutiri de l’Université de technologie de Delft recommande que le traitement et les applications sur l’appareil soient ignorés dans la loi sur l’IA, comme actuellement proposés, tout comme des systèmes complexes comme ceux dans lesquels la biométrie vocale est généralement déployée.
Certains systèmes biométriques basés sur la voix sont utilisés dans des applications à faible et à haut risque, note Hutiri.
En outre , les données biométriques utilisées pour la confirmation peuvent être réutilisées pour l’identification, et les systèmes peuvent être assez facilement adaptés à la seconde à partir de la première, ce qui soulève des questions sur l’authenticité d’éventuels systèmes à double usage.
Même en examinant l’équité et l’efficacité des systèmes vocaux est extrêmement dépendante sur le contexte dans lequel l’application sera utilisée, affirme Hutiri, lorsqu’il s’agit d’instances, les voix changent avec l’âge, et les systèmes vocaux sont plus susceptibles de sembler efficaces s’ils sont testés sur des amis locuteurs plus jeunes.
Des audits indépendants sont difficiles à réaliser sur des systèmes exclusifs, et les auto-évaluations peuvent ne pas produire le niveau de responsabilité requis.
Le travail sur l’IA auditable existait au jour 2 de l’événement par Arndt von Twickel de la cyberautorité allemande BSI.
Comme décrit par Hutiri, la tâche est aussi complexe que le sujet, englobant toute la « chaîne de processus connexionniste de l’IA ».
Même la capacité d’auditer les systèmes devrait elle-même être auditée. Les efforts de BSI pour y parvenir révèlent qu’il reste encore beaucoup à faire pour améliorer l’auditabilité.
Les partisans d’une restriction complète de la biométrie à distance dans les espaces publics
Ella Jakubowska du groupe de défense des droits eDRI a fourni à l’entreprise vue sur la présence croissante et le danger supplémentaire de la surveillance biométrique de masse. Le groupe estime qu’une interdiction ne peut pas seulement être compatible avec le RGPD, mais qu’elle doit toutefois être renforcée.
La suppression rapide des informations biométriques, ou leur traitement à la périphérie, n’atténue pas correctement le danger d’une surveillance de masse, selon Jakubowska .
Par conséquent, toute identification biométrique à distance dans des zones librement accessibles devrait être restreinte, selon eDRI, y compris les applications biométriques en temps réel et rétrospectives, et sans exception.
Éloignement, sur la lecture d’eDRI, est spécifié par un éventuel manque de sensibilisation et de contrôle par le sujet.
Le Contrôleur européen de la sécurité des données Xabier Lareo a évalué les mises à jour apportées à la proposition de loi le long de la méthode, consistant en certaines qu’il autorise et d’autres, selon lui, s’essoufflent.
Les changements positifs incluent la restriction des systèmes de police prédictive, l’équilibrage des tâches des fournisseurs et des utilisateurs d’IA, et la nomination du président du conseil d’administration de l’IA.
Moins encourageant, alors que le parlement reconnaît Étant donné qu’il n’est pas possible d’obtenir des ensembles de données entièrement exempts d’erreurs, leurs exigences assouplies offrent aux développeurs d’IA une marge de manœuvre excessive et devraient imposer des évaluations de la qualité des informations et des limites minimales. Lareo ne sait pas non plus dans quelles circonstances le Parlement souhaite le changement proposé selon lequel les utilisateurs de l’IA responsables pourraient être responsables des problèmes de gouvernance de l’information lorsqu’ils contrôlent « spécialement » le système, et le biais d’automatisation devrait être davantage pris en compte.
Lareo aimerait voir des restrictions sur la reconnaissance biométrique dans les zones librement accessibles, comme suggéré par eDRI, en plus des interdictions de se sentir reconnues et d’une classification inéquitable avec la biométrie. Le CEPD doit avoir un vote au sein du comité d’IA, les évaluations de conformité par des tiers doivent être prioritaires et le champ d’application doit être élargi pour inclure l’utilisation de l’IA par les autorités publiques pour l’application des lois internationales et les procédures judiciaires.
Les différentes perspectives ont établi des tables rondes à la fin de chaque journée, mais ces conversations n’ont pas été enregistrées ni montrées au public.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
