Les règles proposées par l’UE sur l’IA deviendront-elles le RGPD pour la biométrie ?

et de biométrie est qu’il a fallu 2 ans au GDPR pour passer du stade de la proposition à la politique finalement adoptée par le bloc, le monde des affaires a donc eu le temps de se préparer. Dans sa forme actuelle, l’AIA semble comparable au GDPR dans ce qu’elle cherche à accomplir : une méthode pour donner aux utilisateurs finaux un moyen de gérer la collecte et l’utilisation de leurs informations personnelles et de leur ressemblance numérique. En un mot : transparence. L’AIA soutient que l’utilisateur final

doit savoir, à tout moment, qu’il est évalué par l’innovation basée sur l’IA. Est-ce un chatbot ou une personne en direct qui les aide en ligne ? Leur ressemblance est-elle collectée pour l’identification biométrique ?

Les entreprises qui utilisent déjà des paramètres pour interdire la collecte d’informations biométriques, ou qui peuvent bien s’intégrer aux systèmes de gestion de l’information individuels, découvriront qu’elles ont l’avantage dans le cadre de cette nouvelle analyse réglementaire émergente . Pour les entreprises de biométrie de base, l’adhésion à la version finale de ces toutes nouvelles directives sera requise pour la collecte, le filtrage et l’étiquetage appropriés des ensembles de données.

Une série de directives américaines indépendantes contribue à la complexité

La nature fragmentée des règles américaines régissant la collecte de données biométriques a déjà coûté à Facebook plus d’un demi-milliard de dollars, avec des poursuites comparables contre Google, Amazon et Microsoft en cours. L’absence de règles claires au niveau fédéral laisse à peu près aux États le soin de décider quelles sociétés d’IA sont autorisées à collecter en ce qui concerne les informations individuelles sans l’autorisation de leur utilisateur. Néanmoins, le CCPA de Californie, le PIPA de l’Illinois, le Massachusetts Data Personal Privacy Act, le New York Personal Privacy Act et le Hawaii Consumer Privacy Defence Act ont tous le même objectif.

Par exemple, la loi stricte de New York sur la protection de la vie privée dispose d’un droit d’action privé pour toute violation de la loi, applicable à toutes les entreprises. Cela signifie que pratiquement toute personne qui estime mériter de poursuivre une option légale contre un service de New York qui, selon elle, aurait pu violer ses droits, comme expliqué dans la loi sur la protection de la vie privée de l’État, peut le faire simplement en se rendant au palais de justice civil et en intentant une action en justice.

La réglementation génère… la croissance ?

Du point de vue de l’industrie, un ensemble typique de directives régissant l’utilisation de l’IA serait une méthode fantastique pour réduire les frictions lors de l’introduction de services basés sur la biométrie marchés sur de grands marchés comme les nations constitutives de l’UE et cinquante États américains. Sous une seule structure, l’entreprise peut se concentrer sur la production de solutions qui utilisent la quantité optimale de confidentialité et d’ouverture personnelle tout en résolvant le type de problèmes que l’IA existe pour résoudre en premier lieu.

Ce que nous pouvons nous attendre à voir dans dans un avenir proche, une entreprise florissante fournira des accréditations tierces de conformité à la toute nouvelle directive – de l’audit des ensembles de données aux mesures de biais des algorithmes. Quelques-uns de ces services sont actuellement normalisés par le National Institute of Standards and Technologies (NIST), basé aux États-Unis, qui, par exemple, compare la précision et la vitesse des algorithmes de reconnaissance faciale et d’empreintes digitales, pour n’en nommer que quelques-uns. Le NIST a même effectué une comparaison extrêmement approfondie de tous les algorithmes envoyés concernant leur parti pris par rapport aux groupes minoritaires ou leur capacité à reconnaître les visages lorsqu’ils portent des masques de protection.

La politique universelle distingue également une surveillance à grande échelle basée sur la reconnaissance faciale des zones ouvertes en tant qu’application particulièrement à haut risque de la technologie. En raison de sa nature de « grand frère », il est raisonnable qu’une telle application ne soit le domaine que d’une poignée d’entreprises, le reste évitant une telle controverse.

Il existe un nombre croissant d’applications bénignes de la biométrie qui améliore la vie des utilisateurs sans ouvrir leurs informations personnelles à d’éventuels abus, c’est là que réside l’avenir. La pandémie de COVID-19 a en fait révélé que les applications biométriques permettaient à des marchés particuliers comme les services financiers et les télécommunications de continuer à fonctionner, ce qui était auparavant effectué en personne pour vérifier les preuves d’identité (ouverture d’un compte d’épargne, par exemple) même pendant les fermetures. La technologie s’est avérée si simple que même les succursales ont adopté l’intégration numérique au lieu de leurs anciens processus papier. C’est là que réside la force de l’innovation, en résolvant les problèmes d’une manière qui facilite et optimise la commodité.

Dernières idées

L’IA est tout aussi intelligente que les informations que nous lui transmettons. Si vous révélez un algorithme d’apprentissage automatique 100 000 photos d’un poisson, il peut finalement raisonner sur le poisson, mais un tout-petit peut voir une ou deux images d’un poisson et déterminer si l’image suivante est ou non un poisson ou autre chose.

Cependant, les chercheurs ne sont pas toujours tout à fait sûrs de la façon dont l’IA prend les décisions qu’elle prend, sauf si vous lui fournissez des informations biaisées, vous obtenez des résultats biaisés. C’est pourquoi la reconnaissance faciale a des problèmes pour reconnaître correctement les personnes à la peau plus foncée. Les ensembles de données d’images utilisées pour former les algorithmes de reconnaissance faciale contiennent plus d’images d’individus à la peau plus claire que de personnes à la peau plus foncée. En conséquence, il y a eu une poussée de l’industrie vers une IA explicable. « XAI » afin que vous puissiez voir quels choix l’appareil a dû faire pour prendre sa décision.

Chez Innovatrics, nous avons découvert que notre algorithme d’IA est capable d’identifier les visages derrière des masques faciaux, même si cela n’a pas été le cas. appris à le faire. Il est pratiquement incompréhensible comment l’IA fait ses choix car jusqu’à présent, l’ouverture ou l’explicabilité n’ont pas été des résultats majeurs pris en compte par les ingénieurs de l’IA lors de la recherche de résultats. l’innovation est entrée en impact, l’explicabilité et la cohérence deviendront l’exigence. Les entreprises qui attachent de l’importance à la transparence et à la confidentialité de leurs clients s’imposeront dans cette toute nouvelle ère de l’intelligence artificielle.

À propos de l’auteur

Jan Lunter est fondateur et directeur technique/directeur général d’Innovatrics , une entreprise spécialisée dans la technologie de gestion des identités biométriques.

AVIS DE NON-RESPONSABILITÉ : L’Entrepreneur’s Industry Insights est un contenu soumis. Les opinions exprimées dans cet article sont celles de l’auteur et ne reflètent pas nécessairement celles de L’Entrepreneur.