soulèvent de « graves inquiétudes », déclare le chef des droits de l’homme des Nations Unies dans une série de suggestions récemment fournies pour la loi sur le système expert de l’Union européenne (loi sur l’IA). Dans une lettre ouverte publiée mercredi, le Haut-Commissaire des Nations Unies aux droits de la personne, Volker Türk, a partagé son point de vue sur la législation, qui est actuellement contestée par les décideurs politiques européens. Dans la lettre, Türk exprime son inquiétude quant à l’impact des puissants systèmes de surveillance de l’IA sur les droits de l’homme dans le monde. « Les systèmes de surveillance biométrique à distance, en particulier
, soulèvent des inquiétudes majeures quant à leur proportionnalité, compte tenu de leur nature hautement invasive et de leurs effets étendus sur un grand nombre d’individus », écrit Türk. « Par exemple, l’utilisation par la police d’outils de reconnaissance faciale pour scanner les foules ou les manifestations est aveugle, ce qui entraîne un risque inacceptable pour les droits de l’homme. » temps, en échange de concessions dans d’autres endroits. Les projets de loi précédents imposaient des limites à l’innovation, autorisant son utilisation uniquement pour rechercher des personnes disparues, des terroristes et des suspects d’activités criminelles majeures. Le commissaire aux droits a également révélé son soutien à l’interdiction des systèmes qui traitent les informations biométriques pour catégoriser les personnes
en fonction de la couleur de leur peau, de leur sexe ou d’autres caractéristiques protégées. En outre, une interdiction doit rester en vigueur pour les systèmes d’IA qui reconnaissent les sentiments et prédisent les infractions pénales, ainsi que pour les outils de grattage non ciblés utilisés pour créer des bases de données de reconnaissance faciale. « Ces outils entraînent des problèmes de précision dangereux, souvent dus à un manque de fondement scientifique. , et sont profondément envahissants », déclare Türk.
« Ils menacent de porter systématiquement atteinte aux droits de l’homme, dans le cadre de procédures régulières et de garanties judiciaires spécifiques. » Le bureau du commissaire a également révélé un problème avec une proposition visant à permettre aux entreprises de -déterminer si leurs systèmes d’IA appartiennent à une catégorie à haut risque – l’un des 3 niveaux que le règlement attribue aux applications d’IA en fonction du risque possible qu’elles présentent. Une telle conception pourrait finir par affaiblir les avantages de la loi sur l’IA, garde à l’esprit Türk. En juin, le Parlement européen a autorisé la prochaine phase de la loi sur l’IA, qui comprend des accords en trilogue entre le Parlement européen, le Conseil des ministres de l’UE représentant les gouvernements européens et la Commission européenne. La loi en est actuellement à son cinquième cycle de négociations en trilogue, mais la ligne directrice a encore un long chemin à parcourir. La sécurité biométrique pourrait rester un point de discorde pour les législateurs jusqu’à la toute dernière minute. Cette semaine, les membres du Conseil ont déclaré qu’ils souhaitaient davantage d’exemptions pour la surveillance biométrique liée à la sécurité nationale, mais une « interdiction stricte » de son utilisation dans les lieux publics. En échange, la loi sur l’IA renforcera les restrictions sur les plateformes de grattage du visage. Les législateurs européens espèrent que la version finale de ce monument sera adoptée à un moment donné en 2025.
Toute l’actualité en temps réel, est sur L’Entrepreneur
