Les applications de système expert à haut risque utilisées dans toute l’UE devraient entrer dans le champ d’application de nouvelles règles dans le cadre de la citation de la Commission européenne pour renforcer la confiance dans les innovations de nouvelle génération, tout en protégeant les chances d’innovation.
Dans le cadre des stratégies révélées par l’exécutif européen le 21 avril, un ensemble restreint de restrictions directes d’innovations spécifiques a en fait été mis en avant, y compris des innovations pouvant être utilisées pour le contrôle subliminal, l’exploitation des personnes sensibles, des systèmes de notation sociale et des applications de reconnaissance biométrique en temps réel par les autorités policières, y compris la reconnaissance faciale dans les espaces publics.
Les technologies utilisées à ces fins constituent un soi-disant «risque inapproprié» par la Commission européenne et seraient donc interdites en vertu des propositions, qui entrent désormais dans la procédure interinstitutionnelle et seront débattues par l’UE États membres et le Parlement européen. L’ensemble du processus préalable à l’adoption pourrait prendre plusieurs mois et même s’étendre sur des années si les députés européens ou les États membres adoptaient des positions particulièrement fortes.
En dehors des restrictions, la Commission a également présenté une sorte de taxonomie des risques, cherche à couvrir d’autres applications du système Expert qui ne seront pas purement et simplement interdites, mais qui nécessiteront une surveillance humaine accrue.
Ici, les technologies considérées comme «à haut risque» seront soumises à des traitements d’évaluation des risques et à l’engagement que des ensembles de données de meilleure qualité doivent être utilisés dans le fonctionnement de l’IA, afin de minimiser les résultats potentiellement préjudiciables.
En ce qui concerne l’IA qui relève du champ d’application d’une catégorie de «danger plus restreint», la Commission souhaite voir des engagements d’ouverture plus élevés, par exemple en utilisant des chatbots en ligne, les utilisateurs doivent être informés qu’ils sont communiquer avec une machine et non avec un consultant humain.
« En définissant les exigences, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier et garantir que l’UE reste compétitive en cours de route », a déclaré la vice-présidente exécutive de la Commission pour le numérique, Margrethe Vestager, en annonçant les plans.
« À l’épreuve du futur et favorables à l’innovation, nos règles entreront en vigueur là où cela est strictement nécessaire: lorsque la sécurité et les droits essentiels des citoyens de l’UE sont en jeu. »
Fournir des chances d’innovation
Dans les efforts de la Commission pour équilibrer la confiance et l’innovation sur le marché européen de l’intelligence artificielle, elle a tenu à souligner que la «grande majorité» des systèmes d’IA ne sera pas réglementée dans les plans.
De son côté, l’environnement des start-up en Europe cherchera à examiner comment le texte pourrait leur permettre de rivaliser avec des acteurs plus grands et plus établis.
S’exprimant lors d’un événement en ligne en cours après la publication des stratégies, la Commission Kilian Gross, responsable de la direction de l’équipe qui avait effectivement rédigé le règlement, a reconnu une série d’avantages pour l’environnement européen des PME et des start-up.
Il s’agissait, a-t-il dit, de la réalité selon laquelle les étapes fourniraient plus d’un cadre harmonisé pour que les entreprises puissent fonctionner dans toute l’UE plutôt que de devoir concurrencer différentes lignes directrices dans tout le bloc. Gross a également gardé à l’esprit comment la confiance des clients sera accrue dans les articles d’IA grâce à l’utilisation de mécanismes d’assurance qualité plus clairs, à un moment où la confiance dans l’adoption des innovations reste empêchée.
Plus généralement, Gross a expliqué que la disposition relative à l’installation de « bacs à sable réglementaires » dans la directive permettrait aux start-ups de continuer à innover en créant un domaine réglementé par lequel les start-ups peuvent vérifier leurs innovations en matière d’IA, en coopération avec les autorités compétentes.
« Nous avons essayé d’aider nos startups parce que nous comprenons que beaucoup d’innovation vient de petites entreprises qui sont extrêmement imaginatives », a déclaré Gross. « Les bacs à sable réglementaires vous permettront de développer votre système d’IA avec le soutien de votre autorité de surveillance de la défense de l’information. »
« Cela doit vous aider à effectuer un vol simple lorsque vous arrivez à la fin de l’évaluation de la conformité. »
De plus, en ce qui concerne la capacité des entreprises à bénéficier d’ensembles de données spécifiques dans le cadre des tests de traitements dans des bacs à sable réglementaires, l’article 54 court du règlement établit un arrangement pour le traitement ultérieur des informations personnelles pour développer des Systèmes d’IA dans l’intérêt public général.
En ce qui concerne les coûts d’évaluation de la conformité eux-mêmes, il convient de garder à l’esprit que l’article 55 de la directive spécifie que «les intérêts et exigences particuliers des petits fournisseurs doivent être pris en compte», et que ces frais doivent à diminuer «proportionnellement à leur taille et à la taille du marché», dans ces traitements d’évaluation, qui seront effectués par les autorités informatrices désignées dans chaque État membre de l’UE.
Pour sa part, l’environnement des PME de l’UE a salué l’introduction par la Commission de bacs à sable réglementaires dans le texte, l’alliance européenne des PME numériques déclarant que cette décision « permettrait aux petites entreprises d’expérimenter et d’innover sans souci avec l’IA. de reproche. «
L’association Allied For Startups a également soutenu l’inclusion de bacs à sable régulateurs, mais a ajouté que dans une économie post-Covid, s’assurer que des marchés libres pour le développement deviendraient de plus en plus nécessaires.
« Alors que l’économie se rétablit après le COVID, les décideurs politiques doivent concevoir des directives en matière d’IA qui incitent davantage de propriétaires d’entreprise à lancer une start-up d’IA en Europe », Benedikt Blomeyer, directeur des politiques européennes chez Allied for Startups
Pour les petites entreprises européennes en général, la Commission Gross espère que l’indice de danger proposé et, pour cette raison, la fiabilité aideront à promouvoir le développement sur de tout nouveaux marchés de l’innovation.
« Si vous avez une étiquette typique de crédibilité, il sera plus facile de rivaliser avec les grandes entreprises », a déclaré Gross. « Les startups pourront concurrencer sur un pied d’égalité car si les articles provenant de grandes entreprises peuvent être plus sophistiqués, ils ne seront pas plus crédibles. »
En tant que méthode pour recueillir les commentaires du public sur les propositions publiées, l’UE L’exécutif a en fait ouvert une évaluation qui, espère-t-il, alimentera le différend législatif en cours. La période de rétroaction est ouverte jusqu’au 24 juin.
Crédit d’image en vedette : David Iskander / Unsplash
Photo : Christian Lue / Unsplash
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
