ce que l’on appelle communément système expert ou IA finit par être de plus en plus intégré à la société, un éventail de points de vue émerge sur la manière de gouverner son système. des usages plus contestables, et notamment la reconnaissance faciale. La façon dont les universitaires, les décideurs politiques et les régulateurs arrivent avec une reconnaissance faciale peut dépendre de la façon dont ils la perçoivent – ou, plus exactement, de la façon dont elle les perçoit.
Les utilisations de l’IA à risque faible et moyen sont déjà nombreuses
Dans un article sur le blog Concepts Made to Matter de la MIT Sloan School of Management, la journaliste Beth Stackpole rend compte d’une structure « feu de circulation, feu jaune, feu vert » pour la gouvernance de l’IA proposée par Dominique Shelton Leipzig, auteur du livre Trust: Responsible AI, Innovation, Privacy and Data Leadership, lors de la conférence EmTech MIT en novembre dernier. Leipzig estime que « l’engagement de l’IA est très étonnant, mais pour y parvenir, il va falloir faire du survol », afin de « sécuriser votre marque et avoir l’opportunité de développer la confiance avec vos clients, vos employés, et partenaires de service. »
La structure recommandée par Shelton Leipzig, axée sur la résolution des problèmes sur la sécurité et les préjugés dans l’IA, s’appuie sur des projets de loi émanant de 78 pays du monde entier. Il est également basé sur le contrôle de la circulation, classifiant les cas d’utilisation de l’IA en fonction du risque : feu rouge (restreint), feu jaune (risque élevé) et pouce levé (risque faible). De nombreux cas d’utilisation du feu vert sont déjà répandus ; Shelton Leipzig mentionne les chatbots et l’IA dans les jeux vidéo comme exemples d’utilisations présentant un faible risque de prédisposition. Les cas de feux rouges sont assez inhabituels, 15 seulement ayant été déterminés par les cadres juridiques. Il s’agit d’une surveillance interdite associée à l’exercice des valeurs démocratiques, d’une sécurité continue dans les espaces publics, d’un suivi biométrique à distance et d’un score social.
Les cas d’utilisation de la lumière jaune sont les plus courants, Shelton Leipzig en recensant jusqu’à 140. des exemples, tels que l’utilisation de l’IA dans la préparation et les soins de la famille, les applications RH et pour certaines utilisations dans la surveillance, la démocratie et la fabrication. Pour résoudre ces cas et les cas chauds, Shelton Leipzig propose une procédure basée sur la loi européenne sur l’IA et sur le projet de la Maison Blanche pour une déclaration des droits de l’IA. Il suggère d’anticiper la législation en attente en garantissant que les informations utilisées sont exactes, appropriées et légales à utiliser ; accueillir des tests constants pour les biais algorithmiques et la conformité réglementaire ; permettre une surveillance humaine ; et une structure de sécurité pour mettre fin aux « écarts ».
L’IA est là maintenant ; la plus grande question est de savoir si nous le désirons vraiment.
Delight Buolamwini choisit une structure beaucoup plus large pour remettre en question l’IA, une structure qui demande si c’est une bonne idée pour commencer. En parlant à WBUR de son livre, Unmasking AI: My Objective to Protect What Is Person in a World of Machines, la fondatrice de l’Algorithmic Justice League dit qu’elle était passionnée par l’IA jusqu’à ce qu’elle cesse de travailler pour reconnaître sa peau foncée. Son étude ultérieure au MIT a révélé des biais considérables dans les données d’entraînement utilisées pour la biométrie faciale.
« Nous avions beaucoup de données sur des hommes pâles », dit-elle. Cependant, son option n’est pas nécessairement une meilleure information ou davantage d’informations, qui restent basées sur des abus. « On peut abuser des systèmes précis », dit-elle. « Prenons par exemple un drone doté d’une arme à feu et d’une reconnaissance faciale. Nous nous demandons si nous souhaitons même que ce système existe dès le premier emplacement ? Et cela va au-delà de la question de la prédisposition des ensembles de données ou de la précision du modèle, à des questions plus vastes. sur le type de société dans lequel nous voulons vivre et sur les technologies que nous autorisons dans cette société. » Buolamwini est ardemment opposée à l’utilisation de la reconnaissance faciale pour la surveillance de masse et se déclare encouragée par l’interdiction de l’utilisation en direct du FRT dans les espaces publics dans la loi européenne sur l’IA.
Buolamwini affirme qu’un énorme Le problème réside dans le déséquilibre entre la manière dont les entreprises offrent la commodité de l’IA par rapport à la divulgation des menaces. Elle qualifie le moment présent de « scène un peu secrète en ce qui concerne l’IA », dans laquelle l’intérêt, les bénéfices et l’innovation sont concentrés sur une diligence excessive, et désigne les réseaux sociaux comme un exemple actuel de ce qui peut se produire lorsque les masses l’adoption dépasse la réglementation, voire la compréhension.
« Nous devons vraiment vérifier ces systèmes pour nous assurer qu’ils sont adaptés à leur objectif », déclare Buolamwini. « Nous ne pouvons pas simplement adhérer au récit marketing ou au buzz de l’IA et supposer que cela fonctionnera simplement parce qu’une entreprise nous a informé que c’est ce qu’elle est censée faire. Nous devons être plus approfondis, faire plus d’examens. . Il existe des possibilités quant à la manière dont ces outils pourraient être utilisés de manière utile. Nous devons procéder avec prudence. »
Toute l’actualité en temps réel, est sur L’Entrepreneur
