L’avancement, la mise en œuvre et l’utilisation de technologies basées sur l’intelligence artificielle telles que la reconnaissance faciale se répandent comme une traînée de poudre dans le monde aujourd’hui, mais cela doit être accompagné d’efforts délibérés visant à garantir que les individus obtiennent dépendent profondément de ces systèmes.
Ceci est le résumé des points de vue exprimés par le ministre de l’Infotech de l’État indien de Telangana, KT Rama Rao, lors d’une table ronde lors du récent événement du Forum économique mondial (WEF) à Davos.
Intitulé ‘IA on the Street : Managing Trust in the general public Square, ‘ la table ronde a vu la participation du PDG de NEC Corporation, Takayuki Morita ; le PDG d’Edge Technologies Coen van Oostrom, et la directrice exécutive d’Ushahidi, une application logicielle open source basée en Afrique du Sud, Angela Smell Lungati.
Au cours de la discussion animée par un urbaniste qualifié et Professeur Carlo Ratti, les panélistes ont d’abord été unanimes sur la valeur des technologies basées sur l’IA pour la société, avant de passer en revue quelques-uns des obstacles et des menaces qu’elles comportent.
Alors que le problème de la confiance dans la technologie de reconnaissance faciale est absolument crucial, l’effet et l’importance sont également à prendre en compte avant tout déploiement. C’est ce que pense KT Rama Rao. « Parmi les choses importantes auxquelles nous croyons en tant que gouvernement, c’est que peu importe à quel point une innovation est cool et fantaisiste, elle est inutile si elle n’a aucun effet sociétal positif. Nous utilisons la reconnaissance faciale et l’IA dans notre gouvernement », a-t-il déclaré en décrivant que le gouvernement fédéral utilise la reconnaissance faciale pour des fonctions telles que la vérification d’identité pour acquérir des services spécifiques, pour le renouvellement des permis de conduire et pour le vote électronique (qui est encore en phase pilote).
Rao garde également à l’esprit l’importance d’une structure pour l’utilisation de la biométrie faciale dans la loi et la transparence des exécutions.
« Il est essentiel d’utiliser une approche consensuelle qui garantit que les résidents se voient offrir un choix d’autorisation pour l’utilisation de ces technologies, et de même pour garantir que les autorités gouvernementales sont informées et ont un accès restreint aux données. Il y a eu des critiques et des problèmes, mais dans l’ensemble, je pense que le nôtre a en fait été un modèle efficace, et il aide la société dans son ensemble », a-t-il ajouté.
Rao sur une autre note a déclaré qu’en raison du fait qu’il s’agit d’innovations émergentes, les efforts pour améliorer le développement et la mise en œuvre de ces solutions d’IA doivent être cohérents afin de construire le garanties d’efficacité requises pour leur bon fonctionnement.
Pendant ce temps, discutant de la confiance dans l’IA, Morita de NEC a déclaré : « La principale préoccupation dans le déploiement de technologies de surveillance telles que la reconnaissance faciale est la confiance. La confiance doit être construite sur la base de l’ouverture. Les préoccupations doivent être posées sur la façon dont les informations seront traitées. Il est nécessaire de développer des concepts et des réglementations. »
Le PDG d’Edge, van Oostrom, a pour sa part fait valoir que bien que de nombreuses innovations de suivi soient essentielles dans différentes applications, elles présentent également un inconvénient et, souvent, elles permettent aux entreprises ou les organisations disposent de beaucoup plus d’informations personnelles qu’elles ne devraient en avoir, ce qui soulève des problèmes de confiance.
« Les gens semblent ne plus faire confiance aux gouvernements. La question est de savoir comment utiliser ces innovations au profit des individus sans entrer dans une situation où la confiance finit par être une force très défavorable. Les individus aimeront absolument sauter dans ou adopter de telles innovations si elles profitent à leur vie « , a déclaré le patron d’Edge.
Intervenant dans la discussion, Angela Odor Lungati a souligné la nature invasive des technologies comme la reconnaissance faciale et les dangers les individus peuvent être exposés.
« Beaucoup d’individus ne savent pas à quelles menaces les technologies telles que la reconnaissance faciale créent ou pourraient les exposer. Quelques-uns de ces outils d’IA aggravent également les inégalités existantes et propagent des biais spécifiques qui existent déjà. Cela dépend principalement de qui développe ces outils et du type de données qui sont introduites dans ces systèmes », a-t-elle mentionné.
Ce point qu’elle a amené les panélistes au problème de la façon dont les algorithmes de reconnaissance faciale sont en cours de formation, car certains d’entre eux sont censés avoir été construits avec des performances assez médiocres pour reconnaître les personnes ayant des couleurs et des tons de peau spécifiques.
Une autre proposition faite par les panélistes concernant l’avancement, la mise en œuvre et l’utilisation de telles innovations d’IA est la nécessité d’une confirmation par un tiers de la manière dont les données sont collectées et utilisées, et de l’implication active des individus des communautés que ces systèmes sont censés servir.
« Du point de vue du développement de ces systèmes , il faut s’assurer que les quartiers que l’on veut desservir soient bien représentés. Je dois également reconnaître les progrès qui ont été réalisés dans l’élaboration de politiques et de lignes directrices à ce sujet, malgré les problèmes. Nous devons également commencer à examiner comment donner aux gens normaux les moyens de commencer à organiser l’exécution de certaines de ces réglementations ; » a déclaré Smell Lungati, ajoutant qu’éduquer les gens sur leurs droits et à quoi leurs informations seront utilisées est Il est très important de leur permettre de choisir de participer ou non. Elle dit qu’il est tout aussi important que les problèmes qui engendrent le scepticisme dans les systèmes d’IA soient d’abord clairement déterminés avant que des efforts puissent être faits pour les résoudre.
.
Toute l’actualité en temps réel, est sur L’Entrepreneur
