mardi, 7 décembre 2021

Voici en quoi les États-Unis et la Chine diffèrent lorsqu’ils contrôlent les algorithmes tout-puissants

  • Les régulateurs du monde entier cherchent comment ils peuvent superviser les algorithmes tout-puissants qui régissent et automatisent de vastes aspects de notre vie numérique
  • Les plateformes de médias sociaux font partie des services connus pour collecter des données sensibles afin de diffuser des publicités aux utilisateurs
  • Utiliser à mauvais escient les données des employés dans les applications de livraison en Chine et cultiver les biais de l’IA dans les US, sont quelques-unes des conduites basées sur des algorithmes qui ont fait l’objet d’un examen minutieux

D’après les vidéos YouTube qui nous sont recommandées pour décider qui obtient un emploi, les algorithmes exercent une influence croissante sur nos vies, et les décideurs du monde entier veulent les maîtriser. Alors que la Chine s’inquiète des algorithmes d’applications de diffusion qui encouragent leurs conducteurs à accélérer, les législateurs américains sont aux prises avec des systèmes de recommandation de médias sociaux qui ont envoyé certains utilisateurs dans des terriers dangereux.

Un point de vente Meta sera le premier magasin

« Les algorithmes peuvent être utiles, bien sûr, mais de nombreuses personnes ne savent tout simplement pas à quel point leur expérience sur ces plateformes est manipulée », a écrit John Thune, l’un des nombreux sénateurs américains proposant une nouvelle législation sur les médias sociaux, dans un CNN éditorial.

Facebook a fait l’objet de vives critiques après qu’un dénonciateur a révélé que les dirigeants connaissaient les l’algorithme du site a systématiquement promu des messages incendiaires dans les fils d’actualité des gens, alimentant la division et les troubles de l’Inde à l’Éthiopie. Frances Haugen, l’ancienne ingénieure à l’origine des révélations, pense que les gens méritent d’en savoir plus sur la façon dont le contenu qu’ils voient est façonné par le fouillis de données qui alimente la machine des médias sociaux.

« Je pense que si nous disons simplement » nous allons réguler les algorithmes « , c’est tellement amorphe », a déclaré Haugen à l’AFP dans une interview la semaine dernière. « Je pense qu’il est plus puissant de dire: » Hé Facebook, vous avez beaucoup plus de transparence que nous «  », et forcer l’entreprise à en révéler davantage sur le fonctionnement de ses systèmes, a-t-elle déclaré.

Situation délicate avec les algorithmes des réseaux sociaux

Les militants et les législateurs peuvent convenir que les algorithmes des géants de la technologie ont besoin d’une plus grande surveillance publique, mais comment y parvenir est une autre affaire. « Il y a des questions vraiment difficiles sans réponse », a déclaré Daphne Keller, directrice de la réglementation des plates-formes au Stanford Cyber ​​Policy Center.

Dans l’Union européenne, où les législateurs débattent de deux vastes textes législatifs technologiques, « certaines propositions indiquent que les algorithmes devraient donner la priorité aux sources d’information faisant autorité, et d’autres disent qu’ils devraient donner la priorité aux sources diverses », a noté Keller. « Comment conciliez-vous ces deux objectifs ? »

Alexandra Veitch, directrice des affaires gouvernementales pour YouTube, fait une déclaration liminaire lors d’une audience du sous-comité judiciaire du Sénat sur la protection de la vie privée, la technologie et le droit au Capitole des États-Unis, où des témoignages sur l’utilisation d’algorithmes et d’amplification par les plateformes de médias sociaux ont été entendus. (Photo de POOL / GETTY IMAGES NORTH AMERICA / Getty Images via AFP)

La voie à suivre est tout aussi floue aux États-Unis, où des dizaines d’amendements juridiques ont été proposés par des législateurs déchirés par la question de savoir exactement ce qui doit être corrigé dans les médias sociaux. « À gauche, les gens n’aiment pas toutes les choses nuisibles comme les discours de haine et la désinformation ; à droite, les gens pensent que leur liberté d’expression leur est retirée », a résumé Noah Giansiracusa, auteur de How Algorithms Create and Prevent Fake News.

Les politiciens et les universitaires ont suggéré divers moyens de limiter les effets secondaires néfastes des algorithmes des réseaux sociaux – aucun sans leurs complications.

Certains suggèrent que des plateformes comme et Twitter pourraient être légalement responsables de ce qu’ils publient, ce qui les découragerait d’amplifier les messages qui propagent la haine ou la désinformation. Mais aux États-Unis, où sont basés la plupart des géants des médias sociaux, Giansiracusa a déclaré que cela ferait rapidement face à des défis juridiques de la part de critiques accusant cela de violer le droit à la liberté d’expression.

Alternativement, les gouvernements pourraient restreindre la capacité des réseaux sociaux à personnaliser ce que les gens voient dans leurs flux. YouTube et ont ​​été accusés d’avoir involontairement radicalisé certaines personnes de cette manière, en les alimentant poste après poste de contenu chargé de théories du complot.

Les sociétés de médias sociaux pourraient être obligées d’afficher simplement les messages des personnes dans l’ordre chronologique, mais cela risque de rendre le défilement d’un flux plus ennuyeux.

Les algorithmes ne seraient plus en mesure de calculer ce qu’un utilisateur trouvera probablement intéressant – une photo d’un ami proche en train de se marier, par exemple – tout en déclassant les messages fastidieux sur ce qu’une connaissance a mangé pour le déjeuner.

« Il n’y a pas de solution simple », a conclu Giansiracusa.

Les plateformes de réseaux sociaux détiennent le pouvoir, mais pas tout

Déchets entrants, déchets sortants

Au-delà des médias sociaux, la dépendance du monde à l’égard de la technologie numérique signifie que les algorithmes affectent de plus en plus les résultats du monde réel, parfois de manière drastique.

Le chien de garde du cyberespace chinois réfléchit à une réglementation plus poussée des algorithmes des entreprises technologiques, notamment après avoir critiqué la façon dont les applications de livraison de nourriture comme Meituan et Ele.me d’Alibaba traitent les travailleurs de concert financièrement vulnérables. Ces applications ont fait l’objet de critiques pour avoir réduit la rémunération des chauffeurs s’ils n’arrivent pas assez rapidement, encourageant ainsi la conduite imprudente.

Et des études ont montré comment l’intelligence artificielle peut s’avérer raciste ou sexiste, des outils d’analyse de CV qui favorisent les candidats masculins, aux logiciels américains d’évaluation des risques qui recommandent la libération conditionnelle aux prisonniers blancs plus fréquemment que leurs homologues noirs.

Les deux sont des exemples d’un principe informatique connu sous le nom de « garbage in, garbage out » – l’idée que les algorithmes peuvent reproduire les biais humains s’ils sont alimentés par des données intégrées avec ces biais.

Les régulateurs cherchent de plus en plus des moyens d’empêcher ces résultats discriminatoires, la Federal Trade Commission des signalant qu’elle pénalisera les entreprises qui vendent des algorithmes biaisés.

« La façon dont les algorithmes façonnent notre fil d’actualité est importante », a déclaré Keller. « Mais lorsque les algorithmes envoient des gens en prison ou leur refusent un emploi, cela n’attire pas suffisamment l’attention. »

 

 

 

 

 

.

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici