- Les régulateurs du monde entier cherchent comment ils peuvent superviser les algorithmes tout-puissants qui régissent et automatisent de vastes aspects de notre vie numérique
- Les plateformes de médias sociaux font partie des services connus pour collecter des données sensibles afin de diffuser des publicités aux utilisateurs
- Utiliser à mauvais escient les données des employés dans les applications de livraison en Chine et cultiver les biais de l’IA dans les US, sont quelques-unes des conduites basées sur des algorithmes qui ont fait l’objet d’un examen minutieux
D’après les vidéos YouTube qui nous sont recommandées pour décider qui obtient un emploi, les algorithmes exercent une influence croissante sur nos vies, et les décideurs du monde entier veulent les maîtriser. Alors que la Chine s’inquiète des algorithmes d’applications de diffusion qui encouragent leurs conducteurs à accélérer, les législateurs américains sont aux prises avec des systèmes de recommandation de médias sociaux qui ont envoyé certains utilisateurs dans des terriers dangereux.
Un point de vente Meta sera le premier magasin Facebook
« Les algorithmes peuvent être utiles, bien sûr, mais de nombreuses personnes ne savent tout simplement pas à quel point leur expérience sur ces plateformes est manipulée », a écrit John Thune, l’un des nombreux sénateurs américains proposant une nouvelle législation sur les médias sociaux, dans un CNN éditorial.
Facebook a fait l’objet de vives critiques après qu’un dénonciateur a révélé que les dirigeants connaissaient les l’algorithme du site a systématiquement promu des messages incendiaires dans les fils d’actualité des gens, alimentant la division et les troubles de l’Inde à l’Éthiopie. Frances Haugen, l’ancienne ingénieure Facebook à l’origine des révélations, pense que les gens méritent d’en savoir plus sur la façon dont le contenu qu’ils voient est façonné par le fouillis de données qui alimente la machine des médias sociaux.
« Je pense que si nous disons simplement » nous allons réguler les algorithmes « , c’est tellement amorphe », a déclaré Haugen à l’AFP dans une interview la semaine dernière. « Je pense qu’il est plus puissant de dire: » Hé Facebook, vous avez beaucoup plus de transparence que nous « », et forcer l’entreprise à en révéler davantage sur le fonctionnement de ses systèmes, a-t-elle déclaré.
Situation délicate avec les algorithmes des réseaux sociaux
Les militants et les législateurs peuvent convenir que les algorithmes des géants de la technologie ont besoin d’une plus grande surveillance publique, mais comment y parvenir est une autre affaire. « Il y a des questions vraiment difficiles sans réponse », a déclaré Daphne Keller, directrice de la réglementation des plates-formes au Stanford Cyber Policy Center.
Dans l’Union européenne, où les législateurs débattent de deux vastes textes législatifs technologiques, « certaines propositions indiquent que les algorithmes devraient donner la priorité aux sources d’information faisant autorité, et d’autres disent qu’ils devraient donner la priorité aux sources diverses », a noté Keller. « Comment conciliez-vous ces deux objectifs ? »
Alexandra Veitch, directrice des affaires gouvernementales pour YouTube, fait une déclaration liminaire lors d’une audience du sous-comité judiciaire du Sénat sur la protection de la vie privée, la technologie et le droit au Capitole des États-Unis, où des témoignages sur l’utilisation d’algorithmes et d’amplification par les plateformes de médias sociaux ont été entendus. (Photo de POOL / GETTY IMAGES NORTH AMERICA / Getty Images via AFP)
La voie à suivre est tout aussi floue aux États-Unis, où des dizaines d’amendements juridiques ont été proposés par des législateurs déchirés par la question de savoir exactement ce qui doit être corrigé dans les médias sociaux. « À gauche, les gens n’aiment pas toutes les choses nuisibles comme les discours de haine et la désinformation ; à droite, les gens pensent que leur liberté d’expression leur est retirée », a résumé Noah Giansiracusa, auteur de How Algorithms Create and Prevent Fake News.
Les politiciens et les universitaires ont suggéré divers moyens de limiter les effets secondaires néfastes des algorithmes des réseaux sociaux – aucun sans leurs complications.
Certains suggèrent que des plateformes comme Facebook et Twitter pourraient être légalement responsables de ce qu’ils publient, ce qui les découragerait d’amplifier les messages qui propagent la haine ou la désinformation. Mais aux États-Unis, où sont basés la plupart des géants des médias sociaux, Giansiracusa a déclaré que cela ferait rapidement face à des défis juridiques de la part de critiques accusant cela de violer le droit à la liberté d’expression.
Alternativement, les gouvernements pourraient restreindre la capacité des réseaux sociaux à personnaliser ce que les gens voient dans leurs flux. YouTube et Facebook ont été accusés d’avoir involontairement radicalisé certaines personnes de cette manière, en les alimentant poste après poste de contenu chargé de théories du complot.
Les sociétés de médias sociaux pourraient être obligées d’afficher simplement les messages des personnes dans l’ordre chronologique, mais cela risque de rendre le défilement d’un flux plus ennuyeux.
Les algorithmes ne seraient plus en mesure de calculer ce qu’un utilisateur trouvera probablement intéressant – une photo d’un ami proche en train de se marier, par exemple – tout en déclassant les messages fastidieux sur ce qu’une connaissance a mangé pour le déjeuner.
« Il n’y a pas de solution simple », a conclu Giansiracusa.
GEANTS DE LA TECHNOLOGIE
Les plateformes de réseaux sociaux détiennent le pouvoir, mais pas tout