une avancée qui ne devrait en étonner que quelques-uns dans la communauté de la reconnaissance faciale, il y a des nouvelles plus troublantes sur la progression et la rapidité des deepfakes.
Des algorithmes efficaces pour communiquer avec les gens et créer des histoires entières pourraient bientôt faire partie des « boîtes à outils de persuasion » des propagandistes, selon Eric Horvitz, directeur scientifique de Microsoft.
Dans un tout nouveau document de recherche, il écrit que l’avenir réserve des tactiques contrefaites et des avancées technologiques qui pourraient assouplir l’emprise actuellement fragile de la société sur la vérité.
Horvitz a une liste d’actions que l’humanité doit entreprendre pour relever le défi auquel elle est confrontée. Pour le meilleur ou pour le pire, un certain nombre d’actions ne dépendent pas de l’innovation, mais du fait que les individus deviennent plus analytiques en ce qui concerne les informations qu’ils recueillent.
Il voit deux risques immédiats : les deepfakes interactifs et les deepfakes compositionnels. Les premiers interagiront avec les êtres humains d’une manière qui rend tout cependant impossible pour une personne ordinaire de parler maintenant avec du code.
Le second sera des deepfakes avec des backstories. Produire des scènes dans lesquelles vit le deepfake. Cela pourrait être le théâtre d’un accident ou d’une collection de clips de réseaux sociaux semblant révéler une personne lors de fêtes d’anniversaire au fil des ans.
Une étude récente est inquiétante. Horvitz mentionne une étude de recherche de 2020 sur les marionnettes à voix neurale qui produit un spectacle « engageant » de mouvements de visage en temps réel correspondant à des mots prononcés dans les coulisses par une star.
Mapper l’audio sur une expression et créer une fabrication sensible , écrit-il, a été réalisé en 5 millisecondes en utilisant un processeur Nvidia 1080Ti. Deux ans auparavant, les scientifiques ont démontré des modèles neuronaux profonds qui génèrent une parole sensible à partir de texte.
Et les avatars de travail qui sont développés pour imiter la conception de communication idiosyncratique d’un humain provoquent des avatars qui « euh » de manière réaliste, s’agitent du visage et ainsi de suite on.
Des avatars hybrides sont également dans les coulisses. Ceux-ci confient le contrôle d’une discussion à un avatar deepfake, mais ont la vraie conception humaine correspondant au faux prêt à être sournoisement échangé en cas de besoin.
Ces avancées et d’autres jettent les bases de deepfakes raisonnablement interactifs, écrit Horvitz.
Les deepfakes compositionnels sont aussi des « instructions préoccupantes et possibles », écrit-il. Ils produisent des histoires, pas seulement une image ou un avatar fait pour accomplir une tâche.
Cette circonstance horrible inclut la possibilité de fabriquer complètement des incidents à épisser, pour ainsi dire, entre des événements authentiques. L’objectif serait de faire en sorte qu’un événement créé se combine parfaitement avec des événements réels, communiquant la confiance au faux.
Une partie de la réponse consiste à produire un environnement qui promeut un excellent journalisme local et mondial. Identifier les personnes de confiance avec des informations fiables a toujours été une action essentielle dans la lutte contre la désinformation. Parallèlement à cela, Horvitz prescrit des projets d’éducation aux médias.
La provenance du contenu, les protocoles de crédibilité, les filigranes et autres « empreintes digitales » numériques peuvent également permettre d’éviter plus facilement les personnalités et les événements trompeurs.
De toute évidence, la détection par de nouveaux algorithmes ainsi que l’autorégulation et la politique du gouvernement fédéral sont discutées. Horvitz semble déclarer que rien de tout cela ne fonctionnera à moins qu’il ne soit accompagné d’une obligation individuelle.
Toute l’actualité en temps réel, est sur L’Entrepreneur
