Des scientifiques de Facebook et de la Michigan State University expliquent leur approche d’ingénierie inverse pour reconnaître les deepfakes et apprendre ce qui a été utilisé pour les produire.
Personne ne dit à quel point c’est précis, cependant un article dans VentureBeat estime que les scientifiques des organisations déclarant que leur tactique est « significativement meilleure » par rapport à l’opportunité et « compétitive » par rapport à d’autres systèmes de détection de deepfake.
Les développeurs de biométrie NtechLab et ID Il y a un an, la R&D s’est classée parmi les leaders de la difficulté de détection des deepfakes de Facebook.
Les dirigeants de Facebook ont sélectionné des scientifiques de MSU pour collaborer sur un moyen de prendre un deepfake reconnu à partir d’une seule image fixe ou d’une image, et de le rétro-concevoir pour le reconnaître les outils qui l’ont créé.
Les scientifiques disent que leur concept permettrait également de repérer des projets de désinformation en collaboration, y compris diverses images artificielles de la même source sont publiées sur de nombreuses plateformes.
Une image deepfake est exécuté un soi-disant réseau d’estimation d’empreintes digitales, qui signale des modèles distincts des modèles génératifs qui ont développé le matériau. Des ensembles de données d’empreintes digitales sont utilisés pour former des conceptions afin de trouver des empreintes digitales toutes neuves, ou au moins toutes nouvelles pour une conception.
Le scientifique a vérifié leur concept en utilisant 100 conceptions open source pour développer -ensemble de données d’images.
Selon VentureBeat, Facebook a en fait exprimé sa confiance que l’outil fonctionnera au-delà du laboratoire, mais la société n’a en fait pas commencé à l’utiliser dans le cadre de son objectif d’empêcher la génération d’IA trompeuse des images vidéo et des images fixes d’atteindre les abonnés.
Toute l’actualité en temps réel, est sur L’Entrepreneur
