L’IA et la cybersécurité s’assemblent, selon le directeur clinique de Microsoft, et le département américain de la Défense a besoin d’intensifier.
Eric Horvitz a affirmé aujourd’hui devant le sous-comité de la cybersécurité du Comité sénatorial des forces armées, déclarant que l’IA s’améliore pour trouver des identités contrôlées et synthétiques, y compris des deepfakes.
Les algorithmes d’IA améliorent l’efficacité des cyberattaques et, à leur tour, les algorithmes finissent par être plus susceptibles d’être attaqués, déclare Horvitz. Cela commence à effrayer beaucoup d’individus. Les problèmes d’Europol, par exemple, se multiplient.
Les tout premiers produits industriels créés pour identifier des identités synthétiques arrivent. Naturellement, il a informé les sénateurs des produits anti-cyberattaques de Microsoft.
Cette semaine également, des nouvelles d’une nouvelle étude de recherche sur la recherche de fausses expressions comme méthode de signalement des vidéos deepfake et d’un tout nouveau logiciel industriel capable d’identifier les -Escroqueries d’identité. Le mois dernier, Unite.AI a signalé une méthode moins compliquée pour détecter les deepfakes en utilisant la biométrie.
Des chercheurs de l’Université de Californie, Riverside, affirment que leur cadre de détection de manipulation d’expression peut détecter puis mettre en évidence les emplacements émotifs d’un visage qui ont effectivement été modifiés. Leur article est ici.
Pendant ce temps, une société appelée Early Caution Services déclare sa plus récente application logicielle basée sur l’IA, Confirm Identity, qui permet à une entreprise de déterminer en temps réel si une identité présentée est valide ou synthétique .
Peu de recommandations de Horvitz à l’establishment de la défense sont inattendues : investir dans la recherche et le développement, suivre les meilleures pratiques en matière de sécurité sanitaire, former les membres du personnel, créer des réseaux pour partager des détails et des expériences, se préparer au pire.
Plus fascinant, il recommande au Département de la Défense « de promouvoir les utilisations de la provenance des médias numériques pour les nouvelles et les interactions dans… les contextes civils. »
C’est le sujet de la législation – le Deepfake Job Force Act – présenté au Sénat l’été dernier, qui suggérerait des systèmes pour déterminer qui a développé et par conséquent manipulé du contenu deepfake.
Ce serait une tâche difficile, que le gouvernement mentionne de fausses informations. Alors que personne ne devrait prendre les deepfakes à leur valeur déclarée, de nombreuses personnes soupçonnent le gouvernement fédéral lui-même.
Toute l’actualité en temps réel, est sur L’Entrepreneur
