perte d’orgueil, les gens ont tendance à exagérer leur capacité à identifier les deepfakes, selon une nouvelle étude de Jumio. Pour l’étude sur l’identité en ligne 2023 de la société de vérification d’identité, ils ont examiné les données de 8 055 consommateurs aux États-Unis, au Royaume-Uni, à Singapour et au Mexique.
Plus des deux tiers des personnes interrogées ont compris les capacités des outils d’IA générative. , et plus de la moitié étaient convaincus qu’ils pourraient identifier une vidéo deepfake créée par un grand modèle de langage, ou IA. Les progrès des outils d’IA générative (dont ChatGPT est actuellement le plus médiatisé et le plus connu) ont compliqué le tableau, et les escroqueries restent un problème coûteux. Selon Jumio, en 2022, les fraudes par usurpation d’identité ont coûté 177 millions de dollars au Royaume-Uni et 2,6 milliards de dollars aux consommateurs américains. De toute évidence, nous ne sommes pas aussi sages que nous le croyons en matière d’IA, ni aussi prudents que nous devrions l’être.
« Beaucoup d’individus semblent penser qu’ils peuvent trouver un deepfake », a déclaré Stuart Wells, responsable principal de la technologie chez Jumio, dans un communiqué de presse. « Bien qu’il y ait certainement des indications révélatrices à rechercher, les deepfakes s’améliorent constamment et finissent par être très difficiles à trouver sans l’aide de l’IA. »
« Bien que alimenté par l’IA l’innovation sera progressivement nécessaire aux organisations pour trouver et protéger leurs réseaux et leurs clients contre les deepfakes, les consommateurs peuvent se protéger eux-mêmes en traitant des images, des vidéos et des sons intrigants avec incertitude », a déclaré Wells.
Nous le sommes, semble-t-il , s’apercevant du danger, du moins à certains endroits. Les personnes interrogées à Singapour et au Mexique ont démontré une grande sensibilisation à la menace potentielle du vol d’identité et d’autres utilisations dangereuses, à 73 et 62 %, respectivement. Les États-Unis et le Royaume-Uni ont répondu à moins de la moitié.
« Les organisations ont la responsabilité d’éduquer leurs clients sur les nuances des innovations d’IA générative pour les aider à établir des attentes plus pratiques quant à leur capacité à identifier les deepfakes », a déclaré Philipp Pointner, le chef de l’identité numérique de Jumio. Il s’est inquiété de la nécessité tout aussi urgente d’outils de sécurité et de protection des données adéquats. « Les organisations en ligne devraient vouloir exécuter des systèmes de confirmation multimodaux basés sur la biométrie capables de détecter les deepfakes et d’éviter l’utilisation d’informations personnelles volées », a-t-il déclaré.
Dans des résultats reflétés dans des rapports similaires, 68 % des consommateurs ont déclaré ils étaient à l’aise en utilisant une identification numérique, les services monétaires, le gouvernement fédéral et les soins de santé se classant parmi les services pour lesquels l’identification numérique est choisie.
Au début de 2023, Jumio a révélé qu’il avait dépassé les 200 millions de dollars de réservations pour son outils de biométrie pour les selfies, de vérification d’identité et d’évaluation des menaces.
Toute l’actualité en temps réel, est sur L’Entrepreneur
