mercredi, 24 avril 2024

Le NIST lance un groupe de travail public sur l’IA générative

L’Institut national

des normes et de l’innovation des États-Unis met en place un groupe de travail public sur l’IA générative, selon la secrétaire au Commerce Gina Raimondo. Cette décision fait partie de l’engagement de l’administration Biden à résoudre les opportunités et les menaces associées à l’IA.

Le groupe de travail « aidera à fournir des conseils importants aux organisations qui développent, publient et utilisent l’IA générative, et qui ont l’obligation de garantir sa fiabilité », déclare Raimondo dans un communiqué.

Un article du 26 juin de The Hacker News découvre les dangers liés à l’IA générative. Il peut être utilisé pour deviner un mot de passe et craquer Captcha en plus de renforcer les attaques de logiciels malveillants et d’ingénierie sociale. ChatGPT peut être utilisé pour personnaliser les messages de harponnage en fonction de la messagerie publique d’une entreprise.

Les dirigeants et les employés sont attirés par les avantages en termes de coût et les avantages des outils d’IA générative, dans certains cas sans penser aux dangers pour la sécurité.

Une enquête menée en février 2023 auprès de 1 000 cadres a révélé que 49 % des personnes interrogées utilisent ChatGPT maintenant et que 30 % ont l’intention de le faire à l’avenir. Quatre-vingt-dix-neuf % de ces utilisateurs de ChatGPT ont déclaré avoir économisé de l’argent avec l’outil.

Les membres du personnel peuvent également mettre en œuvre le « shadow IT », ou télécharger et intégrer des applications sans l’approbation de leur service informatique. Par exemple, un membre du personnel peut lier un assistant de planification IA à d’autres comptes utilisant des jetons OAuth.

Lorsqu’il est autorisé, l’outil aura une communication constante basée sur l’API avec une variété de comptes sans nécessiter d’authentification supplémentaire. Le vol de ce jeton permettrait à un agresseur d’accéder aux données de ces comptes liés, ouvrant la porte à une variété d’attaques et de fuites.

Le groupe de travail est « particulièrement opportun compte tenu de la vitesse, de l’échelle et de l’impact potentiel sans précédent de l’IA générative et son potentiel à changer plus largement de nombreux secteurs et la société », déclare Laurie Locascio, directrice du NIST, dans l’annonce. « Nous voulons identifier et développer des outils pour mieux comprendre et gérer ces menaces. »

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici