jeudi, 7 décembre 2023

Le commissaire à la protection de la vie privée publie des lignes directrices pour les organisations utilisant l’IA générative

Michael Webster (Commissaire à la protection de la vie privée)

Crédit : fourni

Le commissaire à la protection de la vie privée, Michael Webster, a en fait décrit ses attentes concernant les organisations néo-zélandaises utilisant un système expert génératif (IA).

Webster a décrit 7 points de suggestions à aider les organisations à s’engager avec la capacité de l’IA d’une manière qui respecte le droit à la vie privée des personnes.

 » Je m’attendrais à ce que toutes les entreprises utilisant des systèmes qui peuvent prendre les informations individuelles des Néo-Zélandais pour créer du tout nouveau matériel soient réfléchir aux effets de l’utilisation de l’IA générative avant de commencer « , a-t-il déclaré.

L’utilisation de l’IA sur les Néo-Zélandais ‘ les données personnelles sont gérées en vertu de la loi de 2020 sur la protection de la vie privée.

Les sept points sont :

1. Obtenir l’approbation de la haute direction

Les organisations et les organisations doivent inclure leurs hauts dirigeants et leur responsable de la confidentialité dans le choix de mettre en œuvre ou non un système d’IA générative.

2. Examiner si un outil d’IA générative est nécessaire et proportionné

A offert les ramifications potentielles de la vie privée, examiner s’il est nécessaire et proportionné d’utiliser un outil d’IA générative ou s’il une autre technique peut être utilisée.

3. Effectuez une évaluation des effets sur la vie privée

Évaluez les impacts sur la vie privée avant d’exécuter tout système. Cela doit inclure la recherche de commentaires auprès des communautés affectées et des groupes composés de Maoris. Demandez à l’entreprise de clarifier comment les informations et les preuves sur la manière dont les défenses de confidentialité ont été effectivement créées dans le système.

4. Soyez transparent

Soyez clair et franc lorsque vous informez vos clients que vous utilisez l’IA générative et comment vous gérez les risques associés à la vie privée.

L’IA générative est une toute nouvelle technologie, et de nombreuses personnes seront mal à l’aise avec son utilisation ou ne comprendront pas les risques pour elles. Fournir des informations sur le système d’IA générative que vous utilisez dans un langage simple sera essentiel pour maintenir la confiance des consommateurs et la licence sociale de votre organisation pour utiliser l’IA.

5. Établissez des traitements concernant l’exactitude et l’accès par les personnes

Développez des procédures sur la façon dont votre entreprise prendra des mesures abordables pour s’assurer que les détails sont précis avant l’utilisation ou la divulgation et comment vous réagirez aux demandes des individus d’accéder et de corriger leurs informations personnelles.

6. Assurez-vous d’un examen humain avant d’agir

Avoir un examen humain des résultats d’un outil d’IA générative avant que votre entreprise ne prenne des mesures, car ces résultats atténueront la menace d’agir sur la base de détails inexacts. Toute évaluation des données de sortie doit également examiner la menace de ré-identification des informations saisies.

7. Garantir que les informations personnelles ou secrètes ne sont pas conservées ou divulguées par l’outil d’IA générative

Ne saisissez pas d’informations personnelles ou secrètes dans un outil d’IA générative, à moins qu’il n’ait été explicitement validé que les informations saisies n’est pas conservée ou divulguée par le fournisseur. Une alternative pourrait être de supprimer les données d’entrée de toute information permettant une ré-identification. Le commissaire a également fortement mis en garde contre l’utilisation de données sensibles ou privées pour des fonctions de formation.

 » Je prévois que les entreprises feront preuve de diligence raisonnable et d’analyse de la confidentialité pour évaluer comment elles respectent la loi avant d’utiliser l’IA générative,  » a déclaré Webster.

 » L’IA générative est couverte par la loi de 2020 sur la confidentialité des données personnelles et mon bureau s’efforcera de s’assurer que cela est respecté ; nous examinerons le cas échéant. « 

Le commissaire a actuellement envoyé une lettre aux agences gouvernementales soulignant sa mise en garde contre l’utilisation prématurée de l’IA générative sans une évaluation appropriée et signalant la nécessité d’une action pangouvernementale face aux défis croissants posés par la technologie.

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici