mercredi, 21 février 2024

Pourquoi les responsables informatiques devraient s’appuyer sur l’IA fantôme pour moderniser la gouvernance

Shadow AI est là pour rester. L’utilisation non autorisée de l’IA générative en dehors du domaine informatique présente plusieurs dangers pour les organisations, grandes et petites.

Vingt-huit % des employés déclarent utiliser actuellement l’IA générative au travail et plus de la moitié sans l’approbation de leur entreprise, selon à une enquête Salesforce auprès de 14 000 travailleurs1. Ces chiffres augmenteront à mesure que de plus en plus de membres du personnel comprendront que la création de contenu est un véritable moteur de productivité.

La bonne nouvelle pour les responsables informatiques ? Shadow AI offre une formidable opportunité d’améliorer votre technique de gouvernance informatique. Cette structure, grâce à laquelle les responsables informatiques équilibrent le soutien des objectifs commerciaux tout en atténuant les risques, empêche même les DSI les plus expérimentés de dormir la nuit.

Les exigences en matière de gouvernance informatique évoluent souvent pour répondre aux besoins de l’entreprise et aux profils de risque changeants. Quoi qu’il en soit, il est vital d’actionner les leviers qui gèrent le positionnement tactique et la gestion des risques pendant que l’ensemble du service informatique s’efforce de fournir de la valeur.

Les arguments en faveur de la gouvernance de l’IA de génération

Essayer de devancer l’IA de l’ombre revient à remettre le dentifrice dans son tube. Dans cette optique, ce n’est pas sans rappeler le shadow IT. Et pourtant, c’est aussi extrêmement différent.

Avec le shadow IT, les membres du personnel s’abonnaient aux services SaaS avec une carte de paiement d’entreprise et passaient du temps à découvrir comment les utiliser. L’IA fantôme est potentiellement beaucoup plus risquée car les travailleurs peuvent simplement s’inscrire et développer du contenu – sans avoir besoin de carte de paiement.

Le danger est que les membres du personnel consomment les services d’IA de génération de manière risquée, fournissant un cauchemar de gouvernance. Certains membres du personnel peuvent inclure dans leurs déclencheurs des adresses IP professionnelles, telles que des spécifications de produits et d’autres plans sensibles, ou des informations personnellement reconnaissables, telles que des adresses personnelles, des numéros de téléphone et des alias de messagerie électronique, dans des systèmes publics d’IA de génération.

Les travailleurs peuvent interroger ces services pour obtenir des détails sur les méthodes de l’entreprise, ignorant qu’ils pourraient révéler des astuces importantes à ceux qui peuvent procéder à l’ingénierie inverse des déclencheurs pour acquérir une surenchère. Et le personnel qui intègre des détails sur les brevets ou d’autres secrets commerciaux peut exposer votre entreprise à des problèmes juridiques et de droits d’auteur.

Bien que les dirigeants d’organisation reconnaissent les risques posés par la génération AI, de nombreuses entreprises ne disposent pas de politiques et de procédures pleinement développées pour les gérer.

De nombreuses entreprises n’agissent pas assez rapidement pour mettre en place des garde-fous garantissant une utilisation sûre, car 69 % des entreprises interrogées par KPMG en étaient aux premières étapes ou n’avaient pas commencé à examiner les menaces et les menaces liées à l’IA. courez le risque des stratégies d’atténuation2.

Interdire l’IA de génération utilise le risque de courtiser une IA fantôme sournoise qui expose votre entreprise à des menaces de violations de données, de violations de conformité et d’atteinte à la réputation. Et avec 44 % des décideurs informatiques attestant qu’ils en sont au début ou à mi-parcours de leur parcours vers la génération IA, il incombe au service informatique d’impliquer le reste de l’organisation dans le voyage3.

Pour y parvenir. En fin de compte, les responsables informatiques doivent traiter avec les superviseurs des services juridiques, de conformité et de sécurité sur une stratégie centralisée de génération d’IA. Ensemble, ils doivent choisir comment les travailleurs peuvent utiliser ces outils, articuler ces politiques aux travailleurs et développer l’éducation et la formation pour améliorer leur utilisation responsable.

Un manuel de gouvernance de l’IA

Cela nécessite des protocoles pour sécuriser les informations commerciales et doit être effectué d’une manière qui concorde avec, reflète et étend la méthode de gouvernance informatique du département. Les organisations doivent :

Instituer des politiques de gouvernance de l’IA : Établir des lignes directrices concernant l’utilisation de l’IA au sein de l’entreprise. Spécifiez ce qui constitue les systèmes d’IA autorisés, contrôlez ces applications et interagissez clairement avec les effets de l’utilisation d’une IA non approuvée.

Fournir des outils autorisés. Donner aux membres du personnel des applications d’IA autorisées qui peuvent les aider à accomplir leurs tâches. les tâches réduisent la récompense pour les employés qui utilisent des outils non autorisés.

Formaliser la formation : éduquer les membres du personnel sur la façon d’utiliser les services d’IA de génération approuvés de manière équitable et appropriée, ainsi que sur les risques associés à la saisie. matériel sensible dans des systèmes d’IA de génération limitée.

Utilisation d’audit et de surveillance : Les audits de routine et les mécanismes de surveillance de la conformité, y compris les applications logicielles qui recherchent une activité réseau anormale, peuvent vous aider à identifier les systèmes d’IA non approuvés. ou des applications.

Encouragez l’ouverture et le reporting : Créez une culture dans laquelle les employés se sentent à l’aise de signaler l’utilisation d’outils ou de systèmes d’IA non autorisés. Cela contribuera à une réaction et à des mesures correctives rapides afin de minimiser les conséquences des incidents.

Interagissez constamment. Les outils Gen AI progressent rapidement, vous devrez donc actualiser fréquemment vos politiques et normes en matière d’IA et communiquer les modifications aux travailleurs.

Votre plan d’assurance Gen AI

La bonne gouvernance est comme l’assurance. Il vaut mieux l’avoir et ne pas en avoir besoin plutôt que d’en avoir besoin et ne pas l’avoir. Et la génération IA est comme toute autre technologie émergente qui nécessite des soins et une alimentation réguliers.

Elle diffère également des outils d’IA traditionnels dans la mesure où la facilité avec laquelle les individus peuvent l’adopter la rend plus difficile à gérer. Ne pas guider les employés dans l’adoption de la génération IA pourrait favoriser des habitudes à risque.

À mesure que vous améliorez la conception de votre gouvernance pour représenter les innovations de la génération IA, vous souhaiterez mettre de l’ordre dans votre système d’informations. Vous reconnaîtrez quelles données sont sensibles et exclusives et doivent être exploitées au mieux dans des systèmes de génération IA sous votre contrôle, de préférence sur des installations.

La génération IA ouvre une nouvelle frontière dans l’écosystème plus large de l’IA. Des partenaires de confiance peuvent vous guider à travers les courbes de connaissance.

En commençant par les assistants virtuels, Dell développe des cas d’organisation qui peuvent aider les consommateurs à démarrer leur parcours vers l’IA de génération depuis le confort de leurs centres de données. En tirant parti des LLM open source, vous pouvez gérer la manière dont vous publiez vos systèmes d’IA de génération, protégeant ainsi les informations de votre entreprise.

En fin de compte, intégrer l’IA à vos données pourrait bien être votre meilleure pratique de gouvernance.

1. Les promesses et les pièges de l’IA au travail, Salesforce, octobre 2023

2. Generative AI : From Buzz to Company Worth, KPMG, juin 2023

3. Generative AI Pulse Survey, Dell Technologies, septembre 2023

.

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici