IA générative – avec roues d’entraînement ?

Dans la partie 1 de cet article, nous avons parlé avec Rich Davis, responsable du marketing des solutions chez Netskope, une entreprise qui déclare avoir un tout premier produit mondial qui rend les données d’IA génératives sûres pour un usage professionnel. Il a évoqué la dichotomie dans laquelle se trouvaient de nombreuses entreprises : utiliser l’IA générative ou être absolument certaines de la sécurité de leurs données.

Il nous a dit que Netskope travaillait depuis une décennie sur la protection des données en transit depuis utilisateurs aux applications SaaS, et qu’il avait développé un analyseur qui pourrait parler la langue utilisée entre les clients et l’IA générative.

Nous lui avons demandé comment les entreprises utilisaient cet outil évidemment premier au monde qui, en théorie, un minimum de, pourrait rendre l’IA générative sûre même dans les circonstances les plus… Samsung…

Obtenir une exposition sur l’utilisation de l’IA générative.

RD :

Jusqu’à présent, environ 25 % de notre base d’utilisateurs ont en fait utilisé l’outil pour obtenir simplement une présence – un cas de « dites-moi simplement quotidiennement ce que nous voyons et quels outils restent utilisés, que font les individus avec l’IA générative . » Le personnel affiche-t-il principalement des informations pour les demandes de renseignements ? Cette information est-elle de type long ou bref ? Ou s’amusent-ils surtout avec ? Utilisent-ils des informations n’appartenant pas à l’entreprise ? Ou est-ce que les gens essaient juste, disons, de résumer l’action de la NFL la saison dernière en une phrase ?

Un grand nombre d’entreprises essaient en fait de se mettre d’accord sur la façon dont l’IA générative est utilisée, car tout cela est encore assez récent.

THQ :

C’est le plus important, n’est-ce pas ? Il a tellement d’utilisations potentielles que si vous laissez le personnel en devenir fou, il se peut qu’il n’apprécie pas encore à quoi il pourrait l’utiliser. Ou, en plus, vous pourriez avoir du personnel féru de technologie qui est tout au sujet de « Comment puis-je rendre cela plus efficace? » requêtes.

RD :

Oui, nous voyons beaucoup de requêtes de type NFL, mais nous voyons aussi beaucoup de données sensibles dans les requêtes. Environ 25 % de notre clientèle l’utilise et nous comptons entre 2 500 et 3 000 grandes entreprises. Un bon nombre utilisent actuellement notre outil de présence.

La prochaine action est l’accès des applications à – qu’est-ce que nous autorisons, qu’est-ce que nous n’autorisons pas, en commençant simplement à le gérer de manière prospective. Par exemple, nous allons activer quelque chose comme Jasper, car si vous avez une branche marketing, vous l’utiliserez peut-être pour voir si vous pouvez améliorer votre rédaction. Supposons qu’en tant qu’organisation, nous ne souhaitions pas activer certaines des autres applications disponibles. Notre outil vous permet d’autoriser ou d’interdire l’accès aux données comme il convient.

Et puis il y a un troisième niveau.

THQ :

Vous comprenez quand vous déclarez que , il semble qu’il s’accompagne de trois accords importants, n’est-ce pas ?

Roues d’entraînement de l’IA générative : le troisième niveau.

RD :

Ce troisième niveau, et je dirais qu’environ la moitié de ces 25 % le font déjà, est en fait en utilisant notre capacité à vérifier en profondeur la transaction, comprendre exactement ce que fait l’utilisateur. Nous pouvons éventuellement examiner les données qu’ils utilisent et décider de bloquer l’envoi de cette demande si elle consiste en des données délicates.

THQ :

Votre outil est donc un type de flic des données ?

RD :

En quelque sorte. C’est aussi un peu comme un logiciel pare-feu. Les gens peuvent toujours utiliser l’IA générative, ils peuvent entrer ce qu’ils veulent, mais dès qu’il y a des informations sensibles qui entrent, elles sont obstruées.

THQ :

Et ensuite ? Alarmes clignotantes ? Des groupes SWAT tombent des cordes du plafond ? Personnel en pleurs éliminé dans un goulag de données ?

RD :

Ha. Ils reçoivent une alerte de formation indiquant que ce sont les limites, ce sont les termes de la façon dont nous pouvons utiliser cet outil aujourd’hui.

THQ :

Ainsi, ce dernier niveau forme les individus en leur permettant se heurter à des murs sûrs, mais sans mettre le feu ou fournir accidentellement des données exclusives aux Russes ?

RD :

Exactement. Vraiment, un grand nombre d’organisations ont des avertissements préliminaires lorsque vous commencez à utiliser l’IA générative qui indiquent « Ne publiez pas de détails délicats, veuillez lire la politique d’utilisation sécurisée » – et après cela, vous frappez Allez dans pour continuer, donc c’est une sorte de remise à zéro initiale de l’état d’esprit, une formation préliminaire sur les choses à faire et à ne pas faire.

Vous avez en fait obtenu cette sécurité à la fin de la ligne, qui démarre si le personnel continue à faire quelque chose de stupide, et publie le procès-verbal de la dernière conférence du conseil d’administration dans l’IA générative – que vous pouvez empêcher d’être réellement envoyé vers l’IA.

C’est une méthode douce de formation, et un outil difficile à retirer en raison du fait que vraiment, à la fin de la journée, nous ne pouvons pas avoir cette information. Ce n’est en fait pas différent de ce que nous faisons depuis des années dans n’importe quelle application. C’est juste un cas différent ici avec le danger de savoir où ces données pourraient éventuellement aller et comment elles pourraient potentiellement être recyclées. Ce risque n’existe pas nécessairement si vous enregistrez simplement des fichiers dans un OneDrive personnel, par exemple.

Conscience de la capacité de fuite d’informations de l’IA générative.

THQ :

C’est une question, n’est-ce pas : dans quelle mesure le personnel est-il normalement conscient que le type de fuite de données de Samsung pourrait avoir lieu ? À moins qu’ils ne soient relativement férus de technologie, ils en auront généralement une vision médiatique grand public, mais ils ne sauront pas toujours ce que sont les données chanceuses, et pour cette raison, ils ne devraient pas les utiliser dans l’IA générative.

RD :

Non, précisément. Ils pourraient bien croire simplement « Cela pourrait me rendre la vie beaucoup plus facile. »

C’est pourquoi la formation est si cruciale – puisque vous n’érigez pas ce mur de briques. Dès que quelqu’un voit une limitation, il se dit : « D’accord, comment vais-je contourner cela, je veux jouer avec. Je vais essayer différentes IA génératives. »

En fait, « Oui, vous pouvez l’utiliser, voici les risques » aide en fait beaucoup sur l’approbation de l’utilisateur. Et c’est quelque chose que même au-delà de l’IA générative, un grand nombre de nos clients utilisent depuis un certain temps.

THQ :

Roues d’entraînement, au lieu de barrières pour enfants.

RD :

Précisément. Et l’autre avantage de cette méthode est qu’en tant qu’entreprise, vous obtenez une compréhension de l’utilisation, du fait que vous la mettez entre leurs mains, et vous voyez quelle est l’utilisation — alors que si vous arrêtez de l’utiliser au cas où vos informations s’envoleraient, vous n’avez aucune idée des problèmes que les gens tentaient de résoudre avec.

Nous constatons une croissance utilisation d’environ 25 % d’un mois sur l’autre à la minute, comme on peut s’y attendre dans l’environnement de l’entreprise, et environ un utilisateur sur dix dans une entreprise utilise régulièrement ces outils d’IA générative, en fait pour leur travail dans leur environnement de travail .

THQ :

N’existe-t-il pas quelque chose de effrayant dans l’idée de surveiller l’utilisation d’un programme spécifique dans l’ensemble de l’entreprise ?

RD :

Oui, il y en a vraiment.

THQ :

O. d’accord. Il est raisonnable de dire que nous ne nous attendions pas à ce que vous soyez d’accord là-dessus.

RD :

Cela a toujours été un gros argument, et j’ai en fait parlé aux RSSI pendant des années à propos de tout ce concept. Je crois que cela se résume à la nécessité de sécuriser les affaires. C’est ce compromis entre le suivi des utilisateurs et la sécurisation de l’organisation. Et c’est pourquoi lorsque vous faites cela, vous devez clairement mettre en place des protections, vous devez anonymiser les données des utilisateurs afin de ne pas pouvoir identifier un utilisateur privé spécifique, vous devez en fait limiter le contrôle comme à qui peut voir ce genre de rapports.

Ce que je dirais toujours à n’importe quelle organisation, c’est que vous devez faire quelque chose comme ça en combinaison avec les RH. Vous devez impliquer votre équipe RH dans toute cette méthode dès le départ si vous comptez effectuer ce type d’analyse et de contrôle.

Là où j’ai vu que cela fonctionnait vraiment bien, c’est dans les organisations où ils ont obtenu cette adhésion organisationnelle le début. Où ils sont réellement passés, en ont discuté avec les utilisateurs, « C’est pourquoi nous mettons cette technologie en place. Ce sont les risques de l’entreprise. Et c’est pourquoi nous le faisons. » C’est là que cela atténue la majorité du facteur de fluage, car les individus l’obtiennent.

Dans la partie 3 de cet article, nous examinerons les couches de défense qui constituent la première approche fiable de protéger vos données tout en utilisant l’IA générative au sein d’une entreprise.

Que s’est-il passé avec Samsung ?.

Toute l’actualité en temps réel, est sur L’Entrepreneur