mardi, 5 mars 2024

Un chatbot axé sur la confidentialité, tout sauf secret

  • Le chatbot d’Amazon est sorti début décembre, un an après certains concurrents.
  • Le chatbot a rencontré des problèmes et pourrait divulguer des données personnelles.
  • Il aurait également des hallucinations substantielles.

Amazon a récemment publié un chatbot IA appelé Amazon Q. Comme l’a déclaré Il est vrai que pratiquement à chaque lancement de chatbot au cours de l’année de précipitation excessive qu’était 2023, les problèmes ont été déterminés très rapidement après son lancement. Dans ces circonstances, le chatbot d’Amazon « éprouve des hallucinations extrêmes et divulgue des informations personnelles ».

C’est vrai : loin d’être un expert en armes et en appareils, Amazon Q est un espion. sur LSD.

Comment l’IA des centres de contact aide les clients et les agents

La découverte est venue, non pas – comme c’est souvent le cas avec les chatbots défectueux – des géants de l’Internet publiant leurs déplacements, mais de documents internes divulgués (et étant donné sa routine d’indiscrétion radicale, vous devez vous demander si Amazon Q les a lui-même fait couler !). Publiés sur Platformer, ils affirment que les données divulguées concernent la zone des centres de données Amazon Web Solutions (AWS) dans le monde entier.

Un représentant d’Amazon nous a informé, contrairement au rapport, « Amazon Q n’a pas divulgué de données confidentielles. « 

Le chatbot d’Amazon aurait également exposé des programmes de taux de remise internes et des fonctionnalités inédites. L’événement a été marqué comme « sev 2 », un problème suffisant pour justifier d’appeler les ingénieurs la nuit et de les obliger à surmonter le week-end. On pardonnera peut-être aux observateurs de reconnaître que les habitudes de travail des installations de stockage d’Amazon, finalement imposées aux plus hauts gradés, expliquent pourquoi le problème est considérable.

« Certains travailleurs partagent leurs commentaires via des canaux internes et des systèmes de billetterie, ce qui est une pratique de base chez Amazon », a déclaré un représentant. « Aucun problème de sécurité n’a été identifié à la suite de ces commentaires. Nous apprécions tous les commentaires que nous avons reçus actuellement et nous continuerons à peaufiner Q à mesure qu’il passe du statut de produit en avant-première à celui habituellement proposé. »

Il convient de garder à l’esprit qu’Amazon a présenté Q comme une alternative plus axée sur la sécurité et la confidentialité par rapport aux autres chatbots génératifs d’IA.

Le chatbot d’Amazon, Q, a été lancé lors de la conférence des développeurs AWS à le début du mois.

Adam Selipsky, PDG d’Amazon Web Services, a informé le New York City Times que les entreprises « avaient interdit l’accès de l’entreprise à ces assistants IA ». en raison des problèmes de sécurité et de confidentialité. En réponse, le Times a rapporté : « Amazon a développé Q pour être plus protégé et privé qu’un chatbot client. »

Il a été suggéré que ces fonctions incluent la sécurité et la confidentialité d’AWS. c’est une autre histoire. Des fichiers internes affirment que Q a proposé des réponses trompeuses sur la souveraineté numérique et d’autres problèmes.

«  »Attendez-vous à ce que l’équipe Q soit très, très occupée pendant un certain temps », a déclaré un employé sur une chaîne Slack vue par Platformer. « J’ai également vu des hallucinations Q apparentes qui pourraient potentiellement provoquer des événements cardiaques dans le cadre juridique. »

Amazon est extrêmement prudent quant à l’emplacement de son vaste centre de données, qui est composé de ses propres constructions. et des baux de gros. En décembre 2022, AWS a révélé qu’elle possédait 15,4 millions de pieds carrés de superficie de centres d’information dans le monde et qu’elle en louait 18 millions supplémentaires.

Les chatbots de service client IA sont-ils vraiment sûrs sur les sites des entreprises ?

Il y a quelques années, WikiLeaks a publié des fichiers internes d’Amazon montrant les emplacements de ses centres de données à partir de 2015. Un document de 20 pages consistait en une carte étiquetée avec des emplacements pour une visualisation plus facile.

Le chatbot d’Amazon est-il en retard ?

Les problèmes avec le chatbot d’Amazon surviennent à un moment où l’entreprise lutte contre la perception selon laquelle Microsoft et l’ont en fait battu dans la course aux armements en matière d’IA. Après avoir annoncé qu’il investirait 4 milliards de dollars dans la start-up d’IA Anthropic, Amazon a révélé Q lors de sa conférence annuelle des concepteurs d’Amazon Web Services.

À l’heure actuelle, les chatbots sont sans doute assez dépassés désormais. La participation de Microsoft à ChatGPT, qui a commencé à faire la une des journaux il y a un peu plus d’un an, implique qu’Amazon pourrait être considéré comme étant à la traîne. Pour lancer efficacement un premier chatbot en décembre 2023, les clients professionnels potentiels ont besoin d’une réponse convaincante à la question de ce qu’il fait, au-delà des chatbots qui ont réellement existé, établissant et conquérant leur cauchemar informationnel. difficultés de démarrage pendant un an.

Q imite un enfant IA de 2 ans — pas de filtre et une imagination débordante.

L’offre de chatbot d’Amazon existe en tant que variante logicielle d’entreprise de ChatGPT. Il répondrait aux préoccupations des concepteurs concernant AWS, modifierait le code source et mentionnerait les sources. Oui, il est en concurrence avec Microsoft et Google, mais son prix est inférieur. ChatGPT Prime, si vous le souhaitez.

Un autre argument de vente aurait été sa sécurité accrue, mais les fuites d’informations signalées en interne rendent cela beaucoup plus difficile. à vendre.

Les applications d’IA générative : un compte à rebours pour les entreprises ?

Néanmoins, les risques présentés par Q, détaillés dans le dossier, sont en fait typiques des LLM, qui renvoient tous des réactions inexactes ou inappropriées de temps en temps. Donc, ce n’est pas comme si le chatbot d’Amazon était pire que les autres – c’est simplement qu’il est au moins aussi dérangé, de manière très publique, de la part d’une entreprise qui a un an de retard à la célébration, et qui l’a commercialisé sur la base d’une sécurité accrue. L’équation de la commercialisation est difficile à résoudre sans une refonte significative de la conception.

Et, évidemment, il y a ce détail gênant que ses réponses menacent de révéler parmi les meilleurs cachés du secteur des centres de données : où AWS est dissimulé.

Ce qui se passera ensuite est à deviner – cependant, il y aura clairement des heures supplémentaires importantes effectuées dans ce que nous aimons considérer comme la succursale Q d’Amazon, pour essayer d’arrêter le chatbot centré sur la confidentialité. parler.

.

Toute l’actualité en temps réel, est sur L’Entrepreneur

LAISSER UN COMMENTAIRE

S'il vous plaît entrez votre commentaire!
S'il vous plaît entrez votre nom ici