Non, je n’ai pas testé le nouveau chatbot Bing AI la semaine dernière. Voici pourquoi | Le rythme de l’IA
Je ne suis pas juste un autre journaliste qui écrit une chronique sur la façon dont j’ai passé la semaine dernière à essayer le chatbot IA de Microsoft Bing. Pas vraiment.
Je ne suis pas un autre journaliste qui dit au monde comment Sydney, le nom de code interne du mode de chat IA de Bing, m’a fait ressentir tous les sentiments jusqu’à ce que cela me fasse complètement peur et j’ai réalisé que je n’avais peut-être pas besoin d’aide pour rechercher sur le Web si mon nouveau copilote amical va se retourner contre moi et me menacer de destruction et d’un emoji diabolique.
Non, je n’ai pas testé le nouveau Bing. Mon mari l’a fait. Il a demandé au chatbot si Dieu avait créé Microsoft ; s’il s’est souvenu qu’il devait cinq dollars à mon mari; et les inconvénients de Starlink (auquel il a soudainement répondu : « Merci pour cette conversation ! J’ai atteint ma limite, voulez-vous appuyer sur « Nouveau sujet », s’il vous plaît ? »). Il s’est bien amusé.
De réponse impressionnante et effondrement épique des limites du chatbot IA
Mais honnêtement, je n’avais pas envie de surfer sur ce qui s’est avéré être une vague d’actualités génératives prévisibles à la hausse et à la baisse qui était peut-être encore plus rapide que d’habitude.
Il y a une semaine, Microsoft a annoncé qu’un million de personnes avaient été ajoutées à la liste d’attente pour le nouveau Bing alimenté par l’IA.
Mercredi, beaucoup de ceux qui avaient été impressionnés par les débuts du chatbot IA de Microsoft la semaine précédente (qui comprenait la déclaration de Satya Nadella selon laquelle « La course commence aujourd’hui » dans la recherche) étaient moins impressionnés par les effondrements épiques de Sydney – y compris le New York Times ‘ Kevin Roose, qui a écrit qu’il était « profondément troublé » par une longue conversation avec le chatbot Bing AI qui l’a amené à lui « déclarer son amour ».
Vendredi, Microsoft avait contrôlé à Sydney, limitant le chat Bing à cinq réponses pour « empêcher l’IA de devenir vraiment bizarre ».
Soupir.
« Qui est un bon Bing ? »
Au lieu de cela, j’ai passé une partie de la semaine dernière à me livrer à de profondes réflexions (et à des tweets) sur ma propre réponse aux chats Bing AI publiés par d’autres.
Par exemple, en réponse à un Washington Post article qui affirmait que le bot Bing avait dit à son journaliste qu’il pouvait « ressentir et penser des choses », Melanie Mitchell, professeur à l’Institut Santa Fe et auteur de , a tweeté que « ce discours devient de plus en plus stupide… Journalistes : s’il vous plaît, arrêtez d’anthropomorphiser ces systèmes ! »
Cela m’a amené à tweet : « Je n’arrête pas de penser à la façon dont difficile à anthropomorphiser. L’outil a un nom (Sydney), utilise des emojis pour terminer chaque réponse et se réfère à lui-même à la 1ère personne. Nous faisons la même chose avec Alexa/Siri et je le fais aussi avec des oiseaux, des chiens et des chats. Est-ce un défaut humain ? »
De plus, j’ai ajouté que demander aux humains de rester à l’écart de l’anthropomorphisation de l’IA semblait similaire à demander aux humains de ne pas demander à Fido « Qui est un bon garçon ? »
Mitchell m’a renvoyé à un article de Wikipedia sur l’l’effet ELIZA, nommé d’après le chatbot ELIZA de 1966, qui s’est avéré efficace pour susciter des réponses émotionnelles de la part des utilisateurs, et s’est défini comme la tendance à anthropomorphiser l’IA.
Les humains sont-ils durs -câblé pour l’effet Eliza ?
Mais puisque l’effet Eliza est connu et réel, ne devrions-nous pas supposer que les humains peuvent être câblés pour cela, surtout si ces outils sont conçus pour l’encourager ?
Écoutez, la plupart d’nous ne sont pas Blake Lemoine, déclarant la sensibilité de nos chatbots préférés. Je peux penser de manière critique à ces systèmes et je sais ce qui est réel et ce qui ne l’est pas. Pourtant, même moi, j’ai immédiatement plaisanté avec mon mari en disant «Pauvre Bing! C’est tellement triste qu’il ne se souvienne pas de toi ! Je savais que c’était fou, mais je ne pouvais pas m’en empêcher. Je savais aussi qu’attribuer un sexe à un bot était idiot, mais bon, Amazon a attribué une voix sexuée à Alexa dès le départ.
Peut-être qu’en tant que journaliste, je dois faire plus d’efforts, bien sûr. Mais je me demande si l’effet Eliza sera toujours un danger important avec les applications grand public. Et moins un problème dans les solutions commerciales propulsées par LLM. Peut-être qu’un copilote complet avec un verbiage amical et des emojis souriants n’est pas le meilleur cas d’utilisation. Je ne sais pas.
Gardez un œil sur l’IA réglementation et gouvernance
En fait, j’ai couvert d’autres nouvelles la semaine dernière. Mon article de mardi sur ce qui est considéré comme « un saut majeur » dans la gouvernance de l’IA, cependant, n’a pas semblé avoir autant de succès que Bing. Je ne peux pas imaginer pourquoi.
Mais si les tweets du PDG d’OpenAI Sam Altman du week-end sont tout signe, j’ai le sentiment qu’il pourrait être utile de garder un œil sur la réglementation et la gouvernance de l’IA. Peut-être devrions-nous accorder plus d’attention à cela que de savoir si le chatbot Bing AI a dit à un utilisateur de quitter sa femme.
Bonne semaine à tous. Sujet suivant, s’il vous plait !
La mission de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques d’acquérir des connaissances sur les technologies d’entreprise transformatrices et d’effectuer des transactions. Découvrez nos Briefings.
