Le générateur d’images est apparu ce mois-ci dans l’assistant IA Gemini. L’outil permet aux utilisateurs d’émettre une commande pour produire une image, mais les utilisateurs ont rapidement découvert que certaines images produites n’étaient historiquement pas fiables. « Nous avons en fait mis la fonction hors ligne pendant que nous réparons cela. Nous souhaitons la remettre en ligne extrêmement rapidement dans les prochaines semaines », décrit maintenant Demis Hassabis, PDG de Google DeepMind. L’outil « ne fonctionnait pas comme nous le souhaitions », a admis Hassabis.
Principes
Les images peu fiables ont également été partagées sur les réseaux sociaux. Par exemple, il a été demandé aux Gémeaux de produire une représentation traditionnellement précise d’un roi britannique du Moyen Âge. Les Gémeaux ont ensuite produit un certain nombre d’images, dont celle d’une femme dirigeante. Des résultats similaires se sont produits lorsqu’on a demandé une photo des premiers papas des États-Unis et d’un roi de France du XVIIIe siècle.
Margaret Mitchel, ancienne directrice du département des principes d’IA de Google, a discuté des résultats du modèle d’IA. « En réalité, le fiasco de Gemini a montré à quel point l’éthique de l’IA * n’était pas * utilisée avec le savoir-faire nuancé requis. Cela démontre la nécessité de disposer de personnes douées pour produire des feuilles de route à condition d’envisager une utilisation prévisible. «
Google a récemment changé sa méthode pour les outils d’IA. Désormais, Gemini sera le nom générique de ses services d’IA. Le générateur d’images discrédité porte également ce nom.
Toute l’actualité en temps réel, est sur L’Entrepreneur