Pourquoi les systèmes d’IA générative sont stupides

Cet article d’Axios énonce ce que nous comprenons déjà : les réponses provenant de nombreux systèmes d’IA générative (genAI) sont trompeuses, ne correspondent pas à ce que les utilisateurs ont demandé, ou sont tout simplement incorrectes. Le problème public est que Shane Jones, responsable de l’ingénierie des applications logicielles de Microsoft, a correspondu avec la présidente de la FTC, Lina Khan, et le conseil d’administration de Microsoft le 6 mars, pour leur dire que le générateur d’images IA de Microsoft créait des images violentes et sexuelles et utilisait des images protégées par le droit d’auteur lorsque des déclencheurs particuliers lui étaient donnés.

De toute évidence, ce sont les conceptions de grands langages (LLM) substantielles et librement disponibles qui reçoivent l’attention la plus négative. Qu’en est-il des applications de service qui utilisent l’IA générative ? Il est certain qu’une concentration plus réduite entraînera des actions de meilleure qualité. Non.

Là où l’IA générative échoue

Beaucoup de gens me disent qu’ils pensaient que l’IA générative était censée offrir la meilleure opportunité de réaction éducative et pratique. Il semble que l’innovation ne soit pas à la hauteur de cette attente. Que se passe-t-il ?

L’IA générative a les mêmes limites que tous les systèmes d’IA : elle dépend des informations utilisées pour entraîner la conception. Les mauvaises informations créent de mauvaises conceptions d’IA. Pire encore, vous obtenez des réponses erronées ou des réponses qui pourraient vous attirer des ennuis juridiques. Il est nécessaire de reconnaître les limites fondamentales de ces systèmes et de comprendre que, parfois, ils peuvent faire preuve de ce que l’on pourrait raisonnablement appeler de la « stupidité ». Cette stupidité peut vous mettre hors d’organisation ou vous amener en justice à l’âge de pierre.

Les conceptions d’IA générative, y compris des modèles comme GPT, fonctionnent sur la base de modèles et d’associations tirés de grands ensembles de données. Ces conceptions peuvent produire des réponses cohérentes et contextuellement pertinentes, mais elles n’ont pas une compréhension et une conscience appropriées, conduisant à des résultats qui peuvent paraître déroutants ou ridicules.

Vous pouvez demander à une conception de langage public à grande échelle de produire un article d’histoire et obtenez-en un expliquant que Napoléon a combattu pendant la guerre civile aux États-Unis. Cette erreur est facile à repérer, mais les erreurs commises dans un tout nouveau système d’optimisation de la chaîne d’approvisionnement compatible avec genAI peuvent ne pas être si faciles à repérer. Et ces erreurs pourraient entraîner d’innombrables dollars de perte de revenus.

Je découvre que les utilisateurs de ces systèmes considèrent l’action comme un évangile, plus que d’autres systèmes. Les erreurs ne sont généralement détectées que lorsque des dégâts importants sont causés, dans certains cas des mois plus tard.

Ce sont les données, stupides

La majorité des problèmes d’organisation liés à l’IA générative sont provoqués par des données insuffisantes. . Les entreprises passent tout leur temps à choisir des outils d’IA, notamment des services de cloud public, mais ne consacrent pas suffisamment de temps à améliorer leurs informations pour fournir des informations de formation solides pour ces conceptions d’IA. Les systèmes consomment des « données impures » et se retrouvent avec toutes sortes de difficultés à cause de ces LLM ou Small Language Designs (SLM) fraîchement construits.

Les entreprises comprennent cette préoccupation, mais elles semblent prêtes à passer à l’IA générative. systèmes sans réparer les informations consommées. Ils supposent souvent que les outils d’IA découvriront les données problématiques et erronées et les supprimeront des facteurs à prendre en compte.

Les systèmes d’IA peuvent le faire, à condition qu’une procédure de confirmation soit suivie avant que les données ne soient visualisées à partir d’une conception spécifique. on ne peut pas lui faire confiance. Un processus de vérification peut trouver et éliminer les données erronées, mais toutes les données insuffisantes ne semblent pas être de mauvaises données. Si des données incorrectes sont utilisées comme données de formation, votre système d’IA générative deviendra de plus en plus stupide.

La plupart des préoccupations des entreprises concernant l’IA générative sont liées à des données de mauvaise qualité ou à des données qui ne doivent pas être utilisées. ont été utilisés dès le premier emplacement. Même si l’on pourrait croire qu’il est facile de résoudre les problèmes de données, pour la plupart des entreprises, cela représente des millions de dollars et des mois ou des années pour obtenir des données dans un état impeccable. Au lieu de cela, l’argent est investi dans l’IA, pas dans l’information. Comment les résultats pourraient-ils être différents ?

De plus, les systèmes d’IA générative sont sujets à des biais. Si leurs informations de formation contiennent des prédispositions ou des erreurs, la conception pourrait involontairement les perpétuer ou les amplifier dans le contenu créé ou fournir des évaluations automatiques avec d’autres applications et/ou êtres humains. Il faut du travail pour se débarrasser de la prédisposition une fois qu’elle a été intégrée aux conceptions. Différentes parties de la conception peuvent être empoisonnées et difficiles à isoler et à éliminer.

Autres problèmes liés à l’IA générative

L’absence de bon sens est l’un des principaux facteur qui ajoute à la « stupidité » perçue de l’IA générative. Contrairement aux êtres humains, ces systèmes ne possèdent pas de connaissance inhérente du monde ; ils dépendent des modèles analytiques découverts au cours de la formation. Ce résultat pourrait être des actions qui pourraient nécessiter une compréhension plus approfondie du monde réel.

Un autre élément à prendre en compte est le niveau de sensibilité de l’IA générative à la formulation des entrées. Le système génère des réactions basées sur les informations qu’il reçoit des êtres humains via un système opportun ou d’applications utilisant des API. De légères modifications dans la formulation peuvent entraîner des résultats très différents. En raison de ce niveau de sensibilité, les utilisateurs peuvent découvrir que l’IA produit périodiquement des réponses imprévues ou sans importance. Une grande partie de la valeur de l’IA peut être libérée simplement en posant les bonnes questions et en utilisant les approches appropriées.

Plus encore, l’incapacité de distinguer les informations commerciales des informations susceptibles d’être soumises au droit d’auteur ou des problèmes de propriété IP apparaissent. Par exemple, une lettre ouverte de la Authors Guild signée par plus de 8 500 auteurs exhorte les entreprises technologiques responsables des applications d’IA générative, telles que OpenAI (ChatGPT) et Google (Gemini, anciennement appelé Bard), à cesser d’utiliser leurs œuvres sans autorisation correcte. autorisation ou paiement. En fait, j’ai posé des questions à de nombreux LLM publics et j’ai reçu des bribes de mon propre travail qui m’ont été répétées à plusieurs reprises. Je suis sûr que mes livres et mes innombrables articles (probablement issus de ce site) ont été utilisés comme informations de formation pour ces LLM.

Les entreprises qui utilisent ces LLM pour une partie de leur traitement commercial pourraient s’exposer à des poursuites. si la propriété intellectuelle d’une autre personne est utilisée pour une fonction importante de l’entreprise. Le LLM peut, sans le savoir, utiliser des procédures de gestion de la chaîne d’approvisionnement décrites dans un texte protégé par le droit d’auteur pour améliorer votre chaîne d’approvisionnement, composé d’algorithmes publiés. C’est pourquoi la plupart des entreprises interdisent d’utiliser des systèmes publics d’IA générative à des fins organisationnelles. Il s’agit d’un danger important.

Alors que nous poursuivons ce voyage vers la découverte du nirvana de l’IA générative, je suis persuadé que nous devrons découvrir comment répondre à ces préoccupations et à d’autres dans un premier temps. Désolé d’être un buzzkill.