La plate-forme Data Lakehouse Databricks est-elle devenue un concurrent d’OpenAI sur la carte de bingo 2023 de quelqu’un ? Eh bien, bonjour, Dolly.
Aujourd’hui, dans le cadre d’un effort que l’entreprise affirme vouloir développer dans le cadre de sa mission de longue date visant à égaliser l’IA pour l’entreprise, Databricks a publié le code d’un modèle de langage volumineux (LLM) open source appelé Dolly– nommé d’après Dolly le mouton, le tout premier mammifère cloné – qu’il a déclaré que les entreprises peuvent utiliser pour développer des chatbots suivant des instructions comparables à ChatGPT.
Le design peut être formé, l’entreprise discutée dans un article de blog, sur très peu de données et en très peu de temps. « Avec 30 dollars, un serveur et 3 heures, nous sommes en mesure d’apprendre à [Dolly] à commencer à faire de l’interactivité au niveau humain », a déclaré Ali Ghodsi, PDG de Databricks.
Il existe de nombreux facteurs qu’une entreprise choisirait pour créer sa propre conception LLM au lieu d’envoyer des données à un fournisseur de services LLM central qui sert une conception exclusive derrière une API, décrit le message. Transmettre des données délicates à un tiers n’est peut-être pas une option, tandis que les entreprises peuvent avoir des besoins spécifiques en ce qui concerne la qualité du modèle, le coût et les habitudes souhaitées.
Événement
Transformer 2023
Rejoignez-nous à San Francisco les 11 et 12 juillet, où des magnats partageront comment ils ont intégré et optimisé les investissements financiers en IA pour succès et éviter les erreurs courantes.
Inscrivez-vous maintenant »Nous
pensent que la majorité des
Les utilisateurs de ML sont mieux servis à long terme en étant directement propriétaires de leurs modèles « , a déclaré le message. Databricks a découvert que les qualités
de type ChatGPT n’ont pas besoin du LLM le plus récent ou le plus important. concevez et donnez-lui une merveilleuse direction de type ChatGPT. Nous nous appelons une entreprise de données et d’IA depuis 2013, et nous avons près de
1000 clients qui utilisent une sorte de conception de langage étendu sur Databricks « , a déclaré Ghodsi, qui a déclaré à VentureBeat qu’il était » époustouflé » lorsque ChatGPT a disparu fin novembre 2022, mais reconnu que seules quelques entreprises sur terre disposent des énormes modèles de langage nécessaires pour la capacité de niveau ChatGPT. »La plupart des gens se disaient, avons-nous tous besoin de tirer parti de ces modèles propriétaires que ces quelques entreprises ont vraiment
? Et si oui, devons-nous fournir nos informations ? », a-t-il déclaré. La réponse à ces deux préoccupations est non : en février, Meta a lancé les poids d’un ensemble de conceptions de langage de qualité supérieure (mais ne suivant pas les instructions) appelé LLaMA. aux chercheurs académiques, formés pendant plus de 80 000 heures GPU chacun.Puis, en mars, Stanford a construit le design Alpaca, qui était basé sur LLaMA, mais réglé sur un petit ensemble de données de 50 000 questions et réponses de type humain qui, remarquablement, l’ont rendu afficher une interactivité de type ChatGPT. Motivé par ces deux alternatives, Databricks a pu prendre un modèle open source existant de 6 milliards de paramètres d’EleutherAI et le personnaliser légèrement
pour générer des instructions à la suite de fonctionnalités telles que le brainstorming et la génération de texte non présent dans le modèle d’origine, en utilisant les informations d’Alpaca. Remarquablement, le modèle personnalisé a très bien fonctionné. Selon le billet de blog, cela recommande qu' »une grande partie des gains qualitatifs des modèles avancés comme ChatGPT peuvent doivent à des
corpus ciblés d’informations de formation suivant les instructions, au lieu de conceptions de base plus grandes ou mieux ajustées. « Les conceptions LLM ne seront pas entre les mains de quelques entreprises Ghodsi a déclaré qu’à l’avenir, il y aura beaucoup plus de modèles LLM qui finiront par être moins chers et plus abordables – et ne seront pas entre les mains de quelques entreprises seulement
« Toutes les organisations sur terre les utiliseront très probablement », a-t-il
déclaré.
avoir ce genre de modèles. »La mission de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques de comprendre la technologie d’entreprise transformatrice et d’effectuer des transactions. Découvrez nos instructions.
Toute l’actualité en temps réel, est sur L’Entrepreneur
