Aujourd’hui, SambaNova Systems, basé à Palo-Alto, a dévoilé une nouvelle puce d’IA, la SN40L, qui alimentera sa plate-forme LLM (Large Language Model) full-stack, la suite SambaNova, qui aide les entreprises à passer de la puce au modèle. — structurer et déployer des conceptions d’IA génératives personnalisées.
Rodrigo Liang, cofondateur et PDG de SambaNova Systems, a informé VentureBeat que SambaNova va plus loin que Nvidia en aidant les entreprises à former leurs conceptions de manière appropriée.
« De nombreuses personnes étaient enthousiasmées par les installations dont nous disposons, mais le problème auquel elles se heurtaient était qu’elles n’avaient pas les connaissances nécessaires. ils confieraient la construction du modèle à d’autres entreprises comme OpenAI », a-t-il expliqué.
Un moment « Linux » pour l’IA
En conséquence, SambaNova a décidé qu’il s’agissait d’un moment « Linux » pour l’IA — que les conceptions d’IA open source seraient l’énorme gagnants – ainsi, en plus des modèles de structure pré-entraînés, sa suite SambaNova utilise une collection organisée de modèles d’IA génératifs open source améliorés pour l’entreprise, publiés sur site ou dans le cloud.
Occasion
VB Transform 2023 à la demande
Avez-vous manqué une session de VB Transform 2023 ? Inscrivez-vous pour accéder à la bibliothèque à la demande pour toutes nos sessions en vedette.
Inscrivez-vous maintenant »Nous
prendre la conception de base et
faire tout le nettoyage pour l’entreprise », a expliqué Liang, en plus de l’optimisation matérielle, dont, selon lui, de nombreux consommateurs ne souhaitent pas s’occuper. avec. « Ils ne souhaitent pas s’intéresser aux GPU », a-t-il déclaré. « Ils ne veulent pas comprendre la structure d’un GPU. »
SambaNova ne s’arrête pas à l’avancement des puces
Mais même si SambaNova ne s’arrête pas à l’avancement des puces et progresse tout en haut de la pile logicielle, Liang insiste fermement sur le fait que « puce pour puce, nous éclipser Nvidia. »
Selon un communiqué de presse, le SN40L de SambaNova peut servir un modèle de 5 000 milliards de paramètres, avec une longueur de séquence de 256 000 possibles sur un seul nœud du système. Il indique que cela « permet des conceptions de meilleure qualité, avec une inférence et une formation plus rapides à un coût total de possession inférieur ». De plus, « une mémoire plus grande libère de véritables capacités multimodales des LLM, permettant aux entreprises de rechercher, d’examiner et de créer facilement des données dans ces modalités ».
Néanmoins, l’entreprise a également fait un certain nombre de déclarations supplémentaires sur les nouvelles conceptions et capacités de SambaNova Suite :
- Versions Llama2 (7B, 70B) : état de l’art -l’art de la conception de langages open source permettant aux clients d’ajuster, d’étendre et d’exécuter les meilleurs modèles LLM disponibles, tout en conservant la propriété de ces modèles
- BLOOM 176B : la conception de structure multilingue la plus précise du marché open-source. voisinage source, permettant aux clients de résoudre davantage de problèmes avec une grande variété de langages, tout en ayant également la possibilité d’étendre le modèle pour prendre en charge de nouveaux langages à faibles ressources.
- Un nouveau modèle d’intégration pour la génération augmentée de récupération basée sur les vecteurs permettant aux clients d’intégrer leurs fichiers dans des intégrations vectorielles, qui peuvent être récupérées pendant le processus de questions-réponses et ne provoquent PAS d’hallucinations. Le LLM prend ensuite les résultats pour analyser, extraire ou résumer les informations.
- Un modèle de reconnaissance vocale automatique de premier plan au monde pour transcrire et évaluer les informations vocales
- Des modèles multimodaux et longs supplémentaires capacités de longueur de série
- Systèmes optimisés pour l’inférence avec mémoire Dataflow à 3 niveaux pour une bande passante élevée et une capacité élevée sans compromis
La mission de VentureBeat est être une place publique numérique permettant aux décideurs techniques d’acquérir une compréhension de la technologie commerciale transformatrice et des transactions. Découvrez nos instructions.
Toute l’actualité en temps réel, est sur L’Entrepreneur
