DataStax a annoncé mercredi son partenariat avec la startup basée à Houston ThirdAI pour apporter de grands modèles linguistiques (LLM) à ses offres de bases de données, tels que DataStax Enterprise pour les locaux et la base de données NoSQL en tant que service AstraDB.
Ce partenariat, selon Ed Anuff, Chief Product Officer de DataStax, fait partie de la stratégie de l’entreprise visant à amener l’intelligence artificielle là où les données résident.
ThirdAI peut être installé dans le même cluster, sur site ou dans le cloud, où DataStax s’exécute, car il est livré avec une petite bibliothèque et l’installation peut être traitée avec Python.
« L’avantage est que les données n’ont pas à être déplacées de DataStax vers un autre environnement, elles sont simplement transmises à ThirdAI qui lui est adjacent. Cela garantit une confidentialité totale et également une rapidité car aucun temps n’est perdu lors du transfert de données sur un réseau », a déclaré un porte-parole de DataStax.
« ThirdAI peut être exécuté en tant que package Python ou être accessible via une API, selon les préférences du client », a ajouté le porte-parole.
Les entreprises exécutant DataStax Enterprise ou AstraDB peuvent utiliser les données résidant dans ces bases de données et la technologie et les LLM de ThirdAI pour créer leurs propres applications d’IA génératives. Les modèles de base de ThirdAI peuvent être formés pour comprendre les données et répondre aux questions, telles que la recommandation de produit susceptible d’entraîner une vente, en fonction de l’historique d’un client.
L’intégration des LLM de ThirdAI verra DataStax s’imprégner de la technologie Bolt, ce qui permet d’obtenir de meilleures performances d’entraînement de l’IA sur les CPU par rapport aux GPU pour des modèles relativement plus petits. L’avantage est que les processeurs sont généralement moins chers que les GPU, qui sont généralement utilisés pour les charges de travail d’IA et d’apprentissage automatique.
« Le moteur Bolt, qui est un accélérateur algorithmique pour la formation de modèles d’apprentissage en profondeur, peut réduire les calculs de manière exponentielle. L’algorithme réalise une formation de réseau neuronal en 1 % ou moins d’opérations en virgule flottante par seconde (FLOPS), contrairement aux astuces standard telles que la quantification, l’élagage et la parcimonie structurée, qui n’offrent qu’une légère amélioration constante du facteur », a déclaré ThirdAI dans un article de blog.
« Les accélérations sont naturellement observées sur n’importe quel processeur, qu’il s’agisse d’Intel, d’AMD ou d’ARM. Même les versions plus anciennes des processeurs de base peuvent être rendues tout aussi capables de former des milliards de modèles de paramètres plus rapidement que les GPU A100 », a-t-il ajouté.
Bolt peut également être invoqué par « seulement quelques » changements de ligne dans les pipelines d’apprentissage automatique Python existants, selon ThirdAI.
L’annonce avec ThirdAI est la première d’un nouveau programme de partenariat que DataStax est en train de mettre en place pour apporter davantage de technologies de startups d’IA qui peuvent aider les entreprises dont les données résident dans les bases de données Datastax à développer des applications d’IA génératives.
Ensuite, lisez ceci :
- Le meilleur logiciel open source de 2022
- Les développeurs ne veulent pas faire d’opérations
- 7 raisons pour lesquelles Java est toujours génial
- Pourquoi Wasm est l’avenir du cloud computing
- Pourquoi les estimations d’ingénierie logicielle sont des ordures
- L’intégration continue et la livraison continue expliquées
Toute l’actualité en temps réel, est sur L’Entrepreneur
