Crédit : Photo 163348840 © Andreistanescu|Dreamstime.com
Réseau de livraison de matériel (CDN) , la société de sécurité et de services Web Cloudflare ouvre son réseau mondial aux entreprises cherchant à développer et à publier des conceptions d’IA avec de toutes nouvelles fonctions d’IA, de base de données et d’observabilité sans serveur, en traitant pour ce faire avec un certain nombre de nouveaux partenaires technologiques.
Le nouvel effort de Cloudflare axé sur l’IA, annoncé aujourd’hui, comprend le framework Workers AI, qui donne accès aux GPU du réseau Cloudflare pour une méthode sans serveur d’exécution de modèles d’IA. Pour les utilisateurs qui tentent d’exécuter des systèmes d’IA fortement dépendants de la latence, la structure doit offrir la possibilité d’exécuter les charges de travail beaucoup plus près de la périphérie du réseau, réduisant ainsi le temps d’aller-retour. L’entreprise a déclaré que l’IA des employés est également créée pour séparer l’inférence des données de formation, garantissant ainsi que les informations client ne sont pas utilisées à mauvais escient.
La deuxième des nouvelles déclarations d’IA de Cloudflare est Vectorize, qui est une base de données vectorielle créée pour permettre aux développeurs pour produire des applications basées sur l’IA entièrement sur les propres systèmes de Cloudflare. Vectorize fonctionne en tandem avec le réseau caché de Cloudlflare, permettant là encore un travail plus détaillé pour l’utilisateur final, et a des combinaisons avec Workers AI qui doivent permettre aux utilisateurs de produire des intégrations dans Employees AI et de les indexer dans Vectorize.
De son côté, AI Entry est un système de gestion et d’optimisation des performances développé pour utiliser l’observabilité dans les applications d’IA exécutées sur le réseau de Cloudflare. AI Gateway fournit des données telles que le nombre et la durée des requêtes, les coûts d’exécution de l’application et le nombre d’utilisateurs pour les applications d’IA, selon l’entreprise, en plus d’alternatives économiques telles que la limitation du débit et la mise en cache des réponses aux demandes courantes.
Cloudflare a également révélé des collaborations avec Microsoft, Databricks et la start-up d’IA Hugging Face. Microsoft apporte son environnement d’exécution ONNX pour la continuité des modèles d’IA tout au long de l’utilisation dans le cloud, en périphérie ou sur l’appareil, tandis que le partenariat Databricks ajoute la plateforme open source MLflow de cette entreprise pour la gestion du cycle de l’intelligence artificielle. Le réseau de Cloudflare sera le tout premier endroit où les clients pourront déployer les conceptions efficaces d’IA générative de Hugging Face dans un environnement sans serveur alimenté par GPU.
Matthew Prince, co-fondateur et PDG de Cloudflare, a déclaré que la marque- Les nouvelles offres représentent une extension majeure de la plateforme de développement de l’entreprise, dont l’objectif est de rendre les « installations de raisonnement » accessibles à tous les clients potentiels.
Le réseau, selon Prince, est le meilleur endroit pour exécuter l’IA.
« Nous avons déjà constaté l’intérêt des entreprises qui tentent de surmonter cet obstacle spécifique consistant à fournir des expériences efficaces sans sacrifier la durée de vie de la batterie ou la latence », a-t-il déclaré. « Cela dit, étant donné que les LLM et l’IA finissent par faire partie intégrante de chaque application, nous pensons que Cloudflare est bien adapté pour les alimenter en rendant la tâche simple et peu coûteuse pour les concepteurs. »
Toutes les fonctions révélées sont disponibles immédiatement. Les tarifs seront essentiellement basés sur l’utilisation, avec des schémas différents pour les Workers, Vectorize et AI Entry. (Vectorize, a gardé Prince à l’esprit, sera totalement gratuit jusqu’en 2024.)
Toute l’actualité en temps réel, est sur L’Entrepreneur
