En réponse à la demande croissante d’applications d’IA générative et de grands modèles de langage (LLM), Oracle Cloud Facilities (OCI) a proposé les GPU Nvidia H100 Tensor Core sur la plateforme OCI Calculate. Les GPU Nvidia L40S seront également bientôt intégrés à la plate-forme.
Oracle a déclaré qu’OCI Calculate utilise désormais des conditions sans système d’exploitation avec les GPU Nvidia H100, alimentés par l’architecture Nvidia Hopper pour l’IA, permettant ainsi un « ordre de « un bond en avant de grande ampleur » pour les applications massives d’IA et de calcul haute performance. Le GPU Nvidia H100 est créé pour les tâches informatiques gourmandes en ressources, consistant en la formation de modèles LLM.
Les organisations utilisant les GPU Nvidia H100 obtiennent une efficacité de raisonnement de l’IA jusqu’à 30 fois supérieure et une augmentation de 4 fois de la formation de l’IA par rapport à exploiter les GPU Nvidia A100 Tensor Core, a déclaré Oracle. La forme BM.GPU H100.8 OCI Calculate comprend huit GPU Nvidia H100, chacun avec 80 Go de mémoire GPU HBM2.
Des conditions de calcul sans système d’exploitation OCI avec les GPU Nvidia L40S seront proposées pour un accès anticipé à plus tard. cette année, avec un calendrier de base début 2024. Les GPU Nvidia L40S, basés sur l’architecture Nvidia Ada Lovelace pour les graphiques, l’IA et les jeux vidéo, fonctionnent comme un GPU universel pour le centre d’information, fournissant une accélération multi-charges de travail pour l’inférence LLM et formation, informatique visuelle et applications vidéo.
Ensuite, regardez ceci :
- Le cloud computing n’est plus un jeu d’enfant
- Qu’est-ce que l’IA générative ? L’intelligence artificielle qui crée
- Codage avec l’IA : conseils et bonnes pratiques des concepteurs
- Transferts Python pour se débarrasser du GIL et augmenter la concurrence
- 7 facteurs que Java est toujours excellent
- La guerre des licences open source est terminée
Toute l’actualité en temps réel, est sur L’Entrepreneur
