Empêchez vos projets d’IA de cloud public de vous assécher

L’année dernière, Andreessen Horowitz a publié un article de blog provocateur intitulé « < a rel="nofollow noopener" target="_blank" href="https://a16z.com/2021/05/27/cost-of-cloud-paradox-market-cap-cloud-lifecycle-scale-growth-rapatriation -optimisation/">Le coût du cloud, un paradoxe d’un billion de dollars. » Dans ce document, la société de capital-risque a fait valoir que les dépenses incontrôlables dans le cloud entraînaient des entreprises publiques laissant des milliards de dollars de capitalisation boursière potentielle sur la table. Une alternative, suggère l’entreprise, consiste à recalibrer les ressources cloud dans un modèle hybride. Un tel modèle peut stimuler le résultat net d’une entreprise et libérer des capitaux pour se concentrer sur de nouveaux produits et sur la croissance.

Il reste à voir si les entreprises suivront ces conseils, mais nous savons avec certitude que les DSI exigent plus d’agilité et de performances de la part de leur infrastructure de support. C’est d’autant plus vrai lorsqu’ils cherchent à utiliser des applications d’intelligence artificielle/apprentissage automatique (IA/ML) sophistiquées et gourmandes en ressources informatiques pour améliorer leur capacité à prendre des décisions en temps réel basées sur les données.

À cette fin, le cloud public a joué un rôle fondamental dans l’introduction de l’IA dans le courant dominant. Mais les facteurs qui ont fait du cloud public un terrain d’essai idéal pour l’IA (c’est-à-dire la tarification élastique, la facilité de flexion vers le haut ou vers le bas, entre autres facteurs) empêchent en fait l’IA de réaliser son plein potentiel.

Voici quelques considérations pour les organisations qui cherchent à optimiser les avantages de l’IA dans leurs environnements.

Pour l’IA, le cloud n’est pas unique

Les données sont l’élément vital de l’entreprise moderne, le carburant qui génère des informations sur l’IA. Et comme de nombreuses charges de travail d’IA doivent constamment ingérer des volumes de données importants et croissants, il est impératif que l’infrastructure puisse répondre à ces exigences de manière rentable et performante.

Lorsqu’ils décident de la meilleure façon d’aborder l’IA à grande échelle, les responsables informatiques doivent tenir compte de divers facteurs. La première est de savoir si la colocation, le cloud public ou un mix hybride est le mieux adapté pour répondre aux besoins uniques des applications d’IA modernes.

Bien que le cloud public ait joué un rôle inestimable dans la mise sur le marché de l’IA, il ne va pas sans son lot de défis. Ceux-ci incluent :

• Verrouillage du fournisseur : la plupart des services basés sur le cloud présentent un certain risque de verrouillage. Cependant, certains services d’IA basés sur le cloud disponibles aujourd’hui sont très spécifiques à la plate-forme, chacun arborant ses propres nuances particulières et des intégrations distinctes liées aux partenaires. Par conséquent, de nombreuses organisations ont tendance à consolider leurs charges de travail d’IA avec un seul fournisseur. Il leur est donc difficile de changer de fournisseur à l’avenir sans encourir de coûts importants.
• Tarification élastique : la possibilité de ne payer que ce que vous utilisez est ce qui fait du cloud public une option si attrayante pour les entreprises, en particulier celles qui espèrent réduire leurs dépenses CapEx. Et consommer un service de cloud public au compte-goutte est souvent économiquement judicieux à court terme. Mais les organisations ayant une visibilité limitée sur leur utilisation du cloud constatent trop souvent qu’elles le consomment à la pelle. À ce stade, cela devient une taxe qui étouffe l’innovation.
• Frais de sortie : avec les transferts de données dans le cloud, un client n’a pas besoin de payer pour les données qu’il envoie dans le cloud. Mais pour extraire ces données du cloud, ils doivent payer des frais de sortie, qui peuvent rapidement s’accumuler. Par exemple, les systèmes de reprise après sinistre seront souvent répartis entre les régions géographiques pour assurer la résilience. Cela signifie qu’en cas d’interruption, les données doivent être continuellement dupliquées dans les zones de disponibilité ou sur d’autres plates-formes. Par conséquent, les responsables informatiques en viennent à comprendre qu’à un certain moment, plus il y a de données poussées dans le cloud public, plus il est probable qu’elles seront peintes dans un coin financier.
• Souveraineté des données : la sensibilité et la localisation des données sont un autre facteur crucial pour déterminer quel fournisseur de cloud serait le plus approprié. De plus, comme une série de nouvelles les réglementations nationales sur la confidentialité des données entrent en vigueur, il sera important de s’assurer que toutes les données utilisées pour l’IA dans les environnements de cloud public sont conformes aux réglementations en vigueur sur la confidentialité des données.

Trois questions à se poser avant de migrer l’IA vers le cloud

Les économies d’échelle que les fournisseurs de cloud public apportent à la table en ont fait un terrain d’essai naturel pour les projets d’IA d’entreprise les plus exigeants d’aujourd’hui. Cela dit, avant de se lancer dans le cloud public, les responsables informatiques doivent se poser les trois questions suivantes pour déterminer s’il s’agit bien de leur meilleure option.

À quel moment le cloud public cesse-t-il d’avoir un sens économique ?

Les offres de cloud public telles qu’AWS et Azure offrent aux utilisateurs la possibilité de faire évoluer rapidement et à moindre coût leurs charges de travail d’IA puisque vous ne payez que ce que vous utilisez. Cependant, ces coûts ne sont pas toujours prévisibles, d’autant plus que ces types de charges de travail gourmandes en données ont tendance à augmenter en volume car elles ingèrent avec voracité plus de données provenant de différentes sources, telles que la formation et l’affinement des modèles d’IA. Bien que le « paiement au compte-goutte » soit plus facile, plus rapide et moins cher à plus petite échelle, il ne faut pas longtemps pour que ces gouttes s’accumulent dans des seaux, vous poussant vers un niveau de tarification plus élevé.

Vous pouvez atténuer le coût de ces seaux en vous engageant dans des contrats à long terme avec des remises sur volume, mais les aspects économiques de ces contrats pluriannuels sont encore rarement définis. L’essor de l’IA Compute-as-a-Service en dehors du cloud public offre des options à ceux qui recherchent la commodité et la prévisibilité des coûts d’un modèle de consommation OpEx avec la fiabilité d’une infrastructure dédiée.

Est-ce que toutes les charges de travail d’IA doivent être traitées de la même manière ?

Il est important de se rappeler que l’IA n’est pas un jeu à somme nulle. Il y a souvent de la place pour une infrastructure cloud et dédiée ou quelque chose entre les deux (hybride). Au lieu de cela, commencez par examiner les attributs de vos applications et de vos données, et investissez du temps en amont pour comprendre les exigences technologiques spécifiques aux charges de travail individuelles de votre environnement et les résultats commerciaux souhaités pour chacune. Recherchez ensuite un modèle architectural qui vous permette de faire correspondre le modèle de fourniture de ressources informatiques qui correspond à chaque étape de votre parcours de développement d’IA.

Quel modèle de cloud vous permettra de déployer l’IA à grande échelle ?

Au pays de la formation de modèles d’IA, de nouvelles données doivent être régulièrement introduites dans la pile de calcul pour améliorer les capacités de prédiction des applications d’IA qu’elles prennent en charge. Ainsi, la proximité des référentiels de calcul et de données est devenue un critère de sélection de plus en plus important. Bien sûr, toutes les charges de travail ne nécessiteront pas une connectivité dédiée et persistante à haut débit. Mais pour ceux qui le font, une latence excessive du réseau peut gravement entraver leur potentiel. Au-delà des problèmes de performances, il existe un nombre croissant de réglementations sur la confidentialité des données qui dictent comment et où certaines données peuvent être consultées et traitées. Ces réglementations doivent également faire partie du processus de décision du modèle cloud.

Le cloud public a joué un rôle essentiel dans la généralisation de l’IA. Mais cela ne signifie pas qu’il est logique que chaque application d’IA s’exécute dans le cloud public. Investir du temps et des ressources dès le début de votre projet d’IA pour déterminer le bon modèle de cloud contribuera grandement à vous protéger contre l’échec du projet d’IA.

.