Avec la croissance massive des services basés sur le machine learning (ML), le terme MLops est devenu un élément récurrent de la conversation, et pour cause. Abréviation de « opérations d’apprentissage automatique », MLops fait référence à un large ensemble d’outils, de fonctions de travail et de meilleures pratiques pour garantir que les modèles d’apprentissage automatique sont déployés et maintenus en production de manière fiable et efficace. Sa pratique est au cœur des modèles de production, garantissant un déploiement rapide, facilitant les expériences pour améliorer les performances et évitant les biais du modèle ou la perte de qualité de prédiction. Sans cela, le ML devient impossible à grande échelle.
Avec toute pratique à venir, il est facile d’être confus quant à ce qu’elle implique réellement. Pour vous aider, nous avons répertorié sept mythes courants sur les MLops à éviter, afin que vous puissiez vous mettre sur la bonne voie pour tirer parti du ML avec succès à grande échelle.
Mythe n° 1 : MLops se termine au lancement
Réalité : le lancement d’un modèle de ML n’est qu’une étape d’un processus continu.
Le ML est une pratique intrinsèquement expérimentale. Même après le lancement initial, il est nécessaire de tester de nouvelles hypothèses tout en affinant les signaux et les paramètres. Cela permet au modèle d’améliorer sa précision et ses performances au fil du temps. Les processus MLops aident les ingénieurs à gérer efficacement le processus d’expérimentation.
Par exemple, un composant central de MLops est la gestion des versions. Cela permet aux équipes de suivre les métriques clés sur un large éventail de variantes de modèles pour s’assurer que la meilleure est sélectionnée, tout en permettant une inversion facile en cas d’erreur.
Il est également important de surveiller les performances du modèle au fil du temps en raison du risque de dérive des données. La dérive des données se produit lorsque les données qu’un modèle examine en production s’éloignent considérablement des données sur lesquelles le modèle a été formé à l’origine, ce qui entraîne des prédictions de mauvaise qualité. Par exemple, de nombreux modèles de ML qui ont été formés pour la pandémie pré-COVID-19 le comportement des consommateurs s’est fortement dégradé en qualité après que les confinements ont changé notre façon de vivre. MLops travaille pour répondre à ces scénarios en créant des pratiques de surveillance solides et en construisant une infrastructure pour s’adapter rapidement si un changement majeur se produit. Cela va bien au-delà du lancement d’un modèle.
Mythe n° 2 : MLops est identique au développement de modèles
Réalité : MLops est le pont entre le développement de modèles et l’utilisation réussie du ML en production.
Le processus utilisé pour développer un modèle dans un environnement de test n’est généralement pas le même que celui qui lui permettra de réussir en production. L’exécution de modèles en production nécessite des pipelines de données robustes pour sourcer, traiter et former des modèles, couvrant souvent des ensembles de données beaucoup plus volumineux que ceux trouvés en développement.
Les bases de données et la puissance de calcul devront généralement migrer vers des environnements distribués pour gérer la charge accrue. Une grande partie de ce processus doit être automatisée pour garantir des déploiements fiables et la possibilité d’itérer rapidement à grande échelle. Le suivi doit également être beaucoup plus robuste car les environnements de production verront des données en dehors de ce qui est disponible dans le test, et donc le potentiel d’imprévu est beaucoup plus grand. MLops se compose de toutes ces pratiques pour faire passer un modèle du développement au lancement.
Mythe n° 3 : MLops est identique à devops
Réalité : MLops poursuit des objectifs similaires à ceux de devops, mais sa mise en œuvre diffère de plusieurs manières.
Bien que MLops et devops s’efforcent de rendre le déploiement évolutif et efficace, atteindre cet objectif pour les systèmes de ML nécessite un nouvel ensemble de pratiques. MLops met davantage l’accent sur l’expérimentation par rapport aux devops. Contrairement au déploiement de logiciels standard, les modèles ML sont souvent déployés avec de nombreuses variantes à la fois. Il existe donc un besoin de surveillance des modèles pour les comparer afin de sélectionner une version optimale. Pour chaque redéploiement, il ne suffit pas d’atterrir le code – les modèles doivent être recyclés à chaque fois qu’il y a un changement. Cela diffère des déploiements devops standard, car le pipeline doit désormais inclure une phase de recyclage et de validation.
Pour de nombreuses pratiques courantes de devops, MLops étend le champ d’application pour répondre à ses besoins spécifiques. L’intégration continue pour MLops va au-delà du simple test du code, mais comprend également des contrôles de la qualité des données ainsi que la validation du modèle. Le déploiement continu est plus qu’un simple ensemble de packages logiciels, mais inclut désormais également un pipeline pour modifier ou annuler les modifications apportées aux modèles.
Mythe n° 4 : corriger une erreur consiste simplement à modifier des lignes de code
Réalité : la correction des erreurs de modèle de ML en production nécessite une planification préalable et plusieurs solutions de remplacement.
Si un nouveau déploiement entraîne une dégradation des performances ou une autre erreur, les équipes MLops doivent disposer d’une suite d’options pour résoudre le problème. Le simple fait de revenir au code précédent n’est souvent pas suffisant, étant donné que les modèles doivent être ré-entraînés avant le déploiement. Au lieu de cela, les équipes doivent conserver plusieurs versions de modèles à portée de main, pour s’assurer qu’il y a toujours une version prête pour la production disponible en cas d’erreur.
De plus, dans les scénarios où il y a une perte de données ou un changement important dans la distribution des données de production, les équipes doivent disposer d’une heuristique de secours simple afin que le système puisse au moins maintenir un certain niveau de performances. Tout cela nécessite une planification préalable importante, qui est un aspect essentiel de MLops.
Mythe n° 5 : la gouvernance est totalement distincte des MLops
Réalité : bien que la gouvernance ait des objectifs distincts des MLops, une grande partie des MLops peut aider à soutenir les objectifs de gouvernance.
Le modèle de gouvernance gère la conformité réglementaire et les risques associés à l’utilisation du système de ML. Cela inclut des éléments tels que le maintien de politiques de protection des données utilisateur appropriées et la prévention des biais ou des résultats discriminatoires dans les prédictions des modèles. Bien que MLops soit généralement considéré comme garantissant que les modèles offrent des performances, il s’agit d’une vision étroite de ce qu’il peut offrir.
Le suivi et la surveillance des modèles en production peuvent être complétés par une analyse pour améliorer l’explicabilité des modèles et détecter les biais dans les résultats. La transparence dans la formation des modèles et les pipelines de déploiement peut faciliter les objectifs de conformité du traitement des données. Le MLops doit être considéré comme une pratique permettant un ML évolutif pour tous les objectifs commerciaux, y compris les performances, la gouvernance et la gestion des risques liés aux modèles.
Mythe n° 6 : la gestion des systèmes de ML peut se faire en silos
Réalité : les systèmes MLops performants nécessitent des équipes collaboratives dotées d’ensembles de compétences hybrides.
Le déploiement de modèles de ML couvre de nombreux rôles, y compris les data scientists, les ingénieurs de données, les ingénieurs de ML et les ingénieurs devops. Sans collaboration ni compréhension du travail de chacun, les systèmes de ML efficaces peuvent devenir difficiles à gérer à grande échelle.
Par exemple, un spécialiste des données peut développer des modèles sans beaucoup de visibilité ou d’apports externes, ce qui peut alors entraîner des difficultés de déploiement en raison de problèmes de performances et de mise à l’échelle. Peut-être qu’une équipe devops, sans connaissance des principales pratiques de ML, peut ne pas développer le suivi approprié pour permettre l’expérimentation itérative de modèles.
C’est pourquoi, dans l’ensemble, il est important que tous les membres de l’équipe aient une compréhension globale du pipeline de développement de modèles et des pratiques de ML, avec une collaboration dès le premier jour.
Mythe n° 7 : la gestion des systèmes de ML est risquée et intenable
Réalité : n’importe quelle équipe peut exploiter le ML à grande échelle avec les bons outils et pratiques.
Comme MLops est toujours un domaine en pleine expansion, il peut sembler qu’il y ait beaucoup de complexité. Cependant, l’écosystème évolue rapidement et de nombreuses ressources et outils sont disponibles pour aider les équipes à réussir à chaque étape du cycle de vie de MLops.
Avec les processus appropriés en place, vous pouvez libérer tout le potentiel du ML à grande échelle.
.
.
