Pourquoi les entreprises mettent un mois ou plus à déployer des modèles de ML et ce que vous pouvez faire
Le machine learning (ML) est un atout inestimable pour les entreprises modernes à tous les niveaux. Cependant, en ce qui concerne les modèles ML, les entreprises B2C et B2B sont confrontées au problème du retard de mise sur le marché. Selon Algorithmie, une grande majorité d’entreprises mettent au moins un mois ou plus à développer d’abord, puis déployer leur modèle ML.
La raison en est un processus en deux étapes complexe et souvent très coûteux. Le développement d’un modèle ML peut être un processus long et potentiellement coûteux en soi. Mais ce que de nombreuses entreprises ne réalisent souvent pas très tôt, c’est que la phase initiale doit ensuite être suivie d’une autre phase, sans doute plus difficile : le déploiement. Cette deuxième étape consiste à déplacer le modèle prêt vers la production, à le tester et à le peaufiner, puis à le mettre à l’échelle en conséquence.
On estime qu’environ 10 % de toutes les entreprises possèdent suffisamment d’expérience, de ressources financières et d’expertise technique pour déployer un nouveau modèle de ML en production dans la semaine suivant son achèvement. Beaucoup luttent jusqu’à un an, avec au moins 30% de toutes les entreprises prenant au moins trois mois après le déploiement. Le temps qu’il faut exactement dépend en grande partie du type de modèle populaire choisi par l’entreprise.
Modèles adaptatifs prêts à l’emploi, personnalisés et personnalisés
Parmi les modèles de ML actuellement disponibles sur le marché, il y a les suivants : modèles génériques, modèles personnalisés et modèles adaptatifs personnalisés.
Les modèles génériques et personnalisés sont fondamentalement opposés. La différence est que les modèles génériques sont faibles en termes de coût et de précision, tandis que les modèles personnalisés sont élevés en termes de coût et de précision. En effet, les modèles génériques sont conçus pour convenir à pratiquement toutes les entreprises de ce secteur. Celles-ci sont normalement basées sur ResNet, BERT/GPT et des technologies similaires prêtes à l’emploi. En conséquence, ces modèles sont abordables et fiables, mais ils sont également loin d’être parfaitement adaptés.
En revanche, les modèles personnalisés sont toujours adaptés à la tâche à accomplir et sont donc beaucoup plus précis. Cependant, ils ont également un prix beaucoup plus élevé en raison de leurs coûts de développement et de maintenance élevés. Ceux qui commencent avec une solution générique et tentent ensuite d’améliorer leur modèle ML s’aventurent souvent au-delà de l’architecture de base du modèle. Ce qu’ils finissent par obtenir est un modèle personnalisé. Un modèle personnalisé qui peut être adapté immédiatement à des besoins commerciaux plus larges et qui évite la plupart des longs ajustements post-déploiement est un modèle adaptatif personnalisé.
Un modèle adaptatif est donc un type de modèle personnalisé avec certains avantages qu’offrent les modèles génériques. Comme tous les autres modèles personnalisés, les modèles adaptatifs sont conçus en tenant compte des besoins spécifiques de l’entreprise. Pour cette raison, ils sont très précis. En même temps, ils n’exigent pas que l’entreprise découvre MLops après la phase de développement initiale. En conséquence, ils fonctionnent à certains égards comme des modèles génériques dans les phases de déploiement et de post-déploiement, avec des coûts de maintenance relativement faibles et un délai de mise sur le marché amélioré.
Choisir un modèle de ML
Le modèle dont votre entreprise a besoin (c’est-à-dire si le fait de payer un supplément en vaut la peine) dépend de votre situation particulière. Votre entreprise peut avoir besoin de quelque chose d’assez simple, comme envoyer des commandes en ligne à différents entrepôts en fonction de leur emplacement. Dans ce cas, un modèle ML générique pourrait faire l’affaire, surtout si vous êtes une petite entreprise.
D’autre part, s’il s’agit de quelque chose de spécifique comme la modération de contenu pour une communauté en ligne de médecins discutant d’équipement médical, un modèle personnalisé fonctionnera mieux. Ce qu’un modèle générique de ML peut considérer comme un langage inapproprié – par exemple, des mentions d’organes génitaux – est non seulement approprié mais nécessaire dans le contexte d’une discussion médicale. Dans ce cas, le modèle de formation doit être adapté aux besoins spécifiques de l’entreprise. Et ce modèle sur-mesure peut être adaptatif ou non.
Considérons les avantages et les inconvénients de chaque modèle :
Modèles adaptatifs personnalisés
Les modèles de ML personnalisés sont coûteux en raison des coûts de pré- et post-déploiement souvent imprévus. En raison de ces coûts de démarrage généralement élevés, certaines entreprises ont tendance à évitez l’option sur mesure, optez plutôt pour la piste générique moins précise mais aussi moins coûteuse. Le coût réel d’un modèle de formation dépend d’un certain nombre de facteurs, y compris la méthodologie d’étiquetage des données choisie, qui se reflète dans la flexibilité ou l’absence de flexibilité du modèle.
Le cas suivant illustre un modèle adaptatif personnalisé basé sur le crowdsourcing en action, c’est-à-dire un modèle adaptatif qui repose sur l’étiquetage human-in-the-loop :
Une entreprise bien connue qui propose un environnement d’édition technique souhaitait améliorer la précision de son logiciel et réduire les coûts de formation du modèle. L’équipe d’ingénieurs devait trouver une solution plus efficace pour corriger les phrases en anglais. Toute solution devait être conforme à un pipeline d’étiquetage entièrement manuel déjà en place.
La solution finale consistait à utiliser un modèle personnalisé préexistant pour le traitement linguistique adapté aux besoins du client. AutoML tiers a été utilisé pour la classification du texte dans les phrases cibles. Par la suite, la précision de la vérification des phrases a augmenté de 6 %, passant de 76 % à 82 %. Ceci, à son tour, a réduit les coûts de formation du modèle de 3 %. De plus, le client n’a pas eu besoin de faire des investissements supplémentaires – financiers ou autres – dans l’infrastructure du modèle, comme c’est normalement le cas avec la plupart des modèles personnalisés.
Points clés à garder à l’esprit
Choisir le bon modèle de ML pour votre entreprise peut être une tâche ardue. Voici un résumé de ce que vous devez prendre en compte pour prendre une décision éclairée :
Tenez compte de la spécificité de vos besoins : plus le besoin est spécifique, plus vous devez vous éloigner du modèle générique en règle générale.
Pensez toujours à l’évolutivité : si c’est quelque chose dont vous savez que vous aurez besoin, pensez à payer un supplément pour quelque chose sur mesure juste pour vous.
Si vous n’avez pas besoin d’une grande précision mais que vous avez besoin d’un déploiement rapide, envisagez d’opter pour la route générique.
Si la précision est importante pour vous, réfléchissez au temps de commercialisation que vous pouvez consacrer.
Si vous manquez de temps et avez besoin d’une grande précision, envisagez de suivre la route adaptative personnalisée ; sinon, n’importe quelle solution personnalisée peut tout aussi bien répondre à vos besoins.
En termes de coût global, la route générique est la moins chère de toutes, suivie de la route adaptative personnalisée qui contourne la plupart des dépenses MLops, et enfin de toutes les autres solutions personnalisées dont les coûts peuvent augmenter considérablement après le déploiement (les chiffres exacts diffèrent considérablement au cas par cas).
Considérez si vous avez des data scientists et des MLE en interne à votre disposition. Si oui, opter pour l’option personnalisée traditionnelle développée en interne peut être faisable ; sinon, considérez les deux autres (générique ou adaptatif personnalisé).
Lorsque vous choisissez entre les options adaptatives personnalisées et personnalisées, tenez compte de la précision et de la spécificité du modèle de ML par rapport aux besoins de votre client. Plus la précision et l’adaptabilité sont élevées, plus le coût est élevé et plus la période d’attente pour préparer et maintenir le modèle est longue.
