mscope réduit ses coûts ML et accélère ses analyses d'investissement

DoiT a fourni un accompagnement complet en machine learning : budgétisation AWS, conception d'une architecture pour le fine-tuning de modèles transformers comme Mistral 7B avec le framework HuggingFace, et optimisation des workflows. DoiT a recommandé de remplacer les clusters EMR coûteux par SageMaker batch transform orchestré avec Step Functions, et a obtenu un accès anticipé à Amazon Bedrock pour expérimenter les LLM à moindre coût.

mscope.tech est une startup dynamique en phase d'amorçage, dédiée à exploiter pleinement le potentiel des données au service des décisions d'investissement. Animée par une vision claire, elle a pour ambition de révéler et de valoriser la richesse cachée dans de vastes volumes d'information. En s'appuyant sur des technologies de pointe comme le machine learning et l'IA, mscope entend transformer l'analyse des données. Ses efforts se concentrent sur le développement de méthodologies avancées pour résumer des documents et extraire les caractéristiques clés de données issues du web.

Startup en phase d'amorçage, mscope se heurtait à plusieurs défis liés au manque d'expertise interne en machine learning. L'équipe devait déterminer comment mettre en place l'infrastructure et les workflows nécessaires pour entraîner et déployer ses modèles sur ses données. mscope avait besoin de générer du texte dans une langue commune (l'anglais) à partir de données web multilingues à l'aide de grands modèles de langage (LLM). Il lui fallait également un système de classification multi-niveaux sophistiqué pour étiqueter les entreprises selon leur rôle dans la supply chain et la nature de leurs produits.

mscope a fait appel aux experts de DoiT pour répondre à ses besoins en machine learning. DoiT a accompagné mscope dans la budgétisation et l'estimation des coûts des services AWS nécessaires, puis a conçu une solution de fine-tuning de modèles transformers comme Mistral 7B, appuyée par le framework HuggingFace. DoiT a recommandé à mscope d'opter pour SageMaker batch transform afin d'exécuter les différentes étapes et d'invoquer le modèle SageMaker de manière asynchrone, le tout orchestré avec Step Functions. Sa relation privilégiée avec AWS a également permis à mscope d'obtenir un accès anticipé à Amazon Bedrock.

La solution de DoiT a profondément marqué mscope, avec des résultats significatifs à la clé. En préconisant le recours à des modèles avancés comme les LLM, mscope a amélioré le prétraitement de ses données brutes de web scraping multilingues, ce qui a renforcé son algorithme de classification. DoiT a aidé mscope à tirer parti des LLM, à optimiser les temps de traitement et à réduire les coûts. Grâce à l'expertise AWS de DoiT, mscope a également pu résoudre des problèmes liés aux endpoints SageMaker et à l'utilisation des clusters EMR.

Fort du succès de cette collaboration, mscope souhaite poursuivre ce partenariat pour développer un nouveau classifieur d'entreprises. Après avoir amélioré les données d'entrée issues du web scraping, l'attention se portera désormais sur l'amélioration de la classification des entreprises mscope. Ce partenariat illustre la valeur durable de l'expertise de DoiT pour aider les startups à mettre les technologies cloud avancées au service de leur croissance.