mscope reduce costos de ML y acelera sus insights de inversión

DoiT brindó una consultoría integral de machine learning que abarcó la planificación de costos en AWS, el diseño de la arquitectura para hacer fine-tuning de modelos transformer como Mistral 7B con el framework de HuggingFace, y la optimización de los workflows. DoiT recomendó reemplazar los costosos clusters de EMR por SageMaker batch transform orquestado con Step Functions, y consiguió acceso anticipado a Amazon Bedrock para experimentar con LLMs de forma costo-eficiente.

mscope.tech es una startup dinámica en etapa temprana dedicada a sacarle el máximo provecho a los datos para tomar decisiones de inversión informadas. Con una visión clara, su objetivo es aprovechar el valor oculto en grandes volúmenes de información. Apoyándose en tecnologías de vanguardia como machine learning e IA, mscope busca transformar el análisis de datos y se enfoca en desarrollar metodologías de última generación para resumir documentos y extraer características clave de los datos obtenidos por web scraping.

Como startup en etapa temprana, mscope enfrentaba varios retos por la falta de experiencia interna en machine learning. Necesitaba definir cómo montar la infraestructura y los workflows para entrenar y desplegar modelos con sus datos. mscope también tenía que generar texto en un idioma común (inglés) a partir de datos multilingües obtenidos por web scraping usando large language models (LLMs). Además, requería un sistema sofisticado de clasificación multinivel para etiquetar empresas según su rol en la cadena de suministro y la naturaleza de sus productos.

mscope recurrió a los servicios expertos de DoiT para resolver sus necesidades de machine learning. DoiT acompañó a mscope en la planificación y estimación de costos de los servicios de AWS necesarios, y diseñó una solución para hacer fine-tuning de modelos basados en transformers como Mistral 7B, con el framework de HuggingFace. La recomendación fue optar por SageMaker batch transform para ejecutar los distintos pasos e invocar el modelo de SageMaker de forma asincrónica, todo orquestado con Step Functions. Gracias a su relación con AWS, DoiT consiguió para mscope acceso anticipado a Amazon Bedrock.

La solución de DoiT tuvo un impacto profundo en mscope y entregó resultados significativos. Al apostar por modelos avanzados como los LLMs, mscope mejoró el preprocesamiento de sus datos multilingües crudos de web scraping, lo que se tradujo en un mejor rendimiento del algoritmo de clasificación. DoiT acompañó a mscope para aprovechar los LLMs, optimizar los tiempos de procesamiento y reducir costos. Gracias al expertise de DoiT en AWS, mscope también recibió apoyo para resolver problemas en los endpoints de SageMaker y en el uso del cluster de EMR.

Tras el éxito de la colaboración, mscope quiere continuar esta alianza para construir un nuevo clasificador de empresas. Con los datos de entrada de web scraping ya mejorados, el foco ahora se traslada a seguir perfeccionando la clasificación de las empresas de mscope. La alianza demuestra el valor sostenido del expertise de DoiT para ayudar a las startups a aprovechar tecnologías cloud avanzadas y hacer crecer su negocio.