Esta página também está disponível em English, Deutsch, Español, Français, Italiano e 日本語.
A DoiT redesenhou a stack AWS da mscope com SageMaker, Step Functions e Bedrock para fazer fine-tuning de LLMs com dados multilíngues e classificar empresas com mais inteligência.
Como startup em estágio inicial, a mscope não tinha expertise interna em machine learning e precisava estruturar a infraestrutura para treinar e implantar modelos. Era preciso gerar texto em inglês a partir de dados multilíngues coletados da web usando LLMs, além de implementar sistemas sofisticados de classificação multinível para categorizar empresas conforme seu papel na cadeia de suprimentos e as características de seus produtos.
A DoiT entregou uma consultoria completa em machine learning, incluindo planejamento de custos na AWS, design de arquitetura para fine-tuning de modelos transformer como o Mistral 7B com o framework HuggingFace e otimização de workflows. A DoiT recomendou trocar os clusters EMR, mais caros, pelo SageMaker batch transform com orquestração via Step Functions, e garantiu acesso antecipado ao Amazon Bedrock para experimentar LLMs com bom custo-benefício.
Somos muito gratos pelo enorme apoio da DoiT. Como startup em estágio inicial enfrentando desafios complexos com novas técnicas de machine learning, a expertise da DoiT foi fundamental. Do planejamento dos custos dos serviços AWS ao desenho de uma solução sob medida, a orientação do time nos permitiu usar tecnologias avançadas com eficácia. A solução da DoiT trouxe resultados expressivos: passamos a aproveitar nossos dados de web scraping com muito mais eficiência e a extrair mais insights deles, aprimorando nosso algoritmo de classificação.
Marion Roussel, VP de Dados na mscope
A mscope.tech é uma startup dinâmica em estágio inicial dedicada a extrair o máximo potencial dos dados para embasar decisões de investimento. Com uma visão clara, seu principal objetivo é destravar e aproveitar o valor oculto em grandes volumes de informação. Apoiada em tecnologias de ponta como machine learning e IA, a mscope quer revolucionar a análise de dados. A empresa se dedica a desenvolver metodologias avançadas para resumir documentos e extrair características essenciais de dados coletados da web.
Como startup em estágio inicial, a mscope enfrentava diversos desafios pela falta de expertise interna em machine learning. Era preciso definir como estruturar a infraestrutura e os workflows para treinar e implantar modelos sobre seus dados. A mscope precisava gerar texto em um idioma comum (inglês) a partir de dados multilíngues coletados da web usando large language models (LLMs). Também era necessário um sistema sofisticado de classificação multinível para rotular empresas conforme seu papel na cadeia de suprimentos e a natureza de seus produtos.
A mscope contratou os serviços especializados da DoiT em busca de consultoria para suas necessidades em machine learning. A DoiT apoiou a mscope no planejamento e na estimativa de custos dos serviços AWS necessários, além de desenhar uma solução para fine-tuning de modelos baseados em transformers, como o Mistral 7B, com o framework HuggingFace. A DoiT recomendou que a mscope adotasse o SageMaker batch transform para executar as diferentes etapas e invocar o modelo do SageMaker de forma assíncrona, com orquestração via Step Functions. A relação da DoiT com a AWS permitiu obter acesso antecipado ao Amazon Bedrock em nome da mscope.
A solução da DoiT teve um impacto profundo na mscope e gerou resultados expressivos. Com a recomendação de usar modelos avançados como LLMs, a mscope aprimorou o pré-processamento dos dados brutos multilíngues coletados da web, o que se traduziu em melhorias no algoritmo classificador da mscope. A DoiT ajudou a mscope a tirar proveito dos LLMs, otimizar tempos de processamento e reduzir custos. Com a expertise da DoiT em AWS, a mscope também recebeu suporte para resolver questões ligadas a endpoints do SageMaker e ao uso de clusters EMR.
Diante do sucesso da colaboração, a mscope quer dar continuidade à parceria para construir um novo classificador de empresas. Com os dados de entrada do web scraping já aprimorados, o foco agora passa a ser evoluir ainda mais a classificação de empresas da mscope. A parceria reforça o valor contínuo da expertise da DoiT em ajudar startups a aproveitar tecnologias avançadas de nuvem para crescer.
Descubra como o Cloud Intelligence™ ajuda as equipes a melhorar visibilidade, governança e unit economics em ambientes de nuvem.
“PerfectScale gives us the confidence to automate Kubernetes optimization while letting our engineers focus on building what matters.”
Josh Zarrabi, Infrastructure Engineer
“Without PerfectScale by DoiT, I don't know how we would do it. We'd have to have twice the number of people on my team to stay on top of it. With PerfectScale, we can focus on the more strategic issues.”
David Adkins, Director of Software and Platform Engineering
Connecting IBM and AWS privately was the piece we needed to get right, and we wanted to move faster on it than we could on our own. DoiT worked through the options with us, found the subnet overlap that was breaking the routing, and made it stable. That unblocked everything else.
DevOps Lead, Software Projects
Attribute™'s platform is truly unique. We now have crystal-clear visibility into our cloud spend at the workload and tenant level, and that insight has already led to actionable savings and powerful insights as we further scale our service.
Paul White, VP of Engineering, Shasta Cloud
We have worked with DoiT for many years, and there has been an increasing number of capabilities and features in DoiT Cloud Intelligence. We've embedded features such as Cloud Analytics and Reports in our own FinOps processes, it's become core to what we do.
Martin Lee, Director of Operations
DoiT gave us the confidence to move from experimentation to production. They helped us understand the right way to build AI for the real world.
Milad Rezazadeh, CTO
Attribute™'s cost grouping technology took our cost visibility and allocation to a whole new level. Now, our teams are fully accountable for their budgets, significantly improving our cloud efficiency and helping us minimize unnecessary costs.
Eli Zilbershtein, Head of DevOps, Hippo
You can't tag a customer in a multi-tenant environment. Attribute™ finally shows us what each customer costs and what's driving those costs.
Omri Cohen, Director of Engineering, Platform
Attribute™'s data is truly unmatched. No other solution on the market could deliver the precise customer cost and usage profiles we needed in such a complex infrastructure. Within weeks, the data from Attribute™ transformed our understanding of cost structures, influencing key strategic decisions in pricing, renegotiations, and market positioning.
Jonathan Langer, COO, Claroty
Attribute™ simplified tracking customer costs in our multi-tenant environments. Customer cost measurement is now clear and standardized, and finance gets the business context they need. Integration was quick and required no changes.
Kfir Lippmann, CFO, Salt Security
Attribute™ translates complex cloud bills into actionable, business-centric insights that empower our engineering teams to take true ownership of their costs.
Balamurugan Mohandossgandhi, Head of IT and Infrastructure, PropertyGuru
This has let us get a better idea of what our cost of goods sold really is. It's not every day you come across something that delivers value as quickly as yours did for us. I was seeing useful insights inside the POC, and we had only deployed it to a couple of real clusters.
Jason Moore, Principal DevOps Engineer, Accrete AI
Eliminating the need to tag thousands of resources has freed up my team and we've invested our efforts in enhancing our platform significantly.
Ziv Sivan, VP of Engineering
Let us show you what ships this week.
