mscope taglia i costi del ML e accelera gli insight di investimento

DoiT ha fornito una consulenza completa sul machine learning, che ha incluso la pianificazione dei costi AWS, la progettazione dell'architettura per il fine-tuning di modelli transformer come Mistral 7B con il framework HuggingFace e l'ottimizzazione dei workflow. DoiT ha consigliato di sostituire i costosi cluster EMR con SageMaker batch transform orchestrato tramite Step Functions, ottenendo inoltre l'accesso anticipato ad Amazon Bedrock per una sperimentazione con LLM economicamente sostenibile.

mscope.tech è una startup dinamica in fase iniziale, dedicata a massimizzare il potenziale dei dati per supportare decisioni di investimento informate. Con una visione chiara, il suo obiettivo principale è portare alla luce il valore nascosto in grandi quantità di informazioni. Facendo leva su tecnologie all'avanguardia come machine learning e AI, mscope punta a rivoluzionare l'analisi dei dati, sviluppando metodologie innovative per sintetizzare documenti ed estrarre caratteristiche chiave dai dati raccolti dal web.

In quanto startup in fase iniziale, mscope si è trovata di fronte a diverse sfide, dovute soprattutto alla mancanza di competenze interne in machine learning. Era necessario capire come costruire l'infrastruttura e i workflow per addestrare e portare in produzione i modelli sui propri dati. mscope doveva generare testo in una lingua comune (l'inglese) a partire da dati multilingua raccolti dal web tramite large language model (LLM). Serviva inoltre un sistema di classificazione multilivello sofisticato per etichettare le aziende in base al loro ruolo nella supply chain e alla natura dei loro prodotti.

mscope si è affidata ai servizi di consulenza di DoiT per affrontare le proprie esigenze di machine learning. DoiT ha supportato mscope nella pianificazione e nella stima dei costi dei servizi AWS necessari, progettando una soluzione per il fine-tuning di modelli basati su transformer come Mistral 7B, con il framework HuggingFace. DoiT ha consigliato a mscope di adottare SageMaker batch transform per eseguire i diversi passaggi e invocare il modello SageMaker in modo asincrono, il tutto orchestrato con Step Functions. Grazie al rapporto consolidato con AWS, DoiT ha inoltre ottenuto per conto di mscope l'accesso anticipato ad Amazon Bedrock.

La soluzione di DoiT ha avuto un impatto profondo su mscope, con risultati significativi. Suggerendo l'impiego di modelli avanzati come gli LLM, DoiT ha permesso a mscope di migliorare il preprocessing dei dati grezzi multilingua provenienti dal web, con un conseguente potenziamento dell'algoritmo di classificazione. DoiT ha aiutato mscope a sfruttare gli LLM, ottimizzando i tempi di elaborazione e riducendo i costi. Grazie all'expertise di DoiT su AWS, mscope ha ricevuto supporto anche nella risoluzione di problematiche legate agli endpoint SageMaker e all'utilizzo dei cluster EMR.

Sulla scia del successo di questa collaborazione, mscope intende proseguire la partnership per sviluppare un nuovo classificatore aziendale. Dopo aver migliorato i dati di input provenienti dal web scraping, l'attenzione si sposterà ora sull'ulteriore affinamento della classificazione delle aziende. La collaborazione testimonia il valore continuo dell'expertise di DoiT nell'accompagnare le startup nell'adozione di tecnologie cloud avanzate a supporto della crescita del business.