mscope senkt ML-Kosten und kommt schneller zu Investment-Insights

DoiT lieferte umfassendes Machine-Learning-Consulting: von der AWS-Kostenplanung über das Architekturdesign für das Fine-Tuning von Transformer-Modellen wie Mistral 7B mit dem HuggingFace-Framework bis hin zur Workflow-Optimierung. DoiT empfahl, teure EMR-Cluster durch SageMaker Batch Transform mit Step-Functions-Orchestrierung zu ersetzen, und sicherte mscope frühzeitigen Zugang zu Amazon Bedrock für kosteneffizientes Experimentieren mit LLMs.

mscope.tech ist ein dynamisches Startup in der Frühphase, das das Potenzial von Daten für fundierte Investmententscheidungen voll ausschöpfen will. Mit klarer Vision verfolgt das Unternehmen ein zentrales Ziel: den verborgenen Wert in riesigen Informationsmengen freizulegen und nutzbar zu machen. Mit modernsten Technologien wie Machine Learning und KI will mscope die Datenanalyse neu denken. Im Fokus stehen innovative Methoden, um Dokumente zusammenzufassen und entscheidende Merkmale aus Web-Scraping-Daten zu extrahieren.

Als Startup in der Frühphase stand mscope vor mehreren Herausforderungen, denn intern fehlte es an Machine-Learning-Expertise. Es galt herauszufinden, wie sich die nötige Infrastruktur und die Workflows aufbauen lassen, um Modelle auf den eigenen Daten zu trainieren und zu deployen. mscope musste aus mehrsprachigen Web-Scraping-Daten mithilfe von Large Language Models (LLMs) Texte in einer einheitlichen Sprache (Englisch) erzeugen. Zudem brauchte es ein ausgefeiltes mehrstufiges Klassifizierungssystem, um Unternehmen nach ihrer Rolle in der Lieferkette und der Art ihrer Produkte zu kennzeichnen.

mscope holte sich DoiT als Expertenpartner ins Boot, um die Machine-Learning-Anforderungen gemeinsam anzugehen. DoiT unterstützte bei der Budgetierung und Kostenschätzung der erforderlichen AWS-Services und entwarf eine Lösung für das Fine-Tuning transformerbasierter Modelle wie Mistral 7B auf Basis des HuggingFace-Frameworks. Die Empfehlung: SageMaker Batch Transform für die Ausführung der einzelnen Schritte und den asynchronen Aufruf des SageMaker-Modells, orchestriert über Step Functions. Über die enge Beziehung zu AWS konnte DoiT zudem frühzeitigen Zugang zu Amazon Bedrock für mscope sichern.

Die Lösung von DoiT hat mscope deutlich vorangebracht und spürbare Ergebnisse geliefert. Durch den Einsatz fortschrittlicher Modelle wie LLMs konnte mscope die Vorverarbeitung der mehrsprachigen Roh-Web-Scraping-Daten verbessern – und damit auch den Klassifizierungsalgorithmus optimieren. DoiT half mscope dabei, LLMs effektiv zu nutzen, Verarbeitungszeiten zu verkürzen und Kosten zu senken. Dank der AWS-Expertise von DoiT erhielt mscope außerdem Unterstützung bei Problemen rund um SageMaker-Endpoints und die Nutzung von EMR-Clustern.

Auf Basis dieser erfolgreichen Zusammenarbeit will mscope die Partnerschaft fortsetzen und einen neuen Unternehmensklassifizierer entwickeln. Nachdem die Web-Scraping-Eingangsdaten deutlich verbessert wurden, liegt der Fokus jetzt darauf, die Klassifizierung der mscope-Unternehmen weiter zu schärfen. Die Zusammenarbeit zeigt einmal mehr, welchen nachhaltigen Mehrwert die Expertise von DoiT bietet, wenn Startups moderne Cloud-Technologien für ihr Wachstum nutzen wollen.