Einrichtung
Ein API-Token. Volle Transparenz über Ihre Ray-Cluster.
Verbinden Sie Ihre Anyscale-Organisation mit einem schreibgeschützten API-Token. DoiT erfasst Verbrauchsmetriken, Cluster-Auslastung und die zugrunde liegenden Cloud-Ausgaben aus AWS oder GCP automatisch – ohne Agents und ohne Code-Änderungen an Ihren Ray-Jobs. Einheitliche Reports stehen wenige Stunden nach der Anbindung bereit.
Das erwartet Sie
Gemacht für den Alltag mit Ray auf Anyscale
Genau das, wonach FinOps- und ML-Plattform-Verantwortliche uns fragen, wenn sie ihre Anyscale-Organisation anbinden.
Einheitliches Verbrauchs-Reporting
Analysieren Sie Anyscale-Ausgaben nach Workspace, Projekt, Cluster oder Team – zusammen mit den zugrunde liegenden Cloud-Kosten.
Anomalien in Echtzeit
Lassen Sie sich innerhalb von Minuten bei ausufernden Ray-Jobs und GPU-Kostenspitzen alarmieren.
Right-Sizing für Cluster
Finden Sie überdimensionierte Head- und Worker-Nodes – mit umsetzbaren Empfehlungen für CPU, GPU und Arbeitsspeicher.
Erkennung ungenutzter Cluster
Decken Sie Ray-Cluster auf, die nach Abschluss der Jobs weiterlaufen, und holen Sie sich das Budget zurück.
Transparenz bei GPUs und Beschleunigern
Entwirren Sie die GPU-, CPU- und xPU-Nutzung Ihrer Training-, Tuning- und Serving-Workloads, die sich in aggregierten Rechnungen verstecken.
Governance und Budgets
Legen Sie Budgets pro ML-Team oder Projekt fest und erkennen Sie Überschreitungen, bevor der nächste Trainingslauf startet.
Das Anyscale Usage-Dashboard zeigt, was Sie verbraucht haben. Cloud Intelligence™ hilft Ihnen, daraus die richtigen Schritte abzuleiten.
Mehr als das Anyscale Usage-Dashboard
Multi-Cloud-Gesamtsichten
Konsolidierte Sicht auf Anyscale-Ausgaben auf AWS, GCP oder Kubernetes – mit Drilldown bis in jeden einzelnen Cluster.
Anomalie-Alerts in Echtzeit
Machine-Learning-basierte Erkennung auf Workspace-, Cluster- und Job-Ebene, per Slack oder E-Mail zugestellt.
GPU-Commitment-Planung
Modellieren Sie Savings Plans, CUDs und Reservierungen anhand Ihrer tatsächlichen Ray-Nutzung, bevor Sie auch nur einen Dollar binden.
Saubere Projekte und Kostenzuordnung
Finden Sie ungetaggte Ray-Workloads, setzen Sie Zuordnungsregeln durch und verteilen Sie gemeinsame Kosten so, wie es die Finanzabteilung erwartet.
Kostenzuordnung für Kubernetes
Schlüsseln Sie Ausgaben für Anyscale auf Kubernetes nach Namespace, Workload und Label auf – ohne zusätzliche Exporter.
Forward Deployed Engineers
Cloud-Architekten der Spitzenklasse, die als Erweiterung Ihres Teams Optimierungen direkt umsetzen.
Wachstumsstarke Unternehmen setzen auf Cloud Intelligence™
Ø Einsparungen in den ersten 90 Tagen
Ø Implementierungszeit
“Der Fokus von DoiT auf Zuverlässigkeit, kombiniert mit der Flexibilität des Systems, hilft uns, unsere Amazon-EKS-Workloads sicher zu optimieren – ganz ohne Zutun unserer Engineers.”
Oren Ashkenazy
Director of DevOps and Cloud bei Fiverr
Bereit, Ihre Anyscale-Organisation anzubinden?
Nehmen Sie Ihre Ray-Cluster-Ausgaben unter die Lupe.
Frequently asked
questions
Gibt es eine zentrale Sicht auf Anyscale-Kosten über Workspaces und Projekte hinweg?
Verbinden Sie Ihre Anyscale-Organisation einmalig. Cloud Intelligence™ erfasst die Verbrauchsdaten aller Workspaces und Projekte, sodass Sie Kosten nach Cluster, Job, Team oder zugrunde liegender Cloud in einer einzigen Ansicht analysieren können – ganz ohne manuelle Zusammenführung.
Was ist nötig, um Anyscale-Nutzungsdaten mit Cloud Intelligence™ zu verbinden?
Sie benötigen lediglich einen schreibgeschützten API-Token Ihrer Anyscale-Organisation sowie Ihre AWS- oder GCP-Abrechnungsverbindung. DoiT übernimmt Erfassung, Normalisierung und Reporting mit stündlicher Granularität. Die meisten Teams sind innerhalb eines Tages startklar.
Welche Ray-Cluster oder Jobs verursachen den Großteil meiner Ausgaben?
Mit Kosten- und Nutzungsberichten navigieren Sie von den Gesamtausgaben für Anyscale bis hinunter zu einem bestimmten Cluster, Job oder Node-Typ. Filtern Sie nach Workspace, Projekt, Region oder Instanzfamilie – ohne eine Zeile SQL zu schreiben.
Werde ich bei Anyscale-Kostenanomalien sofort benachrichtigt?
Die Anomalie-Erkennung läuft kontinuierlich über Workspaces, Cluster und Job-Dimensionen. Wenn etwas ungewöhnlich aussieht (etwa ein Trainingslauf, der über Nacht GPU-Stunden verbrennt), erhalten Sie einen Slack- oder E-Mail-Alert mit der wahrscheinlichen Ursache.
Wie reduziere ich Verschwendung durch ungenutzte oder überdimensionierte Ray-Cluster?
Cloud Intelligence™ markiert Cluster unterhalb der Auslastungsziele, Head-Nodes, die für ihre Workloads überdimensioniert sind, und Cluster, die nach Abschluss der Jobs im Leerlauf weiterlaufen. Jede Empfehlung zeigt das geschätzte Einsparpotenzial.
Wie ordne ich Anyscale-Ausgaben ML-Teams und Modellen zu?
Ordnen Sie Anyscale-Workspaces, -Projekte und -Tags Ihren internen Kostenstellen zu. Gemeinsam genutzte GPU-Pools lassen sich über Zuordnungsregeln aufteilen, sodass die Finanzabteilung Kosten pro Team und pro Modell sieht – ganz ohne manuell gepflegte Tabellen.
Ich nutze bereits das Anyscale Usage-Dashboard. Was bringt mir Cloud Intelligence™ zusätzlich?
Das Anyscale Usage-Dashboard zeigt Verbrauchsschätzungen innerhalb von Anyscale. Cloud Intelligence™ verknüpft diese mit den tatsächlichen Cloud-Ausgaben und ergänzt Multi-Cloud-Transparenz, proaktive Empfehlungen, Anomalie-Erkennung, Governance und den Zugang zu Forward Deployed Engineers.
Welchen Zugriff erhält Cloud Intelligence™ auf meine Anyscale-Organisation, und wie ist er geschützt?
Cloud Intelligence™ verwendet einen schreibgeschützten API-Token nach dem Least-Privilege-Prinzip. Wir verändern niemals Cluster oder Jobs ohne Ihre Zustimmung, und die Plattform ist nach SOC 2 Type II zertifiziert.
