Cloud Intelligence™Cloud Intelligence™
Integrations

Die Kosten jedes Ray-Clusters im Griff

Live-Einblick in Anyscale-Verbrauch, Ray-Cluster-Auslastung und Right-Sizing-Potenziale – über alle Workspaces und Clouds hinweg.

Dashboard-Mockup mit Ausgaben pro Job für Anyscale

Teams, die AI- und Ray-Workloads produktiv skalieren, vertrauen auf uns

Akamai
Blumira
Chess.com
Current
OneFootball
Promptly
Recurly
Lusha
Mux

Einrichtung

Ein API-Token. Volle Transparenz über Ihre Ray-Cluster.

Verbinden Sie Ihre Anyscale-Organisation mit einem schreibgeschützten API-Token. DoiT erfasst Verbrauchsmetriken, Cluster-Auslastung und die zugrunde liegenden Cloud-Ausgaben aus AWS oder GCP automatisch – ohne Agents und ohne Code-Änderungen an Ihren Ray-Jobs. Einheitliche Reports stehen wenige Stunden nach der Anbindung bereit.

Das erwartet Sie

Gemacht für den Alltag mit Ray auf Anyscale

Genau das, wonach FinOps- und ML-Plattform-Verantwortliche uns fragen, wenn sie ihre Anyscale-Organisation anbinden.

Einheitliches Verbrauchs-Reporting

Analysieren Sie Anyscale-Ausgaben nach Workspace, Projekt, Cluster oder Team – zusammen mit den zugrunde liegenden Cloud-Kosten.

Anomalien in Echtzeit

Lassen Sie sich innerhalb von Minuten bei ausufernden Ray-Jobs und GPU-Kostenspitzen alarmieren.

Right-Sizing für Cluster

Finden Sie überdimensionierte Head- und Worker-Nodes – mit umsetzbaren Empfehlungen für CPU, GPU und Arbeitsspeicher.

Erkennung ungenutzter Cluster

Decken Sie Ray-Cluster auf, die nach Abschluss der Jobs weiterlaufen, und holen Sie sich das Budget zurück.

Transparenz bei GPUs und Beschleunigern

Entwirren Sie die GPU-, CPU- und xPU-Nutzung Ihrer Training-, Tuning- und Serving-Workloads, die sich in aggregierten Rechnungen verstecken.

Governance und Budgets

Legen Sie Budgets pro ML-Team oder Projekt fest und erkennen Sie Überschreitungen, bevor der nächste Trainingslauf startet.

Das Anyscale Usage-Dashboard zeigt, was Sie verbraucht haben. Cloud Intelligence™ hilft Ihnen, daraus die richtigen Schritte abzuleiten.

Mehr als das Anyscale Usage-Dashboard

  • Multi-Cloud-Gesamtsichten

    Konsolidierte Sicht auf Anyscale-Ausgaben auf AWS, GCP oder Kubernetes – mit Drilldown bis in jeden einzelnen Cluster.

  • Anomalie-Alerts in Echtzeit

    Machine-Learning-basierte Erkennung auf Workspace-, Cluster- und Job-Ebene, per Slack oder E-Mail zugestellt.

  • GPU-Commitment-Planung

    Modellieren Sie Savings Plans, CUDs und Reservierungen anhand Ihrer tatsächlichen Ray-Nutzung, bevor Sie auch nur einen Dollar binden.

  • Saubere Projekte und Kostenzuordnung

    Finden Sie ungetaggte Ray-Workloads, setzen Sie Zuordnungsregeln durch und verteilen Sie gemeinsame Kosten so, wie es die Finanzabteilung erwartet.

  • Kostenzuordnung für Kubernetes

    Schlüsseln Sie Ausgaben für Anyscale auf Kubernetes nach Namespace, Workload und Label auf – ohne zusätzliche Exporter.

  • Forward Deployed Engineers

    Cloud-Architekten der Spitzenklasse, die als Erweiterung Ihres Teams Optimierungen direkt umsetzen.


Wachstumsstarke Unternehmen setzen auf Cloud Intelligence™

21%

Ø Einsparungen in den ersten 90 Tagen

28 Tage

Ø Implementierungszeit

Oren Ashkenazy

Der Fokus von DoiT auf Zuverlässigkeit, kombiniert mit der Flexibilität des Systems, hilft uns, unsere Amazon-EKS-Workloads sicher zu optimieren – ganz ohne Zutun unserer Engineers.

Oren Ashkenazy

Director of DevOps and Cloud bei Fiverr

Bereit, Ihre Anyscale-Organisation anzubinden?

Nehmen Sie Ihre Ray-Cluster-Ausgaben unter die Lupe.

Frequently asked
questions

Gibt es eine zentrale Sicht auf Anyscale-Kosten über Workspaces und Projekte hinweg?

Verbinden Sie Ihre Anyscale-Organisation einmalig. Cloud Intelligence™ erfasst die Verbrauchsdaten aller Workspaces und Projekte, sodass Sie Kosten nach Cluster, Job, Team oder zugrunde liegender Cloud in einer einzigen Ansicht analysieren können – ganz ohne manuelle Zusammenführung.

Was ist nötig, um Anyscale-Nutzungsdaten mit Cloud Intelligence™ zu verbinden?

Sie benötigen lediglich einen schreibgeschützten API-Token Ihrer Anyscale-Organisation sowie Ihre AWS- oder GCP-Abrechnungsverbindung. DoiT übernimmt Erfassung, Normalisierung und Reporting mit stündlicher Granularität. Die meisten Teams sind innerhalb eines Tages startklar.

Welche Ray-Cluster oder Jobs verursachen den Großteil meiner Ausgaben?

Mit Kosten- und Nutzungsberichten navigieren Sie von den Gesamtausgaben für Anyscale bis hinunter zu einem bestimmten Cluster, Job oder Node-Typ. Filtern Sie nach Workspace, Projekt, Region oder Instanzfamilie – ohne eine Zeile SQL zu schreiben.

Werde ich bei Anyscale-Kostenanomalien sofort benachrichtigt?

Die Anomalie-Erkennung läuft kontinuierlich über Workspaces, Cluster und Job-Dimensionen. Wenn etwas ungewöhnlich aussieht (etwa ein Trainingslauf, der über Nacht GPU-Stunden verbrennt), erhalten Sie einen Slack- oder E-Mail-Alert mit der wahrscheinlichen Ursache.

Wie reduziere ich Verschwendung durch ungenutzte oder überdimensionierte Ray-Cluster?

Cloud Intelligence™ markiert Cluster unterhalb der Auslastungsziele, Head-Nodes, die für ihre Workloads überdimensioniert sind, und Cluster, die nach Abschluss der Jobs im Leerlauf weiterlaufen. Jede Empfehlung zeigt das geschätzte Einsparpotenzial.

Wie ordne ich Anyscale-Ausgaben ML-Teams und Modellen zu?

Ordnen Sie Anyscale-Workspaces, -Projekte und -Tags Ihren internen Kostenstellen zu. Gemeinsam genutzte GPU-Pools lassen sich über Zuordnungsregeln aufteilen, sodass die Finanzabteilung Kosten pro Team und pro Modell sieht – ganz ohne manuell gepflegte Tabellen.

Ich nutze bereits das Anyscale Usage-Dashboard. Was bringt mir Cloud Intelligence™ zusätzlich?

Das Anyscale Usage-Dashboard zeigt Verbrauchsschätzungen innerhalb von Anyscale. Cloud Intelligence™ verknüpft diese mit den tatsächlichen Cloud-Ausgaben und ergänzt Multi-Cloud-Transparenz, proaktive Empfehlungen, Anomalie-Erkennung, Governance und den Zugang zu Forward Deployed Engineers.

Welchen Zugriff erhält Cloud Intelligence™ auf meine Anyscale-Organisation, und wie ist er geschützt?

Cloud Intelligence™ verwendet einen schreibgeschützten API-Token nach dem Least-Privilege-Prinzip. Wir verändern niemals Cluster oder Jobs ohne Ihre Zustimmung, und die Plattform ist nach SOC 2 Type II zertifiziert.