Wir zeigen, wie Sie die Auslastung von Spot Instances über Auto Scaling Groups (ASGs) optimieren – mit Strategien für unterschiedliche Szenarien und maximalen Einsparungen dank DoiT Spot Scaling.
In Teil eins unserer Serie zu Spot Instances haben wir die Grundkonzepte hinter Spot Instances, ihre Vorteile und die wichtigsten Aspekte für ihren effektiven Einsatz beleuchtet.
Darauf aufbauend schauen wir uns nun an, wie Sie die Auslastung von Spot Instances mit Auto Scaling Groups (ASGs) optimieren – inklusive der Feinheiten der Spot-Allokationsstrategien und welche Strategie sich für welches Szenario am besten eignet und warum.
Zum Abschluss zeigen wir, wie Sie mit DoiT Spot Scaling Ihre Einsparungen maximieren – das Tool vereinfacht den komplexen Prozess der Konfiguration und Verwaltung von ASGs für die Nutzung von Spot Instances.
Auto Scaling Groups (ASGs) erklärt
ASGs sind ein Mechanismus, um Gruppen von Instanzen zu verwalten. Sie machen Ihre Workloads elastischer, indem sie die Anzahl der bereitgestellten Instanzen automatisch an die Nachfrage anpassen, und erhöhen so die Ausfallsicherheit.
Bei steigender Nachfrage sorgt das Hochskalieren für Performance und Reaktionsfähigkeit, während das Herunterskalieren in nachfrageschwachen Phasen unnötige Kosten vermeidet.
Sie können ASGs unter anderem für zulässige Instanztypen und Availability Zones konfigurieren, Mindest- und Höchstgrenzen für die Anzahl der Instanzen festlegen sowie eine Mixed Instance Policy (Anteil Spot Instances vs. Anteil On-Demand-Instanzen) definieren. Einmal eingerichtet, automatisieren ASGs einen Großteil des Ressourcenmanagements.
Betreiben Sie etwa eine E-Commerce-Website, lässt sich mit Auto Scaling Groups deutlich leichter angemessen auf Schwankungen im Webtraffic reagieren.
Den Traffic manuell zu steuern, würde permanente Überwachung und schnelle Reaktionen erfordern, um Abstürze oder Performance-Einbrüche zu vermeiden – mit potenziellen Folgen für die User Experience und entsprechenden Umsatzeinbußen.
ASGs und Spot Instances
Im Kontext von Spot Instances sind ASGs besonders wichtig: Sie helfen, Spot-Unterbrechungen abzufangen und die Auslastung zu optimieren, indem unterbrochene Spot Instances automatisch durch neue ersetzt werden.
ASGs verteilen Workloads zwar nicht direkt zwischen den Instanzen, sie stellen aber sicher, dass die gewünschte Anzahl an Instanzen verfügbar ist. Die Verteilung eingehender Workloads oder Web-Anfragen auf diese Instanzen übernehmen üblicherweise Dienste wie Elastic Load Balancer. ASGs arbeiten mit diesen Load Balancern zusammen, sodass der Traffic automatisch auf jede neu erstellte Instanz geleitet wird – für eine effiziente Lastverteilung.
Hinzu kommt: Innerhalb derselben Gruppe lassen sich verschiedene Instanztypen einsetzen. So können Sie je nach Verfügbarkeit und Kosten unterschiedliche Spot-Instanztypen nutzen.
Spot-Allokationsstrategien
Beim Konfigurieren Ihrer Auto Scaling Groups ist eine der zentralen Einstellungen die Spot Allocation Strategy. Folgende Ansätze haben Sie, um auf Spot Instances zu bieten und sie zu beziehen:
Lowest price
Die Strategie Lowest price zielt auf die günstigsten verfügbaren Instanz-Pools ab. Da der Preis Vorrang vor der Kapazität hat, ist nicht garantiert, dass diese Pools ausreichend Kapazität bieten – das Unterbrechungsrisiko steigt.
Geeignet ist diese Strategie zum Beispiel für eine Datenanalyse-Pipeline, die große Datensätze verarbeitet. Mit Lowest price kann die Pipeline ihre Jobs gezielt in Phasen niedriger Spot-Preise einplanen. Unterbrechungen bei höheren Spot-Preisen wirken sich kaum aus, da die Pipeline die Verarbeitung wieder aufnimmt, sobald die Preise sinken.
Capacity-optimized
Die Strategie Capacity-optimized priorisiert Instanz-Pools mit höherer freier Kapazität – und damit ein geringeres Unterbrechungsrisiko.
Setzen Sie diese Strategie ein, wenn hohe Verfügbarkeit entscheidend ist und Ihr Workload einen stabileren Instanz-Pool mit weniger Unterbrechungen benötigt.
Betreiben Sie zum Beispiel einen Streaming-Dienst, hat Verfügbarkeit höchste Priorität – schließlich soll das Streaming-Erlebnis Ihrer Nutzer nicht leiden.
Diversified
Eine Diversified-Strategie verteilt Ihre Spot-Instance-Allokation auf alle verfügbaren Pools.
Wählen Sie diese Strategie, wenn Sie genug Flexibilität haben, verschiedene Instanztypen oder mehrere Availability Zones zu nutzen, und so die Chancen erhöhen wollen, überhaupt Instanzen zu erhalten.
Häufig ist sie die beste Wahl, wenn Sie über mehrere Regionen hinweg arbeiten oder mehrere Anwendungen mit unterschiedlichen Ressourcenanforderungen betreiben.
Price & capacity-optimized
Eine Price & capacity-optimized-Allokationsstrategie kombiniert Preis und Verfügbarkeit und bietet die besten Chancen auf Spot-Kapazität, ohne Abstriche bei der Verfügbarkeit zu machen.
Sie ist ideal, wenn Ihre Nachfrage im Tagesverlauf stark schwankt, Sie aber Dienste mit hohen Verfügbarkeitsanforderungen anbieten – etwa beim Betrieb eines E-Commerce-Shops.
Was kann mit Spot Instances in ASGs schiefgehen?
Bei AWS-Kunden gibt es zwei zentrale Bedenken, wenn es darum geht, Spot Instances in ihre ASGs aufzunehmen oder ihren Einsatz auszuweiten: 1) Zuverlässigkeit und 2) Konfigurationskomplexität.
Da AWS Spot Instances mit nur zweiminütiger Vorwarnung unterbrechen kann, kann das die Zuverlässigkeit von Anwendungen beeinträchtigen. Wie oben erwähnt, ist das je nach Anwendungsfall mehr oder weniger relevant.
Wichtiger noch: Die Implementierung von Spot Instances in Auto Scaling Groups kann anspruchsvoll sein, da Launch Templates, Mixed Instance Policies und weitere Einstellungen sauber konfiguriert werden müssen.
Hinzu kommt: Die optimale Konfiguration Ihrer ASGs für einen zuverlässigen und kosteneffizienten Betrieb mit Spot Instances erfordert eine komplexe Analyse vieler Variablen. Sie müssen unter anderem die richtigen Instanztypen, AZs, VPCs und Allokationsstrategien auswählen, um Kapazität und Einsparungen mit Spot Instances zu maximieren. Dazu gehört häufig auch, mehrere Availability Zones festzulegen, Skalierungsrichtlinien einzurichten und weitere AWS-Services einzubinden.
Spot Scaling
DoiT Spot Scaling hilft Ihnen, Spot Instances konsequenter einzusetzen – und damit zu sparen –, indem es Best-Practice-Konfigurationen für Ihre ASGs empfiehlt.
Das Tool steuert die Instanzzusammensetzung Ihrer Auto Scaling Groups (ASGs), sodass Sie Spot Instances nutzen können, ohne sich um Unterbrechungen sorgen zu müssen.
Im folgenden Beispiel sehen Sie eine Auto Scaling Group, die sich für maximale Spot-Einsparungen und Verfügbarkeit besser konfigurieren ließe. In der aktuellen Konfiguration ist nur ein Instanztyp zugelassen, und es kommen ausschließlich On-Demand-Instanzen zum Einsatz.
Spot Scaling empfiehlt zusätzliche Instanztypen mit ähnlichen Eigenschaften wie die ausgewählten – und erweitert so die Zahl der nutzbaren Instanz-Pools.
Indem Sie mehr Instanztypen und Availability Zones zulassen, sinkt die Wahrscheinlichkeit, dass keine Spot Instances verfügbar sind.
Sollte in keinem der Instanz-Pools freie Kapazität vorhanden sein, wechselt Spot Scaling automatisch auf On-Demand-Instanzen (auch wenn Ihre Mixed Instance Policy auf 100 % Spot steht), bis wieder Spot Instances verfügbar sind.
Sie müssen lediglich Ihre Empfehlungen prüfen, bei Bedarf anpassen und auf "Apply Recommendations" klicken. Ab diesem Moment übernimmt Spot Scaling die Verwaltung der ASG für Sie.
Wie CattleEye seine EC2-Ausgaben mit Spot Scaling um über 60 % gesenkt hat
CattleEye betreibt Inferenz-Pipelines auf AWS Batch und setzt Computer-Vision-Technologie auf handelsüblichen Kameras ein, um Kühe zu beobachten und das Filmmaterial auszuwerten – zum Wohl von über einer Million Tieren.
Doch die Echtzeitanalyse ist rechenintensiv, und AWS EC2 ist der größte Kostenfaktor bei CattleEye. Anfangs setzte das Unternehmen auf GPU-Instanzen, was den Einsatz von Spot Instances erschwerte. Zudem fehlte die Zeit, andere geeignete Instanzen zu recherchieren, mit denen sich Spot Instances breiter hätten nutzen lassen.
Mit Spot Scaling gelang CattleEye der konsequentere Umstieg auf Spot Instances. Während zuvor ausschließlich On-Demand-Instanzen zum Einsatz kamen, läuft die Batch-Verarbeitung heute zu 100 % auf Spot Instances – und CattleEye spart dadurch über 60 % bei EC2.
Hier geht's zur interaktiven Tour durch Spot Scaling
Spot Instances in ASGs einzurichten und zu verwalten kann aufwendig sein – Tools wie DoiT Spot Scaling vereinfachen den Prozess jedoch erheblich. Durch optimale Konfigurationsempfehlungen und das dynamische Management der Instanzzusammensetzung sorgt Spot Scaling für maximale Spot-Einsparungen bei gleichbleibender Verfügbarkeit.
Wenn Sie EC2-Instanzen mit Auto Scaling Groups bereitstellen, erfahren Sie hier mehr über Spot Scaling. Oder nehmen Sie Kontakt auf, um zu erfahren, wie DoiT Sie dabei unterstützt, Compute-Kosten mit Spot Instances – und Ihre Cloud-Rechnung insgesamt – zu optimieren.