300 $ kostenlose Credits für neue Konten
Was ist Google Cloud GPU?
Google Cloud Platform (GCP) bietet GPU-Compute über seine Compute Engine und Kubernetes Engine an. GPU-Instanzen reichen von NVIDIA T4 (Entry-Level-Inferenz) über A100 (ernsthaftes Training) bis zu H100-SXM-Clustern (Frontier-Modell-Training). GCP ist einer der drei Hyperscaler neben AWS und Azure und bietet globale Infrastruktur, Enterprise-SLAs und umfassende Compliance-Zertifikate.
Was GCP unter GPU-Clouds einzigartig macht, ist sein TPU-Angebot – Googles eigene KI-Beschleuniger, optimiert für TensorFlow und JAX. Teams, die TensorFlow-Workloads im großen Maßstab trainieren, werden TPU v4 und v5 für die richtigen Workloads deutlich schneller und oft günstiger als äquivalentes GPU-Training finden.
GCPs Vertex-AI-verwaltete ML-Plattform ist ebenfalls ein echter Differenziator – sie bietet ein vollständiges MLOps-Toolkit, das sich eng mit GCPs GPU- und TPU-Instanzen integriert.
Spot VMs – Der clevere Weg, GCP für ML zu nutzen
GCPs Spot VMs bieten 60–91 % Rabatt auf On-Demand-Preise. T4 Spot bei 0,11 $/h ist gegenüber Lambda Labs oder RunPod Secure Cloud genuinely wettbewerbsfähig, mit dem Vorteil von GCPs Enterprise-Zuverlässigkeit und globalem Fußabdruck. Teams, die fehlertolerante Trainings-Pipelines mit Checkpoint-Resume aufbauen, können ihre GPU-Ausgaben um 70 % senken.
Google Cloud GPU Preise (August 2026)
| GPU | VRAM | On-Demand | Spot | Ideal für |
|---|---|---|---|---|
| T4 (an N1 angehängt) | 16 GB | $0.35/h | ~$0.11/h | Inferenz, leichtes Training |
| L4 (g2-standard-4) | 24 GB | $0.71/h | n/a | Effiziente Inferenz |
| A100 40GB (a2-highgpu-1g) | 40 GB | $3.67/h | $2.12/h | ML-Training |
| A100 80GB (a2-ultragpu-1g) | 80 GB | $5.07/h | $2.93/h | Große Modelle |
| H100 80GB (a3-highgpu-8g) | 640 GB | $88.49/h — $11.06 pro GPU | $53.09/h | Frontier-Modelle |
| H100 (a3-megagpu-8g) | 640 GB | $93.40/h — $11.68 pro GPU | $56.03/h | Vortraining |
| H200 (a3-ultragpu-8g) | 1,128 GB | $84.81/h — $10.60 pro GPU | $49.01/h | Training mit langem Kontext |
| B200 (a4-highgpu-8g) | 1,440 GB | nicht gelistet | $39.63/h | Training auf Blackwell-Generation |
Preise für die Region us-central1, geprüft auf cloud.google.com/products/compute/pricing/accelerator-optimized am 25.08.2026. A2-, A3- und A4-Preise gelten für die komplette VM inklusive vCPU, RAM und lokaler SSD — der Wert pro GPU ist dieser Satz geteilt durch die GPU-Anzahl. Die T4 ist ein Sonderfall: Sie hängt an einer N1-Instanz, ihre 0,35 $/h kommen also zur VM hinzu. Spot-Preise schwanken je nach Region und Verfügbarkeit.
Google Cloud GPU Vor- & Nachteile
- Beste TPU-Verfügbarkeit für TF-Workloads
- Tiefe Vertex-AI- und BigQuery-Integration
- Globale Infrastruktur und Zuverlässigkeit
- Preemptible-Instanzen senken Kosten deutlich
- H100 und H200 gibt es nur als 8-GPU-VMs
- Mindestens 88,49 $/h für überhaupt eine H100
- Komplexe Abrechnung — schnell zu viel ausgegeben
- Steile Lernkurve für GCP-Neulinge
Für wen ist Google Cloud GPU geeignet?
Google Cloud GPU ist ideal für: Teams, die bereits GCP-Dienste nutzen (BigQuery, GCS, Pub/Sub), TensorFlow/JAX-Nutzer, die TPU-Zugang nutzen wollen, Unternehmen, die MLOps-Pipelines auf Vertex AI aufbauen, und Teams, die Spot VMs für checkpointbasiertes Training nutzen können.
Google Cloud GPU ist nicht ideal für: kostensensitive Entwickler, die die günstigste On-Demand-GPU-Compute suchen (verwende RunPod oder Vast.ai), Teams, die AWS oder Azure-native sind (der Wechselkosten lohnt sich selten), oder Einzelpersonen und kleine Teams, die GCPs Abrechnungskomplexität schwer zu handhaben finden.
Google Cloud GPU Alternativen
- AWS (p4d/p5) — Reiferes SageMaker-Ökosystem, breitere Compliance-Zertifikate. Ähnliche Preisstruktur. Besser für Teams, die bereits auf AWS sind.
- CoreWeave — Bessere Multi-Node-H100-Cluster-Performance mit InfiniBand. Deutlich günstiger für zugesagtes Large-Scale-Training. Komplexer zu betreiben.
- Lambda Labs — Viel einfacher und günstiger für On-Demand-H100-Zugang ohne Hyperscaler-Overhead. Keine verwaltete ML-Plattform, aber einfach und zuverlässig.
- RunPod — Drastisch günstiger für die meisten GPU-Typen. Hervorragend für Entwicklung, Training und Inferenz bei niedrigerem Maßstab. Kein Enterprise-SLA oder verwaltete ML-Plattform.
Fazit
Google Cloud GPU ist die richtige Wahl für GCP-native Teams, die Produktions-ML-Systeme aufbauen. Die Vertex-AI-Plattform, BigQuery-Integration und TPU-Zugang machen GCP zu einer überzeugenden End-to-End-ML-Plattform. Die On-Demand-Preise sind die teuersten der großen GPU-Optionen, aber Spot VMs ändern die Gleichung für Teams, die Preemption tolerieren können. Für reine GPU-Miete ohne die Managed-Platform-Vorteile bieten Lambda Labs oder RunPod bessere Wirtschaftlichkeit.
Google Cloud GPU FAQ
Hat Google Cloud H100?
Ja, Google Cloud bietet H100-80-GB-Instanzen über die A3-Instanzfamilie (Single-Node) und A3 Mega (8×H100-Nodes) an. Die H100-Verfügbarkeit auf GCP ist für Teams mit etablierten GCP-Konten generell gut, obwohl große A3-Mega-Cluster möglicherweise Kontingent-Erhöhungen über den GCP-Support erfordern. GCP ist neben AWS p5 einer der wenigen Hyperscaler mit On-Demand-H100-Zugang im großen Maßstab.
Soll ich auf Google Cloud TPU oder GPU verwenden?
Verwende TPUs, wenn du TensorFlow-Modelle trainierst oder Googles JAX-Framework verwendest – TPU v4 und v5 sind für Tensor-Operationen optimiert und können für die richtigen Workloads deutlich schneller sein als GPUs. Verwende GPUs, wenn du PyTorch nutzt, Standard-CUDA-Ökosystem-Tools benötigst oder Inferenz-Workloads durchführst. Die meiste Open-Source-ML-Community hat sich auf PyTorch und CUDA konvergiert, was GPUs in der Praxis fast immer zur praktischen Wahl macht.
Wie viel kann ich mit Spot-Instanzen auf GCP sparen?
GCP Spot VMs (früher Preemptible VMs) bieten Ersparnisse von 60–91 % gegenüber On-Demand-Preisen je nach GPU-Typ und Region. T4 Spot ist ~69 % günstiger (0,11 $/h vs. 0,35 $/h). A100-40-GB-Spot ist ~70 % günstiger (0,88 $/h vs. 2,93 $/h). Der Haken: Spot VMs werden von Google bei Kapazitätsbedarf beendet, in der Regel mit 30 Sekunden Vorwarnung. Sie sind ideal für checkpointbasiertes Training, Batch-Verarbeitung und Workloads, die Unterbrechungen überstehen können.
Wie vergleicht sich GCP mit AWS für ML-Workloads?
GCP und AWS sind für die meisten ML-Workloads vergleichbar, haben aber unterschiedliche Ökosystem-Stärken. GCP hat besseren TPU-Zugang, engere Vertex-AI-Integration für MLOps-Pipelines und BigQuery für ML auf strukturierten Daten. AWS hat das reifere SageMaker, Inferentia für kosteneffiziente Inferenz und breitere Compliance-Zertifikate. Teams, die bereits GCP-Dienste nutzen, sollten bei GCP bleiben; Teams auf AWS sollten bei AWS bleiben.
Was ist Vertex AI?
Vertex AI ist die verwaltete ML-Plattform von Google Cloud, die den gesamten ML-Workflow abdeckt – Datensatz-Management, Modell-Training, Modell-Registry und Deployment. Es integriert sich eng mit GCP-GPU- und TPU-Instanzen, GCS-Storage und BigQuery. Vertex AI konkurriert mit AWS SageMaker und Azure ML. Für Teams, die Produktions-ML-Pipelines auf GCP aufbauen, ist Vertex AI der empfohlene Ansatz – es übernimmt Auto-Scaling, Modell-Versionierung und Monitoring von Haus aus.