Salad Test 2026

Kurzfazit

Salad besetzt eine einzigartige Nische: Es ist die günstigste GPU-Compute auf dem Markt, Punkt. Durch die Bündelung inaktiver Consumer-Gaming-PCs zu einer verwalteten Container-Flotte erreicht Salad Preise, mit denen dedizierte Rechenzentren schlicht nicht mithalten können. Der Kompromiss ist das verteilte Modell selbst — kein persistenter Speicher, unvorhersehbare Latenz und Workloads müssen zustandslos und fehlertolerant sein. Für hochvolumige Inferenz-Jobs (Stable-Diffusion-Rendering, Embedding-Generierung, Batch-Klassifikation) ist Salad ein außergewöhnliches Preis-Leistungs-Angebot. Für Training, Fine-Tuning oder alles, das ein persistentes Dateisystem erfordert, ist es vollständig das falsche Werkzeug.

Was ist Salad?

Salad ist eine verteilte GPU-Cloud, die auf einem Netzwerk von Consumer-Hardware aufgebaut ist — Gaming-PCs, Workstations und Mining-Rigs, die von Einzelpersonen weltweit bereitgestellt werden. Wenn du auf Salad deployst, läuft dein Docker-Container gleichzeitig auf mehreren Nodes. Wenn ein Node offline geht (weil der Besitzer ein Spiel startet oder neu bootet), startet Salad automatisch einen Ersatz-Node. Diese Architektur ermöglicht Preise, die jede Rechenzentrum-Alternative unterbieten.

Die Plattform ist inferenz-first. Salad bietet keinen SSH-Zugang, keine persistenten Volumes und keine interaktiven Notebooks. Stattdessen definierst du eine Container-Gruppe, legst deine gewünschte Replikat-Anzahl fest und Salad verwaltet die Flotte. Das macht es hervorragend für den Einsatz von vLLM, ComfyUI oder einer beliebigen Inferenz-API im großen Maßstab.

Ideal für

• Stable-Diffusion-Massengenerierung — tausende Bilder pro Stunde zu einem Bruchteil der Rechenzentrum-Kosten.
• Embedding-Generierung im Maßstab — Sentence-Transformers oder CLIP über Millionen von Dokumenten günstig betreiben.
• Zustandslose Inferenz-APIs — vLLM oder TGI-Inferenz-Endpunkte mit automatischer horizontaler Skalierung deployen.
• Kostensensitive Batch-Klassifikation — Nacht-Batch-Jobs, bei denen Unterbrechungen tolerierbar sind und der Preis an erster Stelle steht.

Salad vs. Vast.ai — Unterbrechbare Compute

Vast.ai ist die andere erste Anlaufstelle für günstige, unterbrechbare GPU-Compute. Der wesentliche Unterschied liegt in der Architektur: Vast.ai gibt dir einzelne Maschinen per SSH, auf denen du persistente Prozesse ausführen und die du direkt kontrollieren kannst. Salad abstrahiert die Hardware vollständig — du berührst nie einen bestimmten Node. Für Inferenz-Fleet-Deployments ist Salad einfacher und günstiger. Für Trainings-Jobs, die Checkpointing, persistenten Speicher und interaktiven Zugang benötigen, ist Vast.ai flexibler. Auf der reinen Preisebene gewinnt Salad deutlich bei RTX-3090-Klasse-Hardware.

Salad vs. RunPod — Inferenz-Fokus

RunPod Serverless ist Salads direktester Konkurrent für verwaltete Inferenz. RunPod Serverless bietet Scale-to-Zero-Endpunkte mit Cold Starts von 5–15 Sekunden. Salad hält Container über seine verteilte Flotte warm, was effektive Cold-Start-Zeiten verkürzen kann, wenn Replikate bereits zugewiesen sind. RunPods Rechenzentrum-Nodes bieten konsistentere Latenz; Salads verteilte Nodes sind günstiger, aber geografisch variabel. Für hochvolumige, latenztolerant Inferenz ist Salads Preisvorteil überzeugend. Für latenzempfindliche Produktions-APIs, bei denen Vorhersagbarkeit wichtig ist, ist RunPod Secure Cloud die bessere Wahl.

Feature-Überblick

Salads Container-Plattform ist unkompliziert zu bedienen. Du definierst ein Container-Image, setzt Umgebungsvariablen, wählst den GPU-Tier (RTX 3070 / 3080 / 3090 / 4090) und legst eine Replikat-Anzahl fest. Die Plattform verteilt deinen Container automatisch auf verfügbare Nodes. Du bekommst einen öffentlichen HTTPS-Endpunkt für deine Inferenz-API ohne weitere Konfiguration.

Die Auto-Scaling-Funktion ist besonders wertvoll: Du kannst Mindest- und Höchstzahlen von Replikaten festlegen und Salad nach Warteschlangenlänge skalieren lassen. Das macht es praktisch, Inferenz-Services mit unvorhersehbaren Traffic-Mustern zu betreiben — zahle für null Nodes im Leerlauf, skaliere zu Hunderten in Spitzenzeiten.

Es gibt keinen persistenten Speicher, aber Salad unterstützt das Laden von Modellgewichten aus S3-kompatiblem Speicher beim Container-Start. Das ist etwas langsamer als lokaler Speicher, aber für die meisten Inferenz-Szenarien praktikabel. Modelle unter 10 GB laden schnell genug, sodass die Startlatenz kein wesentliches Problem darstellt.

Wer sollte Salad nutzen

Salad ist ideal für Entwickler und Unternehmen, die hochvolumige, zustandslose Inferenz-Workloads betreiben, bei denen der Preis das primäre Kriterium ist. Wenn du tausende Bilder, tausende Embeddings oder eine hochdurchsatzfähige LLM-API servierst, bei der etwas Latenz-Varianz akzeptabel ist, kann Salad deine GPU-Compute-Rechnung um 60–80 % gegenüber Rechenzentrum-Alternativen senken.

Nutze Salad NICHT, wenn du brauchst: persistenten Speicher zwischen Runs, interaktive Jupyter-Sitzungen, verteiltes Multi-GPU-Training, garantierte Latenz-SLAs oder die Möglichkeit, per SSH auf deine Compute-Nodes zuzugreifen.

Fazit

Salad erhält 3,9/5,0 — nicht weil es schlecht ist, sondern weil das verteilte Modell echte Einschränkungen mit sich bringt, die es für einen Großteil der GPU-Cloud-Anwendungsfälle ausschließen. Innerhalb seiner vorgesehenen Nische — großangelegte, zustandslose Inferenz — ist es wohl das beste Preis-Leistungs-Angebot überhaupt. Der RTX-3090-Preis von 0,03 $/h ist real, das Auto-Scaling funktioniert gut und die Richtlinie ohne Egress-Gebühren ist auf diesem Markt wirklich ungewöhnlich.