GPU-Server sind Single-Tenant-Bare-Metal-Maschinen mit NVIDIA-Beschleunigern, dimensioniert für KI-Training, Inferenz und Rendering. Dieser Leitfaden behandelt die vier Stufen, wie Bestellung und Lieferung tatsächlich funktionieren, was die Einrichtungsgebühr abdeckt, und wie man eine GPU-Maschine verwaltet, sobald sie live ist.
Was ein GPU-Server ist
Ein GPU-Server ist eine dedizierte physische Maschine mit einer oder mehreren NVIDIA-GPUs plus der CPU, dem Systemspeicher und dem schnellen Speicher, der nötig ist, um sie zu versorgen. Die ganze Maschine gehört dir: niemand sonst teilt sich die Beschleuniger, die PCIe-Bandbreite oder die Festplatten.
Du installierst deinen eigenen Stack und führst ihn aus, wie du möchtest. CUDA-Workloads, PyTorch, TensorFlow, JAX und die üblichen Serving-Frameworks laufen genau wie auf jeder anderen Bare-Metal-Linux-Box, weil das ist, was es ist.
Der Grund für Single-Tenancy hier ist nicht nur Leistung. GPU-Workloads laufen meist über Stunden hinweg mit voller Last, und gemeinsam genutzte Beschleuniger verhalten sich unter dieser Art von Dauerlast sehr anders als in einem Benchmark.
Die vier Stufen
| Stufe | GPU | GPU-Speicher | System-RAM |
|---|---|---|---|
| Spark | NVIDIA RTX 4000 | 20 GB | Basis-Konfiguration |
| Forge | NVIDIA RTX PRO 6000 | 96 GB | 256 GB |
| Foundry | NVIDIA RTX PRO 6000 | 96 GB | 512 GB |
| Reactor | NVIDIA RTX PRO 6000 | 96 GB | 768 GB |
Spark ist der Einstiegspunkt: genug GPU-Speicher für kleinere Modelle, Fine-Tuning, Inferenz und Rendering-Arbeiten. Forge, Foundry und Reactor teilen sich denselben Beschleuniger und erhöhen den Systemspeicher darum herum, was zählt, wenn du große Datensätze bereitstellst oder mehrere Modelle im Host-Speicher hältst.
Jede Stufe wird sowohl nicht verwaltet als auch verwaltet angeboten. Nicht verwaltet gibt dir Root und überlässt das Betriebssystem dir. Verwaltet behält die gleiche Hardware mit unseren Ingenieuren auf der Softwareschicht. Siehe Managed vs Unmanaged Cloud Servers.
Für Live-Preise in deiner eigenen Währung öffne Store in KPanel und dann die Karte GPU Compute.
Eine Stufe auswählen
Beginne mit dem Modell, nicht mit dem Preis.
- Wie viel GPU-Speicher benötigt dein Modell in der Form, in der du es ausführst? Das ist die harte Grenze. Wenn Gewichte plus Aktivierungen nicht passen, hilft keine Menge System-RAM.
- Trainierst du oder servierst du? Training ist speicherhungrig und lange laufend. Inferenz ist oft begrenzt durch die Geschwindigkeit, mit der du Daten zur GPU bringen kannst, wo System-RAM und Festplatte mehr zählen.
- Wie groß ist dein Working Set? Wenn du einen Datensatz streamst, der nicht in den Host-Speicher passt, existieren die Foundry- und Reactor-Konfigurationen genau dafür.
Wenn du dir unsicher bist, sag uns, was du ausführst, die Modellgröße, das Framework und wie viel GPU-Speicher du deiner Meinung nach benötigst. Wir zeigen dir die richtige Stufe, anstatt dich zu viel kaufen zu lassen. GPU and AI Compute Servers hat mehr zur Workload-Seite.
Wie die Bestellung tatsächlich funktioniert
GPU-Hardware ist knapp und teuer, daher ist der Prozess bewusst nicht One-Click.
- Melde dich bei KPanel an.
- Klicke auf Store in der linken Seitenleiste.
- Klicke unter Servers auf die Karte GPU Compute.
- Wechsle zwischen Unmanaged und Managed und wähle eine Stufe.
- Schließe den Checkout ab.
Nach dem Checkout erhältst du eine Bestellbestätigung per E-Mail, und unser Team bestätigt die aktuelle Kapazität und den Build, bevor Hardware dir zugewiesen wird.
Ein GPU-Server wird nicht bereitgestellt, sobald du bezahlst. Kapazität wird zuerst von unserem Team bestätigt, und wir veröffentlichen keine feste Lieferfrist, weil sich die Verfügbarkeit ändert. Wenn eine Frist wichtig ist, frag uns nach der Stufe, die du möchtest, bevor du bestellst, anstatt danach.
Du wirst auf jeden Fall von uns hören. Wenn du bezahlt hast und kein erwartetes Follow-up bekommen hast, antworte auf die Bestätigungsemail oder öffne ein Ticket von Support und wir sagen dir genau, wo deine Bestellung steht.
Einrichtungsgebühr und Abrechnung
GPU-Server tragen eine einmalige Einrichtungsgebühr zusätzlich zum monatlichen Preis, wie dedizierte und Storage-Server, weil eine physische Maschine gebaut und übergeben wird. Cloud-Server tragen keine Einrichtungsgebühr.
Die Einrichtungsgebühr wird einmal berechnet, wird nie wiederholt, und wird beim Checkout separat vom monatlichen Preis angezeigt.
Preise werden ohne GST angezeigt. Wenn deine Kontowährung NZD ist, werden beim Checkout 15 Prozent GST hinzugefügt und erscheinen in der Gesamtsumme des Zahlungsbuttons. Siehe Cloud Server Pricing and GST.
Weil eine GPU-Stufe ein monatliches Commitment auf teure Hardware ist, anstatt einer Stundenmiete, behandle die Entscheidung entsprechend. Wenn du eine GPU nur für einen kurzen Ausbruch benötigst, sag das, wenn du mit uns sprichst.
Eine Stufe reservieren
Wenn eine Stufe keine Kapazität hat, bietet die Plan-Karte eine Reservierung anstelle einer Konfigurationsaktion an. Das Beitreten zur Warteschlange notiert dein Interesse an dieser Stufe.
Eine Reservierung ist ein Platz in einer Warteschlange, kein geplanter Build, und wir verpflichten uns nicht zu einer Wartezeit. Es gibt auch keinen Self-Service-Abbruchbutton: Wenn du eine Reservierung nicht mehr möchtest, kontaktiere Support und wir entfernen sie.
Einen GPU-Server verwalten
Sobald eine GPU-Maschine live ist, wird sie genau wie jeder andere Bare-Metal-Server verwaltet, von Dedizierte Server in der KPanel-Seitenleiste. Es gibt kein separates GPU-Element in der Seitenleiste.
Der Toolset, vollständig dokumentiert in Managing a Dedicated Server, umfasst:
- Power: sanfter Neustart, Hardware-Reset, erzwungener Stromzyklus und Wake-on-LAN.
- Rettungssystem: eine temporäre Linux-Umgebung oder eine browserbasierte virtuelle Konsole.
- Reverse DNS: PTR-Einträge für jede geroutete IP.
- IPs und Subnetze: was zur Maschine geroutet wird, plus zusätzliches IPv4.
- Traffic: eingehende und ausgehende Menge nach Tag, Monat oder Jahr.
- Firewall: ein vorgelagerter Filter, der angewendet wird, bevor Traffic die Maschine erreicht.
- Advanced: eine vollständige Betriebssystem-Neuinstallation hinter einer getippten Bestätigung.
Konsolenzugriff für eine Maschine, die nicht hochfahren wird, ist in Dedicated Server Console Access.
Praktische Hinweise, bevor du anfängst
Treiber sind deine Verantwortung auf einer nicht verwalteten Maschine. Installiere den NVIDIA-Treiber und CUDA-Stack, der zu den Framework-Versionen passt, die du ausführen möchtest, und fixiere sie. Nicht übereinstimmende Treiber- und Toolkit-Versionen sind die häufigste Ursache für eine GPU, die vorhanden ist, aber nicht nutzbar ist.
Behalte deine Festplatte im Auge. Modell-Checkpoints und Datensätze füllen eine Festplatte schneller als alles andere auf einem Server. Wenn Kapazität dein echtes Problem ist, anstatt Rechenleistung, ist ein Storage-Server neben der GPU-Maschine normalerweise billiger als eine größere GPU-Stufe.
Firewall es richtig. Eine GPU-Box, die einen Inferenz-Endpoint ausführt, ist ein attraktives Ziel. Verwende die vorgelagerte Firewall, um nur das durchzulassen, das sie erreichen muss, und halte Plattformdienste zulassen aktiviert, damit du dich nicht selbst aussperrst.
Neuinstallation löscht alles. Die Neuinstallationsaktion unter Advanced löscht jede Festplatte ohne Rückgängigmachen und erstellt keine Sicherung für dich. Kopiere deine Checkpoints zuerst ab.
Hilfe holen
GPU ist das Produkt, bei dem das vorherige Gespräch mit uns die meisten Kosten spart. Frag Kora in KPanel, öffne ein Ticket von Support oder schreib eine E-Mail an support@kapsulehost.com mit dem, was du ausführst und wie viel GPU-Speicher du benötigst.
Für den Rest der Compute-Palette, siehe Cloud Servers Overview und Dedicated Servers Overview.