Un servidor GPU de KapsuleHost es una máquina física de un único cliente equipada con procesadores gráficos NVIDIA y la CPU, memoria y almacenamiento rápido necesarios para mantenerlos funcionando, diseñado para entrenamiento de IA, inferencia y otro trabajo fuertemente paralelo.
Usted obtiene toda la máquina. El trabajo de nadie más comparte su GPU, su ancho de banda de memoria o su disco, que es la diferencia entre un punto de referencia que puede reproducir y uno que no puede. Esta guía cubre los cuatro niveles, para qué sirven, cómo funciona la solicitud dado que el suministro de GPU es genuinamente limitado, y para qué sirve la cuota de configuración.
Los cuatro niveles
| Nivel | GPU | Memoria GPU | Memoria del sistema | Mensual | Cuota de configuración |
|---|---|---|---|---|---|
| Spark | NVIDIA RTX 4000 | 20 GB | Incluida en la compilación | US$330.00 | Sí |
| Forge | NVIDIA RTX PRO 6000 | 96 GB | 256 GB | US$1,680.00 | Sí |
| Foundry | NVIDIA RTX PRO 6000 | 96 GB | 512 GB | US$2,520.00 | Sí |
| Reactor | NVIDIA RTX PRO 6000 | 96 GB | 768 GB | US$3,240.00 | Sí |
Los precios se muestran sin IVA en su moneda de facturación. Cada nivel viene sin gestión o gestionado, la misma opción que nuestros servidores en la nube.
El salto de Spark a Forge es el significativo. Spark es un punto de entrada para desarrollo, modelos más pequeños e inferencia. Forge, Foundry y Reactor comparten los mismos 96 GB de memoria GPU y difieren en memoria de sistema, que es lo que determina cuánto puede retener en RAM del host junto al modelo: almacenamiento de datos, canalizaciones de preprocesamiento y servicio de muchas solicitudes simultáneas.
Qué puede ejecutar
Tiene control total de la máquina, así que ejecuta su propio stack. Esto incluye PyTorch, TensorFlow, JAX, cargas de trabajo CUDA sin procesar y los marcos de entrenamiento y servicio usuales encima de ellos.
Usos típicos:
- Entrenamiento y ajuste fino de modelos para aprendizaje automático e aprendizaje profundo.
- Inferencia y servicio en producción, donde una GPU convierte un tiempo de respuesta inaceptable en uno aceptable.
- Cargas de trabajo de IA por lotes: incrustaciones, transcripción, generación de imágenes y vídeo, representación.
- Informática científica y paralela que se beneficia de la aceleración GPU.
Dimensione primero la memoria GPU. El error más común es elegir un nivel por precio y luego descubrir que el modelo no cabe en VRAM. Calcule la memoria que su modelo necesita en su precisión e tamaño de lote previstos, añada margen de maniobra y elija el nivel que lo supere. La memoria de sistema y la CPU son mucho más fáciles de trabajar que un modelo que no cargará.
Disponibilidad y cómo funciona la solicitud
El hardware GPU está en alta demanda en toda la industria y el suministro es limitado. Ese es un hecho sobre el mercado, no una política de KapsuleHost, y determina cómo se solicitan estos.
- Son máquinas físicas, así que se provisionan por encargo en lugar de en segundos.
- La disponibilidad varía según el nivel y la ubicación, y se comprueba en directo cuando consulta la página de planes.
- Spark está actualmente restringido por suministro. Cuando no tiene existencias, el panel le ofrece la cola de reserva en lugar de un pedido roto.
Para configuraciones más grandes o personalizadas confirmamos la compilación exacta y el precio exacto con usted antes de provisionar, así que siempre sabe qué va a obtener. No citamos una configuración que no podemos entregar.
La cola de reserva
Cuando un nivel de GPU está agotado, puede reservarlo en lugar de irse:
- Reserve el nivel desde la página de planes. Obtiene una referencia de reserva.
- Nada se cobra. Una reserva es gratuita y no comienza ninguna suscripción.
- Cuando aparezca capacidad, aprovisionamos la máquina automáticamente para usted.
- Su primer pago se toma solo cuando el servidor está en directo, y su fecha de facturación comienza desde ese día.
- Cancele en cualquier momento mientras espera, sin costo.
Regiones, disponibilidad y la cola de reserva explica la mecánica en detalle.
No ponga una reserva de GPU en un plazo fijo. La capacidad vuelve cuando vuelve, y preferimos decirle eso claramente que prometer una fecha que no podemos cumplir. Si tiene una fecha de entrega fija, hable con nosotros antes de pedir.
Solicitar uno
- Inicie sesión en KPanel.
- Abra Store en la barra lateral izquierda y elija GPU, o vaya directamente a
/plans/compute?group=gpu. - Utilice el botón de alternancia Unmanaged y Managed para elegir el formulario que desea.
- Cada nivel muestra su GPU, su VRAM, su memoria de sistema, su precio mensual y su cuota de configuración única, además de un distintivo de existencias en directo.
La cuota de configuración
Un servidor GPU conlleva una cuota de configuración única en la compra además del precio mensual recurrente, porque una máquina física debe ser compilada y aprovisionada para usted.
- Se cobra una vez, al provisionar. Nunca aparece en una renovación.
- Se muestra como su propia línea en la compra, etiquetada como Instalación (única), con su propio comprobante.
- Sujeta a IVA cuando su moneda de cuenta es NZD.
Vea Precios de servidores Cloud e IVA para saber cómo aparecen los cargos puntuales y recurrentes en sus facturas.
Cómo los servidores GPU difieren de los servidores Cloud
| Servidores Cloud | Servidores GPU | |
|---|---|---|
| Hardware | Máquinas virtuales | Máquinas físicas de un único cliente con GPU NVIDIA |
| Aprovisionamiento | Inmediato, sujeto a existencias | Por encargo, a veces a través de la cola de reserva |
| Cuota de configuración | Ninguna | Única |
| Cambio de tamaño en directo en KPanel | Sí | No |
| Dimensionado en | vCPU, memoria, disco | Memoria GPU primero, luego memoria de sistema |
Los servidores GPU no pueden cambiar de tamaño en su lugar. El cambio entre niveles significa solicitar la nueva máquina e migrar su trabajo. Elija el nivel que se ajuste a los modelos que espera ejecutar, no solo al que está ejecutando esta semana.
Antes de solicitar
Tenga estas respuestas listas, porque determinan el nivel:
- ¿Entrenamiento o inferencia? El entrenamiento generalmente consume mucha memoria y es de larga duración. La inferencia generalmente es sensible a la latencia y concurrente.
- ¿Qué modelo, a qué precisión? Esto establece el piso de memoria GPU.
- ¿Cuántos datos, y dónde viven? El almacenamiento en depósito de un conjunto de datos grande es para qué sirven la memoria de sistema y el disco.
- ¿Qué marco? Para que podamos confirmar las expectativas de controlador y CUDA por adelantado.
Cuéntenos esas cuatro cosas y le señalaremos el nivel correcto, o armaremos una configuración si ninguno de los cuatro estándar se ajusta. Pregunte a Kora dentro de KPanel, o envíe un correo a support@kapsulehost.com, y nuestro equipo de Nueva Zelanda le ayudará.
Solución de problemas
El nivel que quiero muestra Agotado. Resérvelo. No paga nada mientras espera y aprovisionamos automáticamente cuando la capacidad vuelve.
Mi modelo no cabe en VRAM. Suba a un nivel superior, o reduzca la precisión o el tamaño del lote. Forge, Foundry y Reactor todos llevan 96 GB de memoria GPU.
Necesito más de una GPU, o una configuración que no figura en la lista. Contacte con nosotros con sus requisitos y confirmaremos qué podemos compilar y qué cuesta antes de que se cobre nada.
¿Puedo probar antes de comprometerme? Hable con nosotros sobre comenzar con Spark para trabajos de desarrollo y subir de nivel una vez que su proceso sea probado.