KapsuleHost GPU サーバーは、AI トレーニング、推論、その他の大規模並列処理向けに設計された、NVIDIA グラフィックスプロセッサと、これらを効率的に使用するために必要な CPU、メモリ、高速ストレージを搭載した単一テナント物理マシンです。
マシン全体があなたのものです。他のユーザーのジョブがあなたの GPU、メモリ帯域幅、またはディスクを共有することはありません。これが、再現可能なベンチマークと再現不可能なベンチマークの違いです。本ガイドでは 4 つのティア、その用途、GPU 供給が極めて逼迫している状況での注文方法、セットアップ料金の内訳について説明します。
4 つのティア
| ティア | GPU | GPU メモリ | システムメモリ | 月額料金 | 一回限りのセットアップ |
|---|---|---|---|---|---|
| Spark | NVIDIA RTX 4000 | 20 GB | ビルドに含まれます | US$330.00 | あり |
| Forge | NVIDIA RTX PRO 6000 | 96 GB | 256 GB | US$1,680.00 | あり |
| Foundry | NVIDIA RTX PRO 6000 | 96 GB | 512 GB | US$2,520.00 | あり |
| Reactor | NVIDIA RTX PRO 6000 | 96 GB | 768 GB | US$3,240.00 | あり |
表示されている価格は GST を除いた金額で、お客様の請求通貨で表示されています。各ティアはアンマネージド版またはマネージド版で利用でき、クラウドサーバーと同じ選択肢があります。
Spark から Forge への移行が重要な分岐点です。Spark は開発、小規模モデル、推論作業の入り口です。Forge、Foundry、Reactor は同じ 96 GB の GPU メモリを備えており、システムメモリで異なります。システムメモリは、モデルの横にホスト RAM に保持できる量、つまりデータセットのステージング、前処理パイプライン、多くの同時リクエストの処理を左右します。
実行可能な内容
マシンは完全に制御できるため、独自のスタックを実行できます。これには PyTorch、TensorFlow、JAX、生の CUDA ワークロード、およびそれらの上に構築された通常のトレーニングとサービングフレームワークが含まれます。
一般的な用途:
- 機械学習と深層学習のためのモデルトレーニングと微調整。
- 本番環境での推論とサービング。GPU により、受け入れられない応答時間が受け入れられるものになります。
- バッチ AI ワークロード: エンベディング、文字起こし、画像と動画生成、レンダリング。
- GPU アクセラレーションの恩恵を受ける科学計算と並列計算。
GPU メモリを最初に検討してください。最も一般的な間違いは、価格に基づいてティアを選択し、その後モデルが VRAM に適合しないことに気づくことです。目的の精度とバッチサイズでモデルが必要なメモリを計算し、余裕を足して、それをクリアするティアを選択してください。システムメモリと CPU は、読み込めないモデルよりもはるかに対応しやすいです。
利用可能性と注文方法
GPU ハードウェアは業界全体で高い需要があり、供給は限定的です。これは KapsuleHost のポリシーではなく、市場についての事実であり、これらの注文方法に影響を与えます。
- これらは物理マシンであるため、秒単位ではなく注文に応じてプロビジョニングされます。
- 利用可能性はティアと場所によって異なり、プランページを見た時点で実時間で確認されます。
- Spark は現在供給が逼迫しています。 在庫がない場合、パネルは不正な注文ではなく予約キューを提供します。
より大規模またはカスタム構成の場合、プロビジョニングの前に正確なビルドと正確な価格をお客様に確認するため、常に何を受け取るかを知っています。お届けできない構成は見積もりしません。
予約キュー
GPU ティアの在庫がない場合、去る代わりに予約できます:
- プランページからティアを予約します。予約参照番号を取得します。
- 何も請求されません。 予約は無料で、サブスクリプションは開始しません。
- 容量が利用可能になったら、マシンが自動的にプロビジョニングされます。
- 最初のお支払いは、サーバーがライブになったときにのみ行われ、請求日はその日から開始されます。
- 待機中はいつでもキャンセルでき、費用はかかりません。
リージョン、利用可能性、予約キューでは、メカニクスについて完全に説明しています。
GPU 予約にハード期限を設定しないでください。容量は戻ってくるときに戻ってきます。お約束できない日付をお約束するよりも、率直にお伝えしたいと考えています。固定配信日がある場合は、注文する前に当社にお問い合わせください。
注文方法
- KPanel にサインインします。
- 左側のサイドバーで Store を開いて GPU を選択するか、
/plans/compute?group=gpuに直接移動します。 - Unmanaged と Managed トグルを使用して、必要なフォームを選択します。
- 各ティアには GPU、VRAM、システムメモリ、月額料金、一回限りのセットアップ料金、およびライブストックバッジが表示されます。
セットアップ料金
GPU サーバーは、物理マシンの構築とプロビジョニングが必要なため、チェックアウト時に定期的な月額料金に加えて一回限りのセットアップ料金を請求されます。
- 一度だけ請求され、プロビジョニング時に発生します。更新時には表示されません。
- チェックアウト時に独立した行として表示され、Setup (one-time) と表示され、独自のレシートが付きます。
- アカウント通貨が NZD の場合、GST の対象となります。
クラウドサーバー価格と GST を参照してください。一回限りの料金と定期的な料金がインボイスにどのように表示されるかについては、こちらをご覧ください。
GPU サーバーとクラウドサーバーの違い
| クラウドサーバー | GPU サーバー | |
|---|---|---|
| ハードウェア | 仮想マシン | NVIDIA GPU 搭載の単一テナント物理マシン |
| プロビジョニング | 即座、在庫次第 | 注文時、予約キューを経由する場合もあり |
| セットアップ料金 | なし | 一回限り |
| KPanel でのライブリサイズ | はい | いいえ |
| サイズの決定基準 | vCPU、メモリ、ディスク | GPU メモリ優先、次にシステムメモリ |
GPU サーバーはその場でリサイズできません。ティア間の移動は、新しいマシンを注文し、作業を移行することを意味します。今週実行しているものだけでなく、実行すると予想されるモデルに適したティアを選択してください。
注文前に
ティアを決定するため、これらの回答を用意してください:
- トレーニングか推論か? トレーニングは通常メモリ集約的で、長時間実行されます。推論は通常レイテンシに敏感で、並行処理です。
- どのモデル、どの精度で? これが GPU メモリの下限を設定します。
- データはどのくらい、どこに存在しますか? 大規模なデータセットのステージングはシステムメモリとディスクのためのものです。
- どのフレームワーク? ドライバーと CUDA の期待値を事前に確認できるようにするためです。
これら 4 つのことを教えていただければ、適切なティアを案内するか、標準的な 4 つのいずれにも当てはまらない場合は構成を作成します。KPanel 内の Kora に質問するか、support@kapsulehost.com にメールを送信してください。当社のニュージーランドチームがお手伝いします。
トラブルシューティング
希望するティアが在庫切れと表示されています。 予約してください。待機中は何も支払わず、容量が戻ったら自動的にプロビジョニングされます。
モデルが VRAM に適合しません。 ティアをアップグレードするか、精度またはバッチサイズを削減してください。Forge、Foundry、Reactor はすべて 96 GB の GPU メモリを備えています。
複数の GPU が必要、または表示されていない構成が必要です。 要件を記載してお問い合わせください。お届けできる内容と費用を確認した後、何も請求されません。
コミットする前に試すことはできますか? 開発作業で Spark から始めて、パイプラインが実証されたら段階的にアップグレードすることについて、当社に相談してください。