GPU और AI कंप्यूट सर्वर

KapsuleHost GPU सर्वर एक सिंगल-टेनेंट फिजिकल मशीन है जो NVIDIA ग्राफिक्स प्रोसेसर के साथ और CPU, मेमोरी और तेजी से स्टोरेज के साथ फिट किया गया है, जो AI प्रशिक्षण, इनफरेंस और अन्य भारी समानांतर काम के लिए बनाया गया है।

आपको पूरी मशीन मिलती है। कोई और का जॉब आपके GPU, आपकी मेमोरी बैंडविड्थ या आपकी डिस्क को शेयर नहीं कर रहा है, जो एक बेंचमार्क के बीच का अंतर है जिसे आप दोहरा सकते हैं और एक जो आप नहीं कर सकते। यह गाइड चार टायर, वे क्या उपयुक्त हैं, ऑर्डरिंग कैसे काम करती है यह देखते हुए कि GPU की आपूर्ति वास्तव में तंग है, और सेटअप फीस किस लिए है, को कवर करता है।

चार टायर

कीमतें आपकी बिलिंग करेंसी में GST को छोड़कर दिखाई जाती हैं। प्रत्येक टायर अनमेनेज्ड या प्रबंधित के साथ आता है, जो हमारे क्लाउड सर्वर के समान पसंद है।

Spark से Forge तक की छलांग महत्वपूर्ण है। Spark विकास, छोटे मॉडल और इनफरेंस काम के लिए एक प्रवेश बिंदु है। Forge, Foundry और Reactor समान 96 GB GPU मेमोरी साझा करते हैं और सिस्टम मेमोरी में अलग होते हैं, जो यह तय करता है कि आप मॉडल के साथ होस्ट RAM में कितना रख सकते हैं: डेटासेट स्टेजिंग, प्रीप्रोसेसिंग पाइपलाइन, और कई समवर्ती अनुरोधों को परोसना।

आप क्या चला सकते हैं

आपको मशीन का पूर्ण नियंत्रण मिलता है, इसलिए आप अपना स्वयं का स्टैक चलाते हैं। इसमें PyTorch, TensorFlow, JAX, कच्चे CUDA वर्कलोड, और सामान्य प्रशिक्षण और उन पर सेवा फ्रेमवर्क शामिल हैं।

विशिष्ट उपयोग:

• मॉडल प्रशिक्षण और फाइन-ट्यूनिंग मशीन लर्निंग और डीप लर्निंग के लिए।
• इनफरेंस और सेवा उत्पादन में, जहां GPU एक अस्वीकार्य प्रतिक्रिया समय को स्वीकार्य में बदल देता है।
• बैच AI वर्कलोड: एम्बेडिंग, ट्रांसक्रिप्शन, छवि और वीडियो जनरेशन, रेंडरिंग।
• वैज्ञानिक और समानांतर कंप्यूटिंग जो GPU त्वरण से लाभान्वित होते हैं।

उपलब्धता और ऑर्डरिंग कैसे काम करती है

GPU हार्डवेयर पूरे उद्योग में उच्च मांग में है और आपूर्ति सीमित है। यह बाजार के बारे में एक तथ्य है, KapsuleHost नीति नहीं, और यह इन्हें कैसे ऑर्डर किया जाता है, इसे आकार देता है।

• ये फिजिकल मशीनें हैं, इसलिए उन्हें सेकंड में नहीं बल्कि ऑर्डर के अनुसार प्रावधान किया जाता है।
• उपलब्धता टायर और स्थान के अनुसार भिन्न होती है, और जब आप योजना पृष्ठ को देखते हैं तो इसे लाइव जांचा जाता है।
• Spark वर्तमान में आपूर्ति-प्रतिबंधित है। जब इसके पास कोई स्टॉक नहीं है, तो पैनल आपको एक टूटे हुए ऑर्डर के बजाय रिजर्व क्यू प्रदान करता है।

बड़े या कस्टम कॉन्फ़िगरेशन के लिए हम प्रावधान से पहले सटीक बिल्ड और सटीक मूल्य की पुष्टि करते हैं, इसलिए आप हमेशा जानते हैं कि आपको क्या मिल रहा है। हम एक कॉन्फ़िगरेशन उद्धृत नहीं करते हैं जिसे हम वितरित नहीं कर सकते।

रिजर्व क्यू

जब एक GPU टायर स्टॉक से बाहर हो, तो आप दूर चलने के बजाय इसे रिजर्व कर सकते हैं:

1. योजना पृष्ठ से टायर को रिजर्व करें। आपको एक रिजर्वेशन संदर्भ मिलता है।
2. कुछ भी चार्ज नहीं होता है। एक रिजर्वेशन निःशुल्क है और कोई सदस्यता शुरू नहीं होती है।
3. जब क्षमता दिखाई देती है, तो हम आपके लिए मशीन को स्वचालित रूप से प्रावधान करते हैं।
4. आपका पहला भुगतान केवल तब लिया जाता है जब सर्वर लाइव हो, और आपकी बिलिंग तारीख उस दिन से शुरू होती है।
5. प्रतीक्षा करते समय किसी भी समय बिना किसी खर्च के रद्द करें।

क्षेत्र, उपलब्धता और रिजर्व क्यू पूरे तंत्र की व्याख्या करता है।

एक ऑर्डर करना

1. KPanel में साइन इन करें।
2. बाईं ओर की साइडबार में Store खोलें और GPU चुनें, या /plans/compute?group=gpu पर सीधे जाएं।
3. वह फॉर्म चुनने के लिए Unmanaged और Managed टॉगल का उपयोग करें।
4. प्रत्येक टायर अपने GPU, अपने VRAM, अपनी सिस्टम मेमोरी, अपनी मासिक कीमत और अपनी वन-टाइम सेटअप फीस, साथ ही एक लाइव स्टॉक बैज दिखाता है।

सेटअप फीस

एक GPU सर्वर आवर्ती मासिक कीमत के अतिरिक्त चेकआउट पर एक वन-टाइम सेटअप फीस रखता है, क्योंकि एक फिजिकल मशीन को आपके लिए बनाया और प्रावधान किया जाना है।

• एक बार चार्ज किया गया, प्रावधान पर। यह कभी नवीनीकरण पर दिखाई नहीं देता है।
• चेकआउट पर अपनी स्वयं की पंक्ति के रूप में दिखाया गया है, लेबल Setup (one-time), अपनी स्वयं की रसीद के साथ।
• GST के अधीन जब आपकी खाता करेंसी NZD हो।

क्लाउड सर्वर मूल्य निर्धारण और GST देखें कि कैसे वन-ऑफ और आवर्ती चार्ज आपके चालान पर दिखाई देते हैं।

GPU सर्वर क्लाउड सर्वर से कैसे अलग हैं

ऑर्डर करने से पहले

ये उत्तर तैयार रखें, क्योंकि वे टायर निर्धारित करते हैं:

• प्रशिक्षण या इनफरेंस? प्रशिक्षण आमतौर पर मेमोरी-भूखा और लंबे समय तक चलने वाला होता है। इनफरेंस आमतौर पर लेटेंसी-संवेदनशील और समवर्ती होता है।
• कौन सा मॉडल, किस परिशुद्धता पर? यह GPU मेमोरी फ्लोर सेट करता है।
• कितना डेटा, और यह कहां रहता है? बड़े डेटासेट को स्टेज करना यही सिस्टम मेमोरी और डिस्क के लिए है।
• कौन सी फ्रेमवर्क? ताकि हम ड्राइवर और CUDA अपेक्षाओं की अग्रिम पुष्टि कर सकें।

उन चार चीजों को बताएं और हम आपको सही टायर पर इंगित करेंगे, या अगर कोई भी मानक चार फिट नहीं करता तो एक कॉन्फ़िगरेशन एक साथ रखेंगे। KPanel के अंदर Kora से पूछें, या support@kapsulehost.com को ईमेल करें, और हमारी न्यूजीलैंड की टीम सहायता करेगी।

समस्या निवारण

वह टायर जो मैं चाहता हूँ स्टॉक से बाहर दिखाता है। इसे रिजर्व करें। आप प्रतीक्षा करते समय कुछ भी भुगतान नहीं करते हैं और हम जब क्षमता वापस आती है तो स्वचालित रूप से प्रावधान करते हैं।

मेरा मॉडल VRAM में फिट नहीं होगा। एक टायर ऊपर जाएं, या परिशुद्धता या बैच आकार को कम करें। Forge, Foundry और Reactor सभी 96 GB GPU मेमोरी रखते हैं।

मुझे एक से अधिक GPU, या एक कॉन्फ़िगरेशन की आवश्यकता है जो आप सूचीबद्ध नहीं करते हैं। अपनी आवश्यकताओं के साथ हमसे संपर्क करें और हम पुष्टि करेंगे कि हम क्या बना सकते हैं और इससे पहले कोई खर्च नहीं होता है।

क्या मैं प्रतिबद्ध होने से पहले कोशिश कर सकता हूँ? विकास कार्य के लिए Spark पर शुरुआत करने और एक बार आपकी पाइपलाइन सिद्ध हो जाने के बाद ऊपर जाने के बारे में हमसे बात करें।