स्थानीय मॉडल, आपकी चुनी मशीन पर।

अंतर्निहित स्थानीय रनटाइम

इंस्टॉल किए बिल्ड का समर्थित मॉडल लें। स्थानीय इन्फ़रेंस से पहले मॉडल सेटअप और डाउनलोड के लिए नेटवर्क चाहिए हो सकता है।

LM Studio

स्थानीय सर्वर शुरू करें, संगत मॉडल लोड करें और Codevalanche में उसका एंडपॉइंट तय करें। काम चलने तक सर्वर उपलब्ध रहना चाहिए।

संगत OpenAI शैली का सर्वर

सर्वर पता, मॉडल और ज़रूरी क्रेडेंशियल तय करें। केवल API अनुकूलता हर टूल या मॉडल क्षमता की गारंटी नहीं है।

समर्थित मॉडल तय करने के लिए सेटिंग में स्थानीय मॉडल खोलें, या स्थानीय सर्वर कनेक्शन तय करें। उदाहरण प्रोजेक्ट में छोटा अनुरोध भेजने से पहले चुना मॉडल जाँचें।

बड़े मॉडल उपलब्ध मेमोरी से अधिक माँग सकते हैं या काम के लिए बहुत धीमे हो सकते हैं। मशीन द्वारा समर्थित मॉडल चुनें; मेमोरी की कोई सार्वभौमिक ज़रूरत या गति की गारंटी नहीं है।

आपकी मशीन पर चलने वाला मॉडल वहीं इन्फ़रेंस करता है। मॉडल डाउनलोड, जुड़े टूल और बाहरी एंडपॉइंट फिर भी नेटवर्क इस्तेमाल कर सकते हैं। दूसरी मशीन का सर्वर पता अनुरोध उसी मशीन को भेजता है।

क्लाउड एजेंट चुनना अलग कनेक्शन है और इससे काम का संदर्भ प्रदाता को भेजा जा सकता है। संवेदनशील प्रोजेक्ट सामग्री इस्तेमाल करने से पहले सक्रिय मॉडल, एंडपॉइंट और टूल जाँचें।

सर्वर तक पहुँच नहीं

देखें कि सर्वर चल रहा है और तय पता व पोर्ट उससे मेल खाते हैं। Codevalanche चलाने वाली मशीन से पहुँच जाँचें।

मॉडल अनुपलब्ध या असंगत

सर्वर में मनचाहा मॉडल लोड करें और उसका तय नाम व समर्थित क्षमताएँ जाँचें।

संसाधन पर्याप्त नहीं

छोटा समर्थित मॉडल आज़माएँ या मेमोरी खाली करें। अनुरोध दोहराने से पहले रनटाइम की त्रुटि जाँचें।