الذكاء الاصطناعي المحلي في Codevalanche

نموذج محلي على الجهاز الذي تختاره.

اختر بيئة تشغيل محلية مدعومة أو خادمًا متوافقًا للاستدلال. يحدد حجم النموذج والذاكرة والعتاد مدى ملاءمته لمهمتك.

مهمة جديدة في Codevalanche مع وصف مكتوب في مربع الرسالة، جاهزة للإرسال.
تعرض المهمة التجريبية نموذجًا محليًا مختارًا أسفل مربع الرسالة. هذا مثال للإعداد، وليس معيارًا لقياس الأداء.

اختر مكان تنفيذ الاستدلال.

بيئة تشغيل محلية مدمجة
استخدم نموذجًا تدعمه النسخة المثبتة. قد تتطلب تهيئة النموذج وتنزيله اتصالًا بالشبكة قبل بدء الاستدلال المحلي.
LM Studio
شغّل الخادم المحلي وحمّل نموذجًا متوافقًا واضبط نقطة نهايته في Codevalanche. يجب أن يبقى الخادم متاحًا أثناء تنفيذ المهمة.
خادم متوافق بأسلوب OpenAI
اضبط عنوان الخادم والنموذج وبيانات الاعتماد المطلوبة. لا يضمن توافق API وحده دعم كل أداة أو قدرة للنموذج.

ابدأ بمهمة صغيرة.

افتح النماذج المحلية في الإعدادات لتهيئة نموذج مدعوم، أو اضبط اتصال خادمك المحلي. تحقق من النموذج المختار قبل إرسال طلب قصير في مشروع تجريبي.

قد تتجاوز النماذج الكبيرة الذاكرة المتاحة أو تعمل ببطء شديد للمهمة. اختر نموذجًا يدعمه جهازك؛ فلا متطلبات ذاكرة موحدة ولا ضمان للسرعة.

للاستدلال المحلي حدود.

ينفذ النموذج العامل على جهازك الاستدلال عليه. قد تظل تنزيلات النماذج والأدوات المتصلة ونقاط النهاية الخارجية تستخدم الشبكة. عنوان خادم على جهاز آخر يرسل الطلبات إلى ذلك الجهاز.

اختيار وكيل سحابي ينشئ اتصالًا منفصلًا وقد يرسل سياق المهمة إلى مزوّده. تحقق من النموذج ونقطة النهاية والأدوات النشطة قبل استخدام محتوى حساس من المشروع.

الأمان وحدود البيانات

إذا لم يستجب النموذج المحلي.

يتعذر الوصول إلى الخادم
تحقق من تشغيل الخادم وتطابق عنوانه ومنفذه مع الإعدادات. اختبر الوصول من الجهاز الذي يشغّل Codevalanche.
النموذج غير متاح أو غير متوافق
حمّل النموذج المقصود في الخادم وتحقق من اسمه المهيأ وإمكاناته المدعومة.
الموارد غير كافية
جرّب نموذجًا أصغر مدعومًا أو حرّر بعض الذاكرة. تحقق من خطأ بيئة التشغيل قبل تكرار الطلب.