اختر النموذج الذي يشغّل اختباراتك
يعمل FlowLatch مع النموذج الذي تختاره. اربط مزود ذكاء اصطناعي سحابيًا عبر نقطة نهاية API قياسية، أو شغّل نموذجًا على جهازك، أو ابدأ بالنموذج المدمج، ثم استخدم زر الاختبار للتحقق من الاتصال قبل تنفيذ المهمة الأولى.
ثلاث طرق لربط نموذج
مزود ذكاء اصطناعي سحابي
يتم الوصول إلى المزود السحابي عبر نقطة نهاية API قياسية: توفر عنوان نقطة النهاية، ومفتاح API الخاص بك، والنموذج الذي تريده. يناسب عمليات إعادة الهيكلة الكبيرة وتصحيح الأخطاء المعقد، لأن النماذج الأكبر تتبع عادةً مجموعات الاختبار الطويلة بشكل أفضل. كن واضحًا بشأن تكلفة الخصوصية. يتم إرسال طلبك، بما في ذلك نص أي ملف يقرأه الوكيل، إلى ذلك المزود، لذا احتفظ بالأسرار والبيانات الحقيقية للعملاء خارج المجلد العامل. يحتفظ FlowLatch بمفتاح API على جهازك، ويتم إخفاء الأسرار في مخرجات الأدوات قبل وصولها إلى النموذج. قد يفرض المزود رسومًا على استخدامه الخاص.
نموذج على جهازك الخاص
يعمل النموذج المحلي على جهازك ويتحدث FlowLatch معه عبر نقطة نهاية على نفس الجهاز. يناسب المشاريع الخاصة، لأن النموذج المحلي لا يغادر الجهاز: تبقى الطلبات، ونصوص الملفات والنتائج معك. المقايضة هي عترة الجهاز. قد يكتب النموذج المحلي الأصغر محددات أضعف أو يفوت سببًا يجده نموذج أكبر، لذا اقرأ كل فرق بعناية. استخدم زر الاختبار للتحقق من أن نقطة النهاية ترد ورؤية مقدار السياق الذي يمكن للنموذج استيعابه.
النموذج المدمج
النموذج المدمج جاهز للاستخدام دون نقطة نهاية خاصة بك، مما يجعله أسرع طريقة لتجربة FlowLatch في مشروع اختبار صغير. يمكنك فتح دردشة، توجيهها إلى مجلد عامل وطلب اختبار تسجيل دخول أولي على الفور. يناسب تعلم كيفية عمل البطاقات، والفرق، وأوضاع الموافقة الثلاثة. عندما تكبر المهمة، مثل هجرة طويلة أو فشل متقطع صعب، يمكنك ربط مزود سحابي أو نموذج محلي والعمل في نفس المجلد.
تحقق من الاتصال بزر الاختبار
يتحقق زر الاختبار من نقطة نهاية النموذج قبل الاعتماد عليه. يرسل طلبًا صغيرًا ويعرض وقت الاستجابة ونافذة السياق، وهي كمية النص التي يمكن للنموذج استقبالها في دور واحد. من المفيد معرفة وقت الاستجابة الطويل قبل مهمة كبيرة. نافذة السياق الصغيرة هي تلميح للعمل على ملف اختبار واحد في كل مرة. إذا فشل الاختبار، تحقق من عنوان نقطة النهاية، ومفتاح API واسم النموذج، ثم اضغط على الزر مرة أخرى.
اختر نموذجًا يتناسب مع المهمة
استخدم نموذجًا أكبر لإعادة الهيكلة والمنطق المعقد، مثل نقل مجموعة طويلة إلى إطار عمل آخر أو فك تشابك فشل يعتمد على ترتيب الاختبارات. نموذج أصغر كافٍ للتعديلات الصغيرة، مثل إعادة تسمية اختبار أو تغيير محدد واحد. ترسل أداة run_on_model خطوة صعبة واحدة إلى نموذج أكبر، لذا يمكن أن تبقى بقية الدردشة على النموذج الذي اخترته. خلط الأحجام بهذه الطريقة هو قرارك، والبطاقات تظهر كل خطوة تم تشغيلها.
تختلف جودة النماذج بين المزودين والإصدارات، ويمكن أن يكون كل نموذج مخطئًا. اقرأ الفرق قبل قبول التغيير، وشغّل الاختبارات بنفسك. يوقف Ask first الإجراءات التي تغير شيئًا، لذا ترى كل تعديل قبل كتابته. إذا أخطأ النموذج في قراءة فشل، ارفض التغيير واذكر الخطأ في الدردشة.
