Test çalıştırmanızı besleyen modeli seçin
FlowLatch, seçtiğiniz modelle çalışır. Standart bir API uç noktası aracılığıyla bir bulut AI sağlayıcısı bağlayın, kendi PC'nizde bir model çalıştırın veya yerleşik modelle başlayın; ardından ilk görevden önce Test düğmesini kullanarak bağlantıyı kontrol edin.
Bir modeli bağlamanın üç yolu
Bir bulut AI sağlayıcısı
Bir bulut sağlayıcısı, standart bir API uç noktası aracılığıyla erişilir: uç nokta adresini, API anahtarınızı ve kullanmak istediğiniz modeli sağlarsınız. Büyük yeniden yapılandırmalar ve zor hata ayıklamalar için uygundur; çünkü daha büyük modeller genellikle uzun test dizilerini daha iyi takip eder. Gizlilik maliyetine dikkat edin. İstemciniz, ajanın okuduğu dosya metni dahil olmak üzere, o sağlayıcıya gönderilir; bu nedenle çalışma klasöründe gizli anahtarları ve gerçek müşteri verilerini bulundurmaktan kaçının. FlowLatch API anahtarını PC'nizde tutar ve araç çıktısındaki gizli bilgiler modele ulaşmadan önce gizlenir. Sağlayıcı kendi kullanımı için ücret talep edebilir.
Kendi PC'nizdeki bir model
Yerel bir model PC'nizde çalışır ve FlowLatch, aynı makinedeki bir uç nokta aracılığıyla onunla iletişim kurar. Gizli projeler için uygundur; çünkü yerel bir modelle hiçbir şey makineden ayrılmaz: istemciler, dosya metinleri ve sonuçlar sizde kalır. Bedeli donanımdır. Daha küçük bir yerel model daha zayıf seçiciler yazabilir veya daha büyük bir modelin bulacağı bir nedeni kaçırabilir; bu nedenle her farkı dikkatle okuyun. Uç noktanın yanıt verdiğinden emin olmak ve modelin ne kadar bağlamı işleyebileceğini görmek için Test düğmesini kullanın.
Yerleşik model
Yerleşik model, kendi uç noktanıza gerek duymadan kullanıma hazırdır; bu da onu küçük bir test projesinde FlowLatch'i denemenin en hızlı yolu yapar. Sohbeti açabilir, bir çalışma klasörüne işaret edip hemen ilk oturum açma testini isteyebilirsiniz. Kartların, farkların ve üç onay modunun nasıl çalıştığını öğrenmek için uygundur. Görev büyüdüğünde (örneğin uzun bir geçiş veya zor bir düzensiz hata), bir bulut sağlayıcısı veya yerel model bağlayabilir ve aynı klasörde çalışmaya devam edebilirsiniz.
Test düğmesiyle bağlantıyı kontrol edin
Test düğmesi, modele güvenmeden önce bir model uç noktasını kontrol eder. Küçük bir istek gönderir ve yanıt süresini ile modelin bir turda alabileceği metin miktarı olan bağlam penceresini gösterir. Büyük bir görevden önce uzun bir yanıt süresini bilmek değerlidir. Küçük bir bağlam penceresi, bir seferde bir test dosyası üzerinde çalışmanız gerektiğine dair bir ipucudur. Test başarısız olursa, uç nokta adresini, API anahtarını ve model adını kontrol edin, ardından düğmeye tekrar basın.
Göreve uygun bir model seçin
Yeniden yapılandırmalar ve karmaşık mantık için (örneğin uzun bir diziyi başka bir çerçeveye taşımak veya test sırasına bağlı bir hatayı çözmek) daha büyük bir model kullanın. Küçük düzenlemeler (bir testi yeniden adlandırmak veya bir seçiciyi değiştirmek) için daha küçük bir model yeterlidir. run_on_model aracı, zor bir adımı büyük bir modele gönderir; böylece sohbetin geri kalanı seçtiğiniz modelde kalabilir. Bu şekilde boyutları karıştırmak sizin kararınızdır ve kartlar çalıştırılan her adımı gösterir.
Model kalitesi sağlayıcılar ve sürümler arasında değişir ve her model hata yapabilir. Bir değişikliği kabul etmeden önce farkı okuyun ve testleri kendiniz çalıştırın. Ask first, bir şeyleri değiştiren eylemlerden önce duraklar; böylece her düzenlemeyi yazılmadan önce görürsünüz. Bir model bir hatayı yanlış okursa, değişikliği reddedin ve sohbette neyin yanlış olduğunu belirtin.
