Bir AI Modeli Bağla

Pairwise LM, standart bir API uç noktası, PC'nizde yerel olarak çalışan bir model veya yerleşik model aracılığıyla bir bulut sağlayıcısına bağlanır. Uç noktayı seçin, çalıştığını doğrulayın ve ardından her işlemi tam kontrol altında değerlendirme betiklerinizi çalıştırın.

Model Kaynağınızı Seçin

Bulut API Uç Noktası

Standart bir API uç noktası kullanarak bir bulut AI sağlayıcısına bağlanın. Bu seçenek, isteklerinizi uzak bir sunucuya gönderir; böylece metinler makinenizden ayrılır. Standart arayüzü destekleyen herhangi bir sağlayıcıyı kullanabilir ve verilerinizin hangi uç noktaya gideceğini belirleyebilirsiniz. Donanımınıza sığmayan büyük modeller için bu seçeneği kullanın.

Yerel PC Modeli

Yerel donanımınızı kullanarak bir modeli doğrudan Windows masaüstünüzde çalıştırın. Bu seçeneği kullandığınızda verileriniz makinenizden ayrılmaz; böylece istekleriniz bilgisayarınızda kalır. Agent değerlendirme betiklerinizi çalıştırırken, kendi satıcı araçlarınızla GPU belleğinizi ve hızını izleyebilirsiniz.

Yerleşik Model

Yerleşik model, kendi uç noktanız veya API anahtarınız olmadan kullanıma hazırdır.

Bağlantınızı Doğrulayın

Uç noktanın yanıt verdiğini kontrol etmek için Test düğmesine tıklayın. Yanıt süresini ve bağlam penceresi boyutunu gösterir. Bu işlem, kendi benchmark'ınızın yerine geçmez.

Doğru Modeli Seçin

Daha karmaşık bir adım için daha büyük bir modele yönlendirme yapmak üzere run_on_model komutunu kullanın. Bu model bir bulut uç noktasıysa, bu adımın metni sağlayıcıya gönderilir.

Modeller arasındaki kalite farklılık gösterir; bu nedenle değişiklikleri kabul etmeden önce her zaman diff'i gözden geçirin. Bir şeyleri değiştiren her işlemden önce durmak için Ask first özelliğini kullanın. Bu sayede, modelin değerlendirme betiklerinizde veya sonuç dosyalarında kalıcı olarak uygulanmadan önce yaptığı tam değişiklikleri görebilirsiniz.