Conectează un model AI

Pairwise LM se conectează la un furnizor cloud printr-un endpoint API standard, la un model rulează local pe PC-ul tău sau la modelul integrat. Alegi endpoint-ul, verifici că funcționează și rulezi scripturile de evaluare cu control total asupra fiecărei acțiuni.

Alege sursa modelului

Endpoint API cloud

Conectează-te la un furnizor AI cloud folosind un endpoint API standard. Această opțiune trimite prompturile tale către un server remote, așa că textul părăsește mașina ta. Poți folosi orice furnizor care suportă interfața standard și controlezi către care endpoint sunt trimise datele tale. Folosește această opțiune pentru modele mari care nu încap în hardware-ul tău.

Model local pe PC

Rulează un model direct pe desktop-ul tău Windows folosind hardware-ul local. Nicio dată nu părăsește mașina ta când folosești această opțiune, asigurându-te că prompturile tale rămân pe calculator. Poți monitoriza memoria GPU și viteza folosind propriile tale instrumente de la furnizor în timp ce agentul rulează scripturile tale de evaluare.

Model integrat

Modelul integrat este gata de utilizare fără propriul tău endpoint sau cheie API.

Verifică conexiunea

Apasă butonul Test pentru a verifica dacă endpoint-ul răspunde. Afișează timpul de răspuns și dimensiunea ferestrei de context. Acest lucru nu înlocuiește propriul tău benchmark.

Selectează modelul potrivit

Folosește run_on_model pentru a trimite un pas complex către un model mai mare. Dacă acel model este un endpoint cloud, textul acelui pas este trimis către furnizor.

Calitatea variază între modele, așa că verifică întotdeauna diferențele înainte de a accepta modificările. Folosește Ask first pentru a te opri înainte de fiecare acțiune care schimbă ceva. Astfel, vezi exact modificările pe care modelul le face scripturilor tale de evaluare sau fișierelor de rezultate înainte ca acestea să fie aplicate definitiv.