Connetti un modello AI

Pairwise LM si connette a un provider cloud tramite un endpoint API standard, a un modello in esecuzione locale sul tuo PC o al modello integrato. Scegli l'endpoint, verifica che funzioni e avvia gli script di valutazione con il pieno controllo su ogni azione.

Scegli la fonte del modello

Endpoint API cloud

Connettiti a un provider AI cloud utilizzando un endpoint API standard. Questa opzione invia i tuoi prompt a un server remoto, quindi il testo lascia il tuo computer. Puoi utilizzare qualsiasi provider che supporti l'interfaccia standard e tu controlli quale endpoint riceve i tuoi dati. Usa questa opzione per i modelli grandi che non rientrano nell'hardware disponibile.

Modello locale

Esegui un modello direttamente sul tuo desktop Windows utilizzando l'hardware locale. Nessun dato lascia il tuo computer quando usi questa opzione, garantendo che i tuoi prompt rimangano sul tuo PC. Puoi monitorare la memoria GPU e la velocità utilizzando gli strumenti del produttore mentre l'agente esegue gli script di valutazione.

Modello integrato

Il modello integrato è pronto all'uso senza il tuo endpoint o chiave API personale.

Verifica la connessione

Fai clic sul pulsante Test per verificare che l'endpoint risponda. Mostra il tempo di risposta e la dimensione della finestra di contesto. Questo non sostituisce i tuoi benchmark personali.

Seleziona il modello giusto

Usa run_on_model per inviare un passaggio complesso a un modello più grande. Se quel modello è un endpoint cloud, il testo di quel passaggio viene inviato al provider.

La qualità varia tra i modelli, quindi rivedi sempre le differenze prima di accettare le modifiche. Usa Ask first per mettere in pausa prima di ogni azione che modifica qualcosa. Questo garantisce che tu veda le esatte modifiche che il modello apporta agli script di valutazione o ai file di risultato prima che vengano applicate definitivamente.