Koppel een AI-model

Pairwise LM maakt verbinding met een cloudaanbieder via een standaard API-eindpunt, een model dat lokaal op je pc draait, of het ingebouwde model. Jij kiest het eindpunt, controleert of het werkt en voert vervolgens je evaluatiescripts uit met volledige controle over elke actie.

Kies je modelbron

Cloud-API-eindpunt

Maak verbinding met een cloud-AI-aanbieder via een standaard API-eindpunt. Deze optie stuurt je prompts naar een externe server, dus de tekst verlaat je machine. Je kunt elke aanbieder gebruiken die de standaardinterface ondersteunt, en jij bepaalt welk eindpunt je data ontvangt. Gebruik deze optie voor grote modellen die niet op je hardware passen.

Lokaal pc-model

Voer een model direct uit op je Windows-desktop met lokale hardware. Er vertrekt geen data naar buiten wanneer je deze optie gebruikt, zodat je prompts op je computer blijven. Je kunt je GPU-geheugen en snelheid bewaken met je eigen leveranciersprogramma's terwijl de agent je evaluatiescripts uitvoert.

Ingebouwd model

Het ingebouwde model is direct bruikbaar zonder je eigen eindpunt of API-sleutel.

Controleer je verbinding

Klik op de knop Test om te controleren of het eindpunt antwoordt. Hier worden de reactietijd en de contextvenstergrootte weergegeven. Dit is geen vervanging voor je eigen benchmark.

Selecteer het juiste model

Gebruik run_on_model om een moeilijke stap naar een groter model te sturen. Als dat model een cloud-eindpunt is, gaat de tekst van die stap naar de aanbieder.

De kwaliteit verschilt per model, dus bekijk altijd de diff voordat je wijzigingen accepteert. Gebruik Ask first om te pauzeren voordat elke actie die iets verandert. Zo zie je precies welke wijzigingen het model aanbrengt in je evaluatiescripts of resultaatbestanden voordat ze definitief worden toegepast.