Ein KI-Modell verbinden

Pairwise LM verbindet sich über einen Standard-API-Endpunkt mit einem Cloud-Anbieter, einem lokal auf deinem PC laufenden Modell oder dem integrierten Modell. Du wählst den Endpunkt, überprüfst die Verbindung und startest dann deine Evaluierungsskripte mit voller Kontrolle über jeden Schritt.

Wähle deine Modellquelle

Cloud-API-Endpunkt

Verbinde dich mit einem Cloud-KI-Anbieter über einen Standard-API-Endpunkt. Diese Option sendet deine Prompts an einen Remote-Server, wodurch der Text deine Maschine verlässt. Du kannst jeden Anbieter nutzen, der die Standard-Schnittstelle unterstützt, und entscheidest selbst, welcher Endpunkt deine Daten empfängt. Nutze diese Option für große Modelle, die nicht auf deiner Hardware Platz finden.

Lokales PC-Modell

Führe ein Modell direkt auf deinem Windows-Desktop mit der lokalen Hardware aus. Bei dieser Option verlässt keine Daten deine Maschine, sodass deine Prompts auf deinem Computer verbleiben. Du kannst deinen GPU-Speicher und die Geschwindigkeit mit deinen eigenen Hersteller-Tools überwachen, während der Agent deine Evaluierungsskripte ausführt.

Integriertes Modell

Das integrierte Modell ist sofort einsatzbereit, ohne dass du einen eigenen Endpunkt oder API-Schlüssel benötigst.

Verbindung überprüfen

Klicke auf die Schaltfläche Testen, um zu prüfen, ob der Endpunkt antwortet. Es werden Antwortzeit und Größe des Kontextfensters angezeigt. Dies ist kein Ersatz für deine eigenen Benchmarks.

Wähle das richtige Modell

Nutze run_on_model, um einen komplexen Schritt an ein größeres Modell zu senden. Wenn es sich um einen Cloud-Endpunkt handelt, wird der Text dieses Schritts an den Anbieter gesendet.

Die Qualität variiert zwischen den Modellen, überprüfe daher immer die Diff, bevor du Änderungen akzeptierst. Nutze Ask first, um vor jedem Schritt, der etwas verändert, eine Pause einzulegen. So siehst du genau, welche Änderungen das Modell an deinen Evaluierungsskripten oder Ergebnisdateien vornimmt, bevor sie dauerhaft übernommen werden.