Podłącz model AI

Pairwise LM łączy się z dostawcą w chmurze poprzez standardowy punkt końcowy API, modelem uruchamianym lokalnie na Twoim komputerze lub wbudowanym modelem. Wybierasz punkt końcowy, weryfikujesz jego działanie, a następnie uruchamiasz skrypty ewaluacyjne, mając pełną kontrolę nad każdym działaniem.

Wybierz źródło modelu

Punkt końcowy API w chmurze

Połącz się z dostawcą AI w chmurze, używając standardowego punktu końcowego API. Ta opcja wysyła Twoje prompty na zdalny serwer, więc tekst opuszcza Twoją maszynę. Możesz użyć dowolnego dostawcy obsługującego standardowy interfejs i kontrolować, który punkt końcowy otrzymuje Twoje dane. Użyj tej opcji dla dużych modeli, które nie mieszczą się na Twoim sprzęcie.

Model lokalny

Uruchom model bezpośrednio na swoim komputerze z systemem Windows, używając lokalnego sprzętu. Żadne dane nie opuszczają Twojej maszyny przy użyciu tej opcji, co zapewnia, że Twoje prompty pozostają na Twoim komputerze. Możesz monitorować pamięć GPU i prędkość za pomocą narzędzi dostawcy, podczas gdy agent uruchamia Twoje skrypty ewaluacyjne.

Model wbudowany

Wbudowany model jest gotowy do użycia bez Twojego własnego punktu końcowego ani klucza API.

Sprawdź połączenie

Kliknij przycisk Test, aby sprawdzić, czy punkt końcowy odpowiada. Pokazuje on czas odpowiedzi i rozmiar okna kontekstowego. Nie jest to zamiennik Twojego własnego benchmarku.

Wybierz odpowiedni model

Użyj run_on_model, aby wysłać trudny krok do większego modelu. Jeśli ten model jest punktem końcowym w chmurze, tekst tego kroku trafi do dostawcy.

Jakość różni się w zależności od modeli, dlatego zawsze przeglądaj różnice przed zaakceptowaniem zmian. Użyj Ask first, aby zatrzymać się przed każdą akcją, która coś zmienia. Gwarantuje to, że zobaczysz dokładnie, jakie modyfikacje model wprowadza w swoich skryptach ewaluacyjnych lub plikach wynikowych, zanim zostaną one trwale zastosowane.