Hubungkan Model AI
Pairwise LM terhubung ke penyedia cloud melalui endpoint API standar, model yang berjalan secara lokal di PC Anda, atau model bawaan. Pilih endpoint, verifikasi koneksi, lalu jalankan skrip evaluasi Anda dengan kendali penuh atas setiap tindakan.
Pilih Sumber Model
Endpoint API Cloud
Hubungkan ke penyedia AI cloud menggunakan endpoint API standar. Opsi ini mengirim prompt Anda ke server jarak jauh, sehingga teks keluar dari perangkat Anda. Anda bisa menggunakan penyedia apa pun yang mendukung antarmuka standar, dan Anda mengontrol endpoint mana yang menerima data Anda. Gunakan opsi ini untuk model besar yang tidak muat di perangkat keras Anda.
Model Lokal di PC
Jalankan model langsung di desktop Windows Anda menggunakan perangkat keras lokal. Tidak ada data yang keluar dari perangkat Anda saat menggunakan opsi ini, sehingga prompt Anda tetap aman di komputer. Anda bisa memantau penggunaan memori GPU dan kecepatan menggunakan alat dari vendor Anda sendiri saat agen menjalankan skrip evaluasi.
Model Bawaan
Model bawaan siap digunakan tanpa perlu endpoint atau kunci API (API key) milik Anda sendiri.
Verifikasi Koneksi
Klik tombol Uji untuk memastikan endpoint merespons. Tampilan ini menunjukkan waktu respons dan ukuran jendela konteks. Ini bukan pengganti benchmark Anda sendiri.
Pilih Model yang Tepat
Gunakan run_on_model untuk mengirim langkah rumit ke model yang lebih besar. Jika model tersebut adalah endpoint cloud, teks dari langkah tersebut akan dikirim ke penyedia.
Kualitas model bervariasi, jadi selalu tinjau diff sebelum menerima perubahan. Gunakan Ask first untuk menjeda sebelum setiap tindakan yang mengubah sesuatu. Hal ini memastikan Anda melihat perubahan persis yang dibuat model pada skrip evaluasi atau file hasil Anda sebelum diterapkan secara permanen.