Підключіть AI-модель

Pairwise LM підключається до хмарного провайдера через стандартний API-ендпоінт, модель, що працює локально на вашому ПК, або до вбудованої моделі. Ви обираєте ендпоінт, перевіряєте його працездатність і запускаєте скрипти оцінювання з повним контролем над кожною дією.

Оберіть джерело моделі

Хмарний API-ендпоінт

Підключіться до хмарного AI-провайдера за допомогою стандартного API-ендпоінту. Ця опція надсилає ваші запити на віддалений сервер, тож текст залишає ваш комп’ютер. Ви можете використовувати будь-якого провайдера, що підтримує стандартний інтерфейс, і контролюєте, який саме ендпоінт отримує ваші дані. Використовуйте цю опцію для великих моделей, які не поміщаються на вашому обладнанні.

Локальна модель на ПК

Запустіть модель напряму на вашому робочому столі Windows, використовуючи локальне обладнання. Жодні дані не залишають ваш комп’ютер, коли ви використовуєте цю опцію, що гарантує збереження ваших запитів на вашому комп’ютері. Ви можете моніторити пам’ять GPU та швидкість за допомогою інструментів власного виробника, поки агент виконує ваші скрипти оцінювання.

Вбудована модель

Вбудована модель готова до використання без вашого власного ендпоінту чи API-ключа.

Перевірте підключення

Натисніть кнопку «Тест», щоб переконатися, що ендпоінт відповідає. Відображається час відповіді та розмір контекстного вікна. Це не замінює ваш власний бенчмарк.

Оберіть відповідну модель

Використовуйте run_on_model, щоб надіслати складний крок до більшої моделі. Якщо ця модель є хмарним ендпоінтом, текст цього кроку надсилається провайдеру.

Якість варіюється між моделями, тому завжди переглядайте diff перед прийняттям змін. Використовуйте Ask first, щоб зупинитися перед кожною дією, що щось змінює. Це гарантує, що ви бачите точні модифікації, які модель вносить у ваші скрипти оцінювання або файли результатів, перш ніж вони будуть застосовані назавжди.