Подключение ИИ-модели

Pairwise LM подключается к облачному провайдеру через стандартный API-эндпоинт, к модели, работающей локально на вашем ПК, или использует встроенную модель. Вы выбираете эндпоинт, проверяете его работоспособность и запускаете скрипты оценки с полным контролем каждого действия.

Выберите источник модели

Облачный API-эндпоинт

Подключитесь к облачному ИИ-провайдеру через стандартный API-эндпоинт. Этот вариант отправляет ваши запросы на удалённый сервер, поэтому текст покидает вашу машину. Вы можете использовать любого провайдера, поддерживающего стандартный интерфейс, и вы контролируете, какой эндпоинт получает ваши данные. Используйте этот вариант для больших моделей, которые не помещаются на вашем оборудовании.

Локальная модель ПК

Запустите модель непосредственно на вашем рабочем столе Windows, используя локальное оборудование. При использовании этого варианта данные не покидают вашу машину, что гарантирует сохранность ваших запросов на вашем компьютере. Вы можете отслеживать использование памяти GPU и скорость с помощью инструментов вашего вендора, пока агент выполняет ваши скрипты оценки.

Встроенная модель

Встроенная модель готова к использованию без вашего собственного эндпоинта или API-ключа.

Проверка подключения

Нажмите кнопку Test, чтобы проверить, отвечает ли эндпоинт. Отображается время отклика и размер контекстного окна. Это не замена вашему собственному бенчмарку.

Выбор подходящей модели

Используйте run_on_model для отправки сложного шага более мощной модели. Если эта модель — облачный эндпоинт, текст этого шага отправляется провайдеру.

Качество варьируется между моделями, поэтому всегда просматривайте diff перед принятием изменений. Используйте Ask first, чтобы сделать паузу перед каждым действием, изменяющим что-либо. Это гарантирует, что вы увидите точные изменения, которые вносит модель в ваши скрипты оценки или файлы результатов, до их постоянного применения.