Conecte um Modelo de IA

O Pairwise LM conecta-se a um provedor de nuvem via endpoint de API padrão, a um modelo executado localmente no seu PC ou ao modelo integrado. Você escolhe o endpoint, verifica se funciona e então executa seus scripts de avaliação com controle total sobre cada ação.

Escolha a Origem do Modelo

Endpoint de API na Nuvem

Conecte-se a um provedor de IA na nuvem usando um endpoint de API padrão. Esta opção envia seus prompts para um servidor remoto, portanto o texto sai da sua máquina. Você pode usar qualquer provedor que suporte a interface padrão e controla qual endpoint recebe seus dados. Use esta opção para modelos grandes que não cabem no seu hardware.

Modelo Local no PC

Execute um modelo diretamente no seu desktop Windows usando o hardware local. Nenhum dado sai da sua máquina ao usar esta opção, garantindo que seus prompts permaneçam no seu computador. Você pode monitorar a memória da GPU e a velocidade usando as ferramentas do seu fornecedor enquanto o agente executa seus scripts de avaliação.

Modelo Integrado

O modelo integrado está pronto para uso sem precisar do seu próprio endpoint ou chave de API.

Verifique sua Conexão

Clique no botão Testar para verificar se o endpoint responde. Ele mostra o tempo de resposta e o tamanho da janela de contexto. Isso não substitui o seu próprio benchmark.

Selecione o Modelo Adequado

Use run_on_model para enviar uma etapa complexa para um modelo maior. Se esse modelo for um endpoint de nuvem, o texto dessa etapa será enviado ao provedor.

A qualidade varia entre os modelos, então sempre revise o diff antes de aceitar as alterações. Use Ask first para pausar antes de cada ação que altere algo. Isso garante que você veja as modificações exatas que o modelo faz nos seus scripts de avaliação ou arquivos de resultado antes que sejam aplicadas permanentemente.