AIモデルを接続する

Pairwise LMは、標準APIエンドポイント経由でクラウドプロバイダに接続するか、PC上でローカル実行されるモデル、または内蔵モデルを使用します。エンドポイントを選択し、動作を確認してから、すべての操作を完全に制御しながら評価スクリプトを実行できます。

モデルのソースを選択

クラウドAPIエンドポイント

標準APIエンドポイントを使用してクラウドAIプロバイダに接続します。このオプションではプロンプトがリモートサーバーに送信されるため、データはあなたのマシンから送信されます。標準インターフェースをサポートする任意のプロバイダを使用でき、どのエンドポイントにデータを送信するかを制御できます。ハードウェアに収まらない大規模モデルにこのオプションを使用してください。

ローカルPCモデル

ローカルハードウェアを使用して、Windowsデスクトップ上でモデルを直接実行します。このオプションを使用するとデータはマシンから送信されず、プロンプトがコンピュータ内に留まるため、プライバシーが保護されます。エージェントが評価スクリプトを実行している間、独自のベンダーツールを使用してGPUメモリと速度を監視できます。

内蔵モデル

内蔵モデルは、独自のエンドポイントやAPIキーなしですぐに使用できます。

接続を確認する

エンドポイントが応答することを確認するには、[テスト]ボタンをクリックしてください。応答時間とコンテキストウィンドウのサイズが表示されます。これは独自のベンチマークの代替ではありません。

適切なモデルを選択

run_on_modelを使用して、より大きなモデルにハードなステップを送信します。そのモデルがクラウドエンドポイントの場合、そのステップのテキストはプロバイダに送信されます。

モデル間で品質にばらつきがあるため、変更を受け入れる前に差分を必ず確認してください。[Ask first]を使用して、何らかの変更を加えるアクションの前に一時停止します。これにより、評価スクリプトや結果ファイルに適用される前に、モデルが加える正確な変更内容を確認できます。