GetRouterドキュメント
  • 日本語

    • LlamaIndex

    任意の GetRouter モデル ID を使用する場合は、LlamaIndex の OpenAI-like 連携を使用します。LLM と Embedding モデルは個別に設定し、それぞれ検証してください。

    連携ステータス
    • 推奨プロトコル: OpenAI Chat Completions / Embeddings
    • 設定確認日: 2026年7月15日（LlamaIndex 公式 OpenAI-like ドキュメント）
    • 実行時検証: Pending（未検証）

    インストール

    pip install -U llama-index-llms-openai-like llama-index-embeddings-openai
export GETROUTER_API_KEY="YOUR_API_KEY"

    LLM の設定

    import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="MODEL_ID",
    api_key=os.environ["GETROUTER_API_KEY"],
    api_base="https://getrouter.ai/v1",
    is_chat_model=True,
    context_window=int(os.environ["MODEL_CONTEXT_WINDOW"]),
)

print(llm.complete("接続成功とのみ回答してください"))

    MODEL_CONTEXT_WINDOW には、選択したモデルの実際のコンテキストウィンドウサイズを整数で設定してください。別のモデルの上限を流用しないでください。選択したモデルがツール呼び出しに対応していることを確認した場合に限り、is_function_calling_model=True を追加します。それ以外の場合は無効のままにしてください。

    Embedding の設定

    import os
from llama_index.embeddings.openai import OpenAIEmbedding

embed_model = OpenAIEmbedding(
    model=os.environ["EMBEDDING_MODEL_ID"],
    api_key=os.environ["GETROUTER_API_KEY"],
    api_base="https://getrouter.ai/v1",
)

    EMBEDDING_MODEL_ID には、モデルカタログから実際に Embedding に対応するモデルを設定してください。LLM が Embedding にも対応しているとは限りません。Embedding モデルまたはベクトルの次元数を変更した場合は、既存のインデックスを再構築する必要があります。

    本番利用前の確認

    • LLM リクエストと Embedding リクエストをそれぞれ 1 回ずつテストする。
    • 選択したモデルの公称仕様に基づいて MODEL_CONTEXT_WINDOW を設定する。
    • 各インデックスで使用する Embedding モデルとベクトル次元数を固定する。
    • 一括取り込みの並列数、再試行、コスト上限を設定する。
    • Tool / Agent のワークフローは、ツール呼び出しガイドに沿って個別に検証する。