API 集成指南

LlamaIndex 接入 EasyAPI

使用 OpenAILike 將 LlamaIndex 連接到 EasyAPI 的文本對話端點。明確配置模型元數據,避免依賴 OpenAI 模型名稱推斷。

準備條件

在獨立 Python 環境安裝依賴,設置 EASYAPI_API_KEY,並使用目錄中的精確模型 ID。LlamaIndex 還需按模型文檔設置 EASYAPI_CONTEXT_WINDOW。

python -m pip install -U llama-index-llms-openai-like

API Key 只保存在服務端環境變量或 n8n 憑證中。分享代碼和導出工作流時,不應包含生產密鑰。

配置步驟

  1. 安裝 llama-index-llms-openai-like,設置服務端密鑰,並選擇目錄中支持 Chat Completions 的文本模型。
  2. 按本頁設置 api_base 和 model。將模型文檔的 Token 上限填入 EASYAPI_CONTEXT_WINDOW;這是本地規劃限制,不會擴展上游模型容量。
  3. 運行腳本發送一條 ChatMessage。示例設置 is_chat_model=True、is_function_calling_model=False;核實能力後才開啟工具調用。

可運行請求

示例使用當前選擇的公開模型;實際訪問權限和限額仍取決於 API Key 與賬戶分組。 deepseek-v4-pro-0813

import os
from llama_index.core.llms import ChatMessage
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    api_key=os.environ["EASYAPI_API_KEY"],
    api_base=os.environ.get("EASYAPI_BASE_URL", "https://token.easyapi.com/v1"),
    model=os.environ.get("EASYAPI_MODEL", "deepseek-v4-pro-0813"),
    context_window=int(os.environ["EASYAPI_CONTEXT_WINDOW"]),
    is_chat_model=True,
    is_function_calling_model=False,
    timeout=60,
    max_retries=2,
)
response = llm.chat([ChatMessage(role="user", content="Reply with one short greeting.")])
print(response.message.content)

成功判據

成功請求應返回非空的助手消息。擴大流量前,核對調用記錄與實際費用。

兼容範圍與限制

本指南只覆蓋文本 Chat Completions。圖片、視頻、向量、工具調用和結構化輸出,均需分別核對模型和端點;兼容 OpenAI 客戶端不代表支持每個廠商的全部功能。

閱讀 API 文檔

常見問題與排錯

為什麼使用 OpenAILike?
它接受第三方模型 ID 和顯式模型元數據,避免把陌生模型誤認為具有某個 OpenAI 模型的上下文長度與能力。
是否同時配置向量和 RAG?
沒有,本例只配置對話 LLM。檢索應用還需單獨配置向量模型、受支持端點、向量庫,並驗證檢索流程。
上下文窗口填多少?
把所選模型文檔的 Token 上限填入 EASYAPI_CONTEXT_WINDOW。不要套用廠商統一數字;填寫更大值不會改變上游模型限制。

官方資料

LlamaIndex · 核驗日期