API 集成指南
LlamaIndex 接入 EasyAPI
使用 OpenAILike 將 LlamaIndex 連接到 EasyAPI 的文本對話端點。明確配置模型元數據,避免依賴 OpenAI 模型名稱推斷。
準備條件
在獨立 Python 環境安裝依賴,設置 EASYAPI_API_KEY,並使用目錄中的精確模型 ID。LlamaIndex 還需按模型文檔設置 EASYAPI_CONTEXT_WINDOW。
python -m pip install -U llama-index-llms-openai-likeAPI Key 只保存在服務端環境變量或 n8n 憑證中。分享代碼和導出工作流時,不應包含生產密鑰。
配置步驟
- 安裝 llama-index-llms-openai-like,設置服務端密鑰,並選擇目錄中支持 Chat Completions 的文本模型。
- 按本頁設置 api_base 和 model。將模型文檔的 Token 上限填入 EASYAPI_CONTEXT_WINDOW;這是本地規劃限制,不會擴展上游模型容量。
- 運行腳本發送一條 ChatMessage。示例設置 is_chat_model=True、is_function_calling_model=False;核實能力後才開啟工具調用。
可運行請求
示例使用當前選擇的公開模型;實際訪問權限和限額仍取決於 API Key 與賬戶分組。 deepseek-v4-pro-0813
import os
from llama_index.core.llms import ChatMessage
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
api_key=os.environ["EASYAPI_API_KEY"],
api_base=os.environ.get("EASYAPI_BASE_URL", "https://token.easyapi.com/v1"),
model=os.environ.get("EASYAPI_MODEL", "deepseek-v4-pro-0813"),
context_window=int(os.environ["EASYAPI_CONTEXT_WINDOW"]),
is_chat_model=True,
is_function_calling_model=False,
timeout=60,
max_retries=2,
)
response = llm.chat([ChatMessage(role="user", content="Reply with one short greeting.")])
print(response.message.content)
成功判據
成功請求應返回非空的助手消息。擴大流量前,核對調用記錄與實際費用。
兼容範圍與限制
本指南只覆蓋文本 Chat Completions。圖片、視頻、向量、工具調用和結構化輸出,均需分別核對模型和端點;兼容 OpenAI 客戶端不代表支持每個廠商的全部功能。
閱讀 API 文檔常見問題與排錯
- 為什麼使用 OpenAILike?
- 它接受第三方模型 ID 和顯式模型元數據,避免把陌生模型誤認為具有某個 OpenAI 模型的上下文長度與能力。
- 是否同時配置向量和 RAG?
- 沒有,本例只配置對話 LLM。檢索應用還需單獨配置向量模型、受支持端點、向量庫,並驗證檢索流程。
- 上下文窗口填多少?
- 把所選模型文檔的 Token 上限填入 EASYAPI_CONTEXT_WINDOW。不要套用廠商統一數字;填寫更大值不會改變上游模型限制。
官方資料
LlamaIndex · 核驗日期