API 集成指南
LlamaIndex 接入 EasyAPI
使用 OpenAILike 将 LlamaIndex 连接到 EasyAPI 的文本对话端点。明确配置模型元数据,避免依赖 OpenAI 模型名称推断。
准备条件
在独立 Python 环境安装依赖,设置 EASYAPI_API_KEY,并使用目录中的精确模型 ID。LlamaIndex 还需按模型文档设置 EASYAPI_CONTEXT_WINDOW。
python -m pip install -U llama-index-llms-openai-likeAPI Key 只保存在服务端环境变量或 n8n 凭证中。分享代码和导出工作流时,不应包含生产密钥。
配置步骤
- 安装 llama-index-llms-openai-like,设置服务端密钥,并选择目录中支持 Chat Completions 的文本模型。
- 按本页设置 api_base 和 model。将模型文档的 Token 上限填入 EASYAPI_CONTEXT_WINDOW;这是本地规划限制,不会扩展上游模型容量。
- 运行脚本发送一条 ChatMessage。示例设置 is_chat_model=True、is_function_calling_model=False;核实能力后才开启工具调用。
可运行请求
示例使用当前选择的公开模型;实际访问权限和限额仍取决于 API Key 与账户分组。 deepseek-v4-pro-0813
import os
from llama_index.core.llms import ChatMessage
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
api_key=os.environ["EASYAPI_API_KEY"],
api_base=os.environ.get("EASYAPI_BASE_URL", "https://token.easyapi.com/v1"),
model=os.environ.get("EASYAPI_MODEL", "deepseek-v4-pro-0813"),
context_window=int(os.environ["EASYAPI_CONTEXT_WINDOW"]),
is_chat_model=True,
is_function_calling_model=False,
timeout=60,
max_retries=2,
)
response = llm.chat([ChatMessage(role="user", content="Reply with one short greeting.")])
print(response.message.content)
成功判据
成功请求应返回非空的助手消息。扩大流量前,核对调用记录与实际费用。
兼容范围与限制
本指南只覆盖文本 Chat Completions。图片、视频、向量、工具调用和结构化输出,均需分别核对模型和端点;兼容 OpenAI 客户端不代表支持每个厂商的全部功能。
阅读 API 文档常见问题与排错
- 为什么使用 OpenAILike?
- 它接受第三方模型 ID 和显式模型元数据,避免把陌生模型误认为具有某个 OpenAI 模型的上下文长度与能力。
- 是否同时配置向量和 RAG?
- 没有,本例只配置对话 LLM。检索应用还需单独配置向量模型、受支持端点、向量库,并验证检索流程。
- 上下文窗口填多少?
- 把所选模型文档的 Token 上限填入 EASYAPI_CONTEXT_WINDOW。不要套用厂商统一数字;填写更大值不会改变上游模型限制。
官方资料
LlamaIndex · 核验日期