API 集成指南

LlamaIndex 接入 EasyAPI

使用 OpenAILike 将 LlamaIndex 连接到 EasyAPI 的文本对话端点。明确配置模型元数据,避免依赖 OpenAI 模型名称推断。

准备条件

在独立 Python 环境安装依赖,设置 EASYAPI_API_KEY,并使用目录中的精确模型 ID。LlamaIndex 还需按模型文档设置 EASYAPI_CONTEXT_WINDOW。

python -m pip install -U llama-index-llms-openai-like

API Key 只保存在服务端环境变量或 n8n 凭证中。分享代码和导出工作流时,不应包含生产密钥。

配置步骤

  1. 安装 llama-index-llms-openai-like,设置服务端密钥,并选择目录中支持 Chat Completions 的文本模型。
  2. 按本页设置 api_base 和 model。将模型文档的 Token 上限填入 EASYAPI_CONTEXT_WINDOW;这是本地规划限制,不会扩展上游模型容量。
  3. 运行脚本发送一条 ChatMessage。示例设置 is_chat_model=True、is_function_calling_model=False;核实能力后才开启工具调用。

可运行请求

示例使用当前选择的公开模型;实际访问权限和限额仍取决于 API Key 与账户分组。 deepseek-v4-pro-0813

import os
from llama_index.core.llms import ChatMessage
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    api_key=os.environ["EASYAPI_API_KEY"],
    api_base=os.environ.get("EASYAPI_BASE_URL", "https://token.easyapi.com/v1"),
    model=os.environ.get("EASYAPI_MODEL", "deepseek-v4-pro-0813"),
    context_window=int(os.environ["EASYAPI_CONTEXT_WINDOW"]),
    is_chat_model=True,
    is_function_calling_model=False,
    timeout=60,
    max_retries=2,
)
response = llm.chat([ChatMessage(role="user", content="Reply with one short greeting.")])
print(response.message.content)

成功判据

成功请求应返回非空的助手消息。扩大流量前,核对调用记录与实际费用。

兼容范围与限制

本指南只覆盖文本 Chat Completions。图片、视频、向量、工具调用和结构化输出,均需分别核对模型和端点;兼容 OpenAI 客户端不代表支持每个厂商的全部功能。

阅读 API 文档

常见问题与排错

为什么使用 OpenAILike?
它接受第三方模型 ID 和显式模型元数据,避免把陌生模型误认为具有某个 OpenAI 模型的上下文长度与能力。
是否同时配置向量和 RAG?
没有,本例只配置对话 LLM。检索应用还需单独配置向量模型、受支持端点、向量库,并验证检索流程。
上下文窗口填多少?
把所选模型文档的 Token 上限填入 EASYAPI_CONTEXT_WINDOW。不要套用厂商统一数字;填写更大值不会改变上游模型限制。

官方资料

LlamaIndex · 核验日期