用 OpenAI 相容介面開發 Agent

目前可用的推薦模型

按 Agent 場景挑的：工具呼叫穩定、支援結構化輸出，上下文足夠多輪累積。多輪迴圈的成本會隨輪數線性漲，先用便宜的跑通流程，再換強模型看效果。

價格為平台價，每百萬 tokens，按實際用量計費；列表隨定價介面即時變化，下架的模型不會出現在這裡。點一個模型，下面的設定和費用都會按它產生。

精確設定

下面的設定已經填好 API 位址和目前選中的模型 qwen3.8-max，只需換成你自己的 Key。

from openai import OpenAI

client = OpenAI(base_url="https://token.easyapi.com/v1", api_key="sk-your-key")

tools = [{
    "type": "function",
    "function": {
        "name": "get_weather",
        "description": "Get current weather for a city",
        "parameters": {"type": "object", "properties": {"city": {"type": "string"}}, "required": ["city"]},
    },
}]

resp = client.chat.completions.create(
    model="qwen3.8-max",
    messages=[{"role": "user", "content": "What is the weather in Shanghai today?"}],
    tools=tools,
    tool_choice="auto",
)
call = resp.choices[0].message.tool_calls[0]
print(call.function.name, call.function.arguments)

OpenAI SDK · Python 完整接入文件 →

先跑通一條請求

把 Key 換掉，在終端機原樣執行。回傳 200 表示位址、Key、模型三項都對；報錯對照下面的常見錯誤。

curl https://token.easyapi.com/v1/chat/completions \
  -H "Authorization: Bearer sk-your-key" \
  -H "Content-Type: application/json" \
  -d '{"model":"qwen3.8-max","messages":[{"role":"user","content":"Hello"}]}'

能力邊界

• tools、tool_choice、stream、response_format 這些參數原樣透傳給上游，不同模型對參數的支援程度不同，模型詳情頁的參數表寫了哪些生效。
• 多輪 Agent 的 messages 會越滾越長，上下文視窗是硬上限；請求超過模型上下文會直接報錯，而不是自動截斷。
• 同一個 Key 高並行時注意 429：平台限流與你的額度耗盡都回傳 429，錯誤資訊裡會寫明是哪一種。
• 用 models 回退序列和 provider.sort 可以在請求裡宣告備用模型和路由偏好，上游故障時自動切換，詳見 API 文件。

常見錯誤

tool_calls 為空，模型用文字回答了

多半是模型不支援工具呼叫，或者 tool_choice 沒設。換一個推薦列表裡的模型，並把 tool_choice 設成 auto 或指定函式。

串流輸出收不到 delta

確認請求裡 stream 為 true，並且客戶端沒有緩衝；用 curl 加 -N 參數直接看原始 SSE 能快速定位。

回傳 JSON 解析失敗

用 response_format 指定 json_object 或 json_schema，並在系統提示裡說明只輸出 JSON；沒有 response_format 的模型靠提示詞約束不保證穩定。

429 Too Many Requests

看錯誤資訊：insufficient quota 是餘額不足，去儲值；rate limit 是並行超了，降低並行或分散到多把 Key。

費用範例

按 qwen3.8-max 的目前價格，一次典型請求 6,000 輸入 + 800 輸出 tokens，每天 2,000 次：

只按實際消耗的 tokens 計費，沒有平台費、路由費和月最低消費。真實用量在控制台的呼叫日誌裡逐條可查。