在 LangChain 中使用 6bee.ai

LangChain 的 ChatOpenAI 可以连接任何 OpenAI 兼容接口。把 6bee.ai 的接口地址、密钥和模型 ID 传给它即可。

开始之前

用已验证的邮箱注册账户，预付费充值后，在控制台的「API 密钥」页创建密钥，并妥善保管。

模型 ID 可以在控制台查看，也可以用 GET https://api.6bee.ai/v1/models 获取。把 <模型 id> 换成其中一个。

Python

app.py

from langchain_openai import ChatOpenAI   # pip install langchain-openai

llm = ChatOpenAI(model="<模型 id>", base_url="https://api.6bee.ai/v1",
                 api_key="<你的密钥>", max_tokens=2048)
print(llm.invoke("解释这段报错堆栈").content)

JavaScript

app.mjs

import { ChatOpenAI } from '@langchain/openai'; // npm install @langchain/openai

const llm = new ChatOpenAI({
  model: '<模型 id>', apiKey: process.env.SIXBEE_API_KEY, maxTokens: 2048,
  configuration: { baseURL: 'https://api.6bee.ai/v1' },
});
console.log((await llm.invoke('解释这段报错堆栈')).content);

Agent 与批量调用

一个账户同时只能有 2 个请求。LangChain 的批量调用和多 Agent 图默认会并行发出很多请求，需要限制并发：

app.py

answers = llm.batch(prompts, config={"max_concurrency": 2})

输入: 滚动每分钟 100 万未命中缓存的 token，缓存命中不计。
请求频率: 每分钟 60 次。
并发: 同时 2 个请求。

模型本身支持工具调用才有效，不同模型表现不同，请先用你打算使用的模型测试。

排错

HTTP 401: 密钥缺失或不正确。从控制台重新复制，不要带空格或引号。
提示模型不存在: 模型 ID 不匹配。用 GET /v1/models 查看可用的 ID，或到控制台核对。
HTTP 429: 超出了账户限额（请求频率、输入 token 或并发）。响应头 Retry-After 给出需要等待的秒数。
长会话中出现 HTTP 400: 请求已经放不进模型的上下文窗口。压缩或清空对话，或换用窗口更大的模型。
因余额不足被拒绝: 每次请求会先预扣「输入 + max_tokens 输出」。充值，或调低 max_tokens。