在 LibreChat 中使用 6bee.ai
LibreChat 在 librechat.yaml 里以自定义端点的方式添加 OpenAI 兼容服务,加一段配置就够了。
开始之前
添加端点
在 .env 里写入 SIXBEE_API_KEY=<你的密钥>,然后在 librechat.yaml 里加入:
endpoints:
custom:
- name: "6bee"
apiKey: "${SIXBEE_API_KEY}"
baseURL: "https://api.6bee.ai/v1"
models:
default: ["<模型 id>"]
fetch: true
titleConvo: true
titleModel: "<模型 id>"
modelDisplayLabel: "6bee" baseURLhttps://api.6bee.ai/v1,带/v1。models.fetch- 设为
true时通过GET /v1/models拉取模型列表,拉取失败时使用default。 titleModel- 用来生成对话标题的模型。每次生成标题都是一次正常计费的请求。
确认可用
- 重启 LibreChat 让它读取配置文件。
- 在端点菜单里选 6bee,发一条简短的消息。
- 控制台的使用日志里会出现这次请求。
多人共用的实例
- 输入
- 滚动每分钟 100 万未命中缓存的 token,缓存命中不计。
- 请求频率
- 每分钟 60 次。
- 并发
- 同时 2 个请求。
所有使用你这个 LibreChat 的人,共用你的密钥、余额和限额。服务协议不允许未经许可转售访问权限或共享密钥。
排错
- HTTP 401
- 密钥缺失或不正确。从控制台重新复制,不要带空格或引号。
- 提示模型不存在
- 模型 ID 不匹配。用
GET /v1/models查看可用的 ID,或到控制台核对。 - HTTP 429
- 超出了账户限额(请求频率、输入 token 或并发)。响应头
Retry-After给出需要等待的秒数。 - 长会话中出现 HTTP 400
- 请求已经放不进模型的上下文窗口。压缩或清空对话,或换用窗口更大的模型。
- 因余额不足被拒绝
- 每次请求会先预扣「输入 +
max_tokens输出」。充值,或调低max_tokens。