全部文档

在 LibreChat 中使用 6bee.ai

LibreChat 在 librechat.yaml 里以自定义端点的方式添加 OpenAI 兼容服务,加一段配置就够了。

开始之前

  • LibreChat 已在运行,并且你能修改它的 librechat.yaml 和 .env 文件。
  • 用已验证的邮箱注册账户,预付费充值后,在控制台的「API 密钥」页创建密钥,并妥善保管。
  • 模型 ID 可以在控制台查看,也可以用 GET https://api.6bee.ai/v1/models 获取。把 <模型 id> 换成其中一个。

添加端点

在 .env 里写入 SIXBEE_API_KEY=<你的密钥>,然后在 librechat.yaml 里加入:

librechat.yaml
endpoints:
  custom:
    - name: "6bee"
      apiKey: "${SIXBEE_API_KEY}"
      baseURL: "https://api.6bee.ai/v1"
      models:
        default: ["<模型 id>"]
        fetch: true
      titleConvo: true
      titleModel: "<模型 id>"
      modelDisplayLabel: "6bee"
baseURL
https://api.6bee.ai/v1,带 /v1。
models.fetch
设为 true 时通过 GET /v1/models 拉取模型列表,拉取失败时使用 default。
titleModel
用来生成对话标题的模型。每次生成标题都是一次正常计费的请求。

确认可用

  1. 重启 LibreChat 让它读取配置文件。
  2. 在端点菜单里选 6bee,发一条简短的消息。
  3. 控制台的使用日志里会出现这次请求。

多人共用的实例

输入
滚动每分钟 100 万未命中缓存的 token,缓存命中不计。
请求频率
每分钟 60 次。
并发
同时 2 个请求。

所有使用你这个 LibreChat 的人,共用你的密钥、余额和限额。服务协议不允许未经许可转售访问权限或共享密钥。

排错

HTTP 401
密钥缺失或不正确。从控制台重新复制,不要带空格或引号。
提示模型不存在
模型 ID 不匹配。用 GET /v1/models 查看可用的 ID,或到控制台核对。
HTTP 429
超出了账户限额(请求频率、输入 token 或并发)。响应头 Retry-After 给出需要等待的秒数。
长会话中出现 HTTP 400
请求已经放不进模型的上下文窗口。压缩或清空对话,或换用窗口更大的模型。
因余额不足被拒绝
每次请求会先预扣「输入 + max_tokens 输出」。充值,或调低 max_tokens。