全部文档

在 Continue 中使用 6bee.ai

Continue 从配置文件读取模型。加一段配置,写上 6bee.ai 的接口地址、密钥和模型 ID。

开始之前

  • VS Code 或 JetBrains IDE 里已安装 Continue 插件。
  • 用已验证的邮箱注册账户,预付费充值后,在控制台的「API 密钥」页创建密钥,并妥善保管。
  • 模型 ID 可以在控制台查看,也可以用 GET https://api.6bee.ai/v1/models 获取。把 <模型 id> 换成其中一个。

添加模型

打开 ~/.continue/config.yaml(在 Continue 里:模型菜单,点 Local Config 旁边的齿轮),加入一个模型:

~/.continue/config.yaml
name: 6bee
version: 1.0.0
schema: v1
models:
  - name: 6bee
    provider: openai
    model: <模型 id>
    apiBase: https://api.6bee.ai/v1
    apiKey: <你的密钥>
    roles:
      - chat
      - edit
      - apply
provider
填 openai,Continue 会使用 OpenAI Chat Completions 格式。
apiBase
https://api.6bee.ai/v1,带 /v1。
roles
允许 Continue 把这个模型用在哪些地方。不要加 autocomplete:它每敲一个键都会发请求,很快就会碰到请求频率限额。

这个文件以明文保存密钥,不要提交到代码仓库。

确认可用

  1. 保存文件,Continue 会自动重新加载。
  2. 在模型菜单里选 6bee,发一条简短的消息。
  3. 控制台的使用日志里会出现这次请求。

限额

上下文
输入加输出不超过模型窗口:按模型不同,为 128K 至 1M token。
输出
max_tokens 最高到模型的输出上限:按模型不同,为 16,384 至 131,072。超出时自动降到上限,不会拒绝请求。不传时默认 8,192 至 32,768。
输入
滚动每分钟 100 万未命中缓存的 token,缓存命中不计。
请求频率
每分钟 60 次。
并发
同时 2 个请求。
请求体
不超过 8 MiB,n 必须为 1。

排错

HTTP 401
密钥缺失或不正确。从控制台重新复制,不要带空格或引号。
提示模型不存在
模型 ID 不匹配。用 GET /v1/models 查看可用的 ID,或到控制台核对。
HTTP 429
超出了账户限额(请求频率、输入 token 或并发)。响应头 Retry-After 给出需要等待的秒数。
长会话中出现 HTTP 400
请求已经放不进模型的上下文窗口。压缩或清空对话,或换用窗口更大的模型。
因余额不足被拒绝
每次请求会先预扣「输入 + max_tokens 输出」。充值,或调低 max_tokens。