在 Continue 中使用 6bee.ai
Continue 从配置文件读取模型。加一段配置,写上 6bee.ai 的接口地址、密钥和模型 ID。
开始之前
添加模型
打开 ~/.continue/config.yaml(在 Continue 里:模型菜单,点 Local Config 旁边的齿轮),加入一个模型:
name: 6bee
version: 1.0.0
schema: v1
models:
- name: 6bee
provider: openai
model: <模型 id>
apiBase: https://api.6bee.ai/v1
apiKey: <你的密钥>
roles:
- chat
- edit
- apply provider- 填
openai,Continue 会使用 OpenAI Chat Completions 格式。 apiBasehttps://api.6bee.ai/v1,带/v1。roles- 允许 Continue 把这个模型用在哪些地方。不要加
autocomplete:它每敲一个键都会发请求,很快就会碰到请求频率限额。
这个文件以明文保存密钥,不要提交到代码仓库。
确认可用
- 保存文件,Continue 会自动重新加载。
- 在模型菜单里选 6bee,发一条简短的消息。
- 控制台的使用日志里会出现这次请求。
限额
- 上下文
- 输入加输出不超过模型窗口:按模型不同,为 128K 至 1M token。
- 输出
- max_tokens 最高到模型的输出上限:按模型不同,为 16,384 至 131,072。超出时自动降到上限,不会拒绝请求。不传时默认 8,192 至 32,768。
- 输入
- 滚动每分钟 100 万未命中缓存的 token,缓存命中不计。
- 请求频率
- 每分钟 60 次。
- 并发
- 同时 2 个请求。
- 请求体
- 不超过 8 MiB,n 必须为 1。
排错
- HTTP 401
- 密钥缺失或不正确。从控制台重新复制,不要带空格或引号。
- 提示模型不存在
- 模型 ID 不匹配。用
GET /v1/models查看可用的 ID,或到控制台核对。 - HTTP 429
- 超出了账户限额(请求频率、输入 token 或并发)。响应头
Retry-After给出需要等待的秒数。 - 长会话中出现 HTTP 400
- 请求已经放不进模型的上下文窗口。压缩或清空对话,或换用窗口更大的模型。
- 因余额不足被拒绝
- 每次请求会先预扣「输入 +
max_tokens输出」。充值,或调低max_tokens。