在 SillyTavern 中使用 6bee.ai
SillyTavern(酒馆)以 Custom (OpenAI-compatible) 来源连接 6bee.ai。模型本身无审查,角色扮演不需要破限提示词。
开始之前
连接
打开 API 连接(插头图标),按下面设置:
- API
- Chat Completion(聊天补全)
- 聊天补全来源
- Custom (OpenAI-compatible)(自定义)
- 自定义端点(基础 URL)
https://api.6bee.ai/v1- 自定义 API 密钥
<你的密钥>- 模型
- 在「可用模型」里选一个,或直接输入模型 ID。
点击连接。密钥和地址都正确时,状态会变成绿色。
上下文和回复长度
在预设设置(滑块图标)里,按所选模型设置上下文大小和回复长度。带世界书的长对话增长很快:
- 上下文
- 输入加输出不超过模型窗口:按模型不同,为 128K 至 1M token。
- 输出
- max_tokens 最高到模型的输出上限:按模型不同,为 16,384 至 131,072。超出时自动降到上限,不会拒绝请求。不传时默认 8,192 至 32,768。
达到你设置的上下文大小后,SillyTavern 会自动裁掉较早的消息,所以填对这个值可以避免 400 错误。
无审查对角色扮演意味着什么
模型经过调优,不再动辄拒答,成人题材、暴力情节和亦正亦邪的角色都不需要提示词技巧。但无论模型愿意写什么,可接受使用规则始终适用。尤其是:任何形式的涉及未成年人的性内容都被禁止,虚构作品也不例外。
6bee.ai 不存储对话。SillyTavern 会在你自己的电脑上保存聊天记录。参见存储了什么、没存储什么。
排错
- HTTP 401
- 密钥缺失或不正确。从控制台重新复制,不要带空格或引号。
- 提示模型不存在
- 模型 ID 不匹配。用
GET /v1/models查看可用的 ID,或到控制台核对。 - HTTP 429
- 超出了账户限额(请求频率、输入 token 或并发)。响应头
Retry-After给出需要等待的秒数。 - 长会话中出现 HTTP 400
- 请求已经放不进模型的上下文窗口。压缩或清空对话,或换用窗口更大的模型。
- 因余额不足被拒绝
- 每次请求会先预扣「输入 +
max_tokens输出」。充值,或调低max_tokens。 - 连接时返回 404
- 端点必须是
https://api.6bee.ai/v1,不要再加/chat/completions。