Docs
Powered by

# “自定义（OpenAI 协议）”功能说明与使用指南

已发布 2026-01-15

# 一、什么是“自定义（OpenAI 协议）”

“自定义（OpenAI 协议）” 简单来说，就是让你可以接入自己选择的AI模型，而不仅仅依赖OpenAI的官方服务。你可以通过这个功能接入自己本地部署的AI模型，或者第三方提供的兼容OpenAI格式的API服务。

  • 本地模型： 例如，你在自己的电脑上使用 llama.cpp 或 Oobabooga 这类AI模型，可以通过它们提供的接口与 Tavo 对话。
  • 第三方API服务： 例如，Cloudflare AI 或 DeepSeek 提供的兼容OpenAI的API，Tavo 也能轻松接入。

# 二、为什么要使用“自定义（OpenAI 协议）”？

◼️ 你可以灵活切换模型

你不再局限于OpenAI的官方模型，可以选择自己喜欢的其他模型进行对话。

◼️ 本地运行节省费用

如果你在本地运行AI模型，就能避免向云端付费，减少成本。

◼️ 保护隐私

你不需要将对话内容传输到外部服务器，保护自己的隐私。

◼️ 自定义优化

有些模型是针对特定任务做了优化的，使用这些模型可以获得更好的结果。

示例场景

假设你在自己的电脑上通过 llama.cpp 部署了一个AI模型，接口地址是 http://localhost:8080/v1。通过 Tavo 的“自定义（OpenAI 协议）”功能，你可以直接与这个模型对话，而不需要用OpenAI的官方服务。

# 三、小白用户快速上手指南

步骤1：准备好API服务

  • 本地部署： 你需要在自己的电脑上运行一个兼容OpenAI格式的AI模型（比如 llama.cpp）。确保服务已经启动并能通过地址 http://localhost:1234/v1 访问。
  • 第三方服务： 如果你使用的是第三方API（比如 DeepSeek 或 Cloudflare），你需要从服务提供商那里获取到API地址和API密钥。

步骤2：在 Tavo 中配置

1.进入设置页面

打开Tavo，点击左上角按钮 → API连接 → 新建 。

2.选择 自定义（OpenAI 协议）

在模型平台 选择框中，选中 自定义（OpenAI 协议） 。

3.填写API密钥（如果需要）

如果你的服务需要密钥认证，输入相应的API密钥；如果不需要，不用填写。

4.填写 API 基础 URL

  • 输入你要连接的API服务地址（例如 http://localhost:1234/v1）。
  • 注意：如果连接不成功，可以尝试在URL末尾加上 /v1，并确保地址格式正确。

5.选择模型名称

根据服务的文档，选择你要使用的模型名称，比如 gpt-4o 或 llama3-8b 等。

步骤3：测试与开始使用

1.发送测试消息

将该 API 设置为默认，并与自己原有角色进行对话，看看是否能收到AI的回复。

  • ✅ 成功示例： 收到AI的回复内容
  • ❌ 失败处理： 如果没有返回结果，检查下URL、端口、模型名是否正确，确保服务已启动。

2.开始使用

配置成功后，你就可以像使用OpenAI一样，在酒馆AI中与自定义的AI模型进行对话了。

# 四、常见问题

◼️ 连接失败怎么办

  • 确认API服务是否已经启动（例如本地服务需要启动）。
  • 检查API地址格式是否正确，端口是否开放。
  • 查看服务日志，查找可能的错误信息。

◼️ 模型名不对怎么办？

  • 确保选择的模型名称与服务提供商的文档一致。
  • 本地部署时，模型名通常与你加载的模型文件名称一致。

◼️ 显示“无连接”怎么办？

  • 确保你配置的API端点可用，或者重新检查端点配置。

# 五、提示处理和兼容性

◼️ 兼容性说明 虽然 Tavo 支持与很多API端点兼容，但它不保证与所有API端点都能兼容。特别是一些本地端点，如 TabbyAPI、Oobabooga 或 Aphrodite，在连接时可能需要一些额外配置。你可能需要查看这些端点的文档，确保它们的接口格式符合OpenAI的标准。

  • 小提示：如果连接不上，尝试在URL末尾加 /v1，而不是 /chat/completions，这样通常可以解决连接问题。

◼️ 提示格式限制

有些端点可能会对输入的提示格式有要求，比如要求只有一条系统消息，或者严格交替角色。Tavo 提供了内置的提示转换器，帮助你满足这些要求：

  • 合并同一角色的连续消息（适用于松散的格式要求）

  • 只允许一条系统消息（适用于半严格要求）

  • 只允许一个可选的系统消息，并要求用户角色是第一个（适用于严格要求）

# 六、示例配置

◼️ 本地部署llama.cpp

  • 自定义端点：http://localhost:8080/v1
  • 模型名：llama3-8b
  • API密钥：无需填写（本地服务通常不需要密钥）。

◼️ 第三方服务（DeepSeek）

  • 自定义端点：https://api.deepseek.com/v1
  • 模型名：deepseek-chat
  • API密钥：填写服务提供的密钥。