【Bug反馈】关于牧马人本地模型API在cc switch等管理工具中无法正常调用的兼容性问题

Viewed 0

我是牧马人推理引擎的用户。首先感谢你们开发出这样优秀的本地大模型推理产品。但在近期的深度使用中,我发现了一个影响开发者体验的兼容性问题,希望能引起你们的重视并协助排查修复。

问题描述:
我目前使用 AMD Ryzen AI Max+ 395 硬件配合牧马人进行本地模型推理。在尝试将牧马人提供的本地 API 接入第三方大模型路由管理工具(如 cc switch、echobied)时,发现接口无法正常调用和连通。

具体表现:

  1. 当在 cc switch / echobied 中添加牧马人的本地 API 端点和配置信息后,无法成功建立连接或完成对话测试。
  2. 经初步排查,怀疑是牧马人本地 API 的请求头规范、鉴权机制或响应格式与这些第三方路由工具的 OpenAI 兼容标准存在差异,导致请求被拦截或解析失败。

期望与建议:
cc switch 等工具在开发者群体中使用广泛,能够打通本地模型与各类代码助手(如 Claude Code)的连接壁垒。如果牧马人能完善对这类主流路由工具的兼容性支持,将会极大提升产品的生态价值和用户体验。

希望贵团队能针对此问题进行验证。如果是 API 接口文档或参数配置的问题,恳请在官方文档中补充相关说明;如果是底层接口兼容性的 Bug,期待能在后续版本中得到修复。

0 Answers