Skip to content

有些站点不支持/v1/chat/completions的问题 #17

@Arser

Description

@Arser

比如有些站点只支持/v1/responses。甚至说是站点A内的模型a只支持这个格式,其他模型支持所有格式。
然后在建路由规则的时候,a跟B站点的模型b都被一起归到了gpt-5.3的分类中,客户端在用/v1/chat/completions去使用gpt-5.3这个模型的时候,路由到a就会失败,路由到b就成功。
能不能做一个按模型转换格式的功能?
比如都在gpt-5.3的分类下,客户端传过来的请求是/v1/chat/completions或者/v1/responses或者其他。然后内部路由到a就转换成/v1/responses,路由到b就转换成/v1/chat/completions。

现在自己试着用路由分组和正则匹配去规避这个问题,最后建出来一大堆分组。感觉有点太多太乱了。

Metadata

Metadata

Assignees

No one assigned

    Labels

    questionUsage or clarification question

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions