做 AI 应用开发最头疼的事之一项目里从 DeepSeek 切到通义千问整个调用链路都得重写。参数名不一样、返回格式不一样、流式 SSE 结构也不一样。有没有办法换个模型只改一行代码本文把几种主流的统一调用方案讲清楚。一、先看问题切换一个模型到底要改多少东西假设一个 Python 项目原来用 DeepSeek现在想试试通义千问的效果。你需要改# 之前DeepSeek importopenai clientopenai.OpenAI(api_keysk-deepseek-xxx,base_urlhttps://api.deepseek.com)responseclient.chat.completions.create(modeldeepseek-chat,messages[{role:user,content:你好}],temperature0.7,max_tokens4096,streamTrue)# 之后通义千问 # 1. base_url 换了 → https://dashscope.aliyuncs.com/compatible-mode/v1# 2. api_key 换了 → 阿里云的 AccessKey# 3. model 名换了 → qwen-plus# 4. 如果不用 compatible-mode请求格式完全不同# → POST /api/v1/services/aigc/text-generation/generation# → 参数名从 messages 变成 input.messages# → 返回格式也不一样要重写解析逻辑# 5. 流式 SSE 字段名变了# 6. token 计数字段名变了这还没算上认证方式不同Bearer Token vs API Key Secret vs 签名认证、错误处理差异、并发限制不同等隐性改动。换一个模型少则改几十行多则几百行。如果项目中用了 3 个模型光是今天试这个、明天试那个的胶水代码就占了开发时间的一大块。二、为什么每家 API 都不一样不是厂商故意为难开发者而是历史原因 各自演进的结果原因说明没有统一标准大模型 API 是 2022 年底才爆发的新领域不像 HTTP/REST 有几十年沉淀的规范OpenAI 先发优势ChatGPT 火了之后OpenAI 的 API 格式成了事实标准但不是所有厂商都愿意完全兼容阿里/百度/字节各自有云平台通义千问走阿里云 DashScope 体系文心一言走百度智能云体系豆包走火山引擎体系——它们要兼容的是自家的云平台规范不是 OpenAI能力差异导致参数不同有的模型支持 function calling有的不支持有的支持 vision有的不支持。参数字段自然不同但从 2024 年下半年开始趋势已经在收敛——越来越多的厂商提供了 OpenAI 兼容模式。OpenAI 的/v1/chat/completions格式正在成为事实上的行业标准。三、三种统一调用方案方案一自己写适配层Adapter 模式思路每种厂商写一个 Adapter把它的 API 翻译成统一的内部格式。你的业务代码 │ ▼ ┌────────────────┐ │ 统一调用接口 │ ← 你定义的chat(messages, model, options) └───────┬────────┘ │ ┌────┼────┬────┐ ▼ ▼ ▼ ▼ DeepSeek 千问 豆包 GPT Adapter Adapter Adapter Adapter# 统一接口classUnifiedLLM:defchat(self,messages,model,**kwargs):adapterself.get_adapter(model)returnadapter.chat(messages,**kwargs)# DeepSeek Adapter本身就是 OpenAI 格式最省事classDeepSeekAdapter:defchat(self,messages,**kwargs):returnself.client.chat.completions.create(modelself.model_name,messagesmessages,**kwargs)# 通义千问 Adapter非 compatible-modeclassQwenAdapter:defchat(self,messages,**kwargs):# 把 OpenAI 格式的 messages 转成 DashScope 格式dashscope_messages[{role:m[role],content:m[content]}forminmessages]returnself._call_dashscope(dashscope_messages,**kwargs)优点完全自主可控想怎么封装就怎么封装。缺点每加一个新模型写一个 Adapter调试一轮1-3 天上游 API 变更比如豆包改了参数名你需要同步更新 Adapter流式 SSE 解析每家的data:行结构不同Adapter 里要分别处理function calling、vision、audio 等高级特性的适配工作量更大5 个模型 5 个 Adapter 长期维护成本适合只用 1-2 个模型且团队有专门负责基础设施的人。方案二用 LiteLLM 等开源统一 SDKLiteLLM 是 Python 生态里比较流行的开源方案用 OpenAI 的调用格式自动路由到 100 模型fromlitellmimportcompletion# 换模型就是换 model 参数responsecompletion(modeldeepseek/deepseek-chat,# DeepSeekmessages[{role:user,content:你好}])responsecompletion(modelqwen/qwen-plus,# 通义千问messages[{role:user,content:你好}])responsecompletion(modeldoubao/doubao-pro-32k,# 豆包messages[{role:user,content:你好}])优点开源免费社区活跃支持的模型多。缺点只支持 PythonNode.js / Java / Go 用不了部分国内模型的 API 更新可能不及时毕竟是海外项目需要自己管理多套 API Key没有计费、限流、监控等企业级功能方案三使用 AI API 聚合平台推荐国内已有成熟的 AI API 中转平台如星枢无极把所有模型统一成 OpenAI 兼容格式。核心逻辑是平台帮你维护适配层你只对接一个标准接口任何模型切换都只改model参数。fromopenaiimportOpenAI clientOpenAI(api_key平台分配的 Key,base_urlhttps://api.591ll.com# 统一入口)# 用 DeepSeek 做推理responseclient.chat.completions.create(modeldeepseek-v4-pro,messages[{role:user,content:用 Python 写一个快速排序}])# 同一个 Key、同一个 base_url换通义千问做中文创作responseclient.chat.completions.create(modelqwen3,messages[{role:user,content:写一篇产品发布公告}])# 再换豆包做对话responseclient.chat.completions.create(modeldoubao-pro,messages[{role:user,content:你好帮我分析一下这段代码}])三种方案对比维度自写 AdapterLiteLLMAI API 聚合平台开发量大每个模型 1-3 天小pip install零注册即用维护成本高厂商 API 变更时你自己改中等社区更新无平台维护语言支持你自己写的仅 Python所有OpenAI SDK 兼容多 Key 管理自己管自己管一个 Key 搞定成本监控无无统一后台并发/限流自己控制看上游限制平台级流控适合场景只有 1-2 个模型个人 / 小团队 Python 项目企业 / 生产环境四、流式响应SSE的统一处理流式场景最容易踩坑——每家的 SSE 数据行格式不一样# DeepSeekOpenAI 格式data:{id:xxx,choices:[{delta:{content:你好}}]}# 通义千问非 compatible-modedata:{output:{text:你好},usage:{total_tokens:1}}# 豆包data:{choices:[{delta:{content:你好}}]}# 格式接近 OpenAI 但不完全如果用聚合平台这些差异全在平台侧处理掉了你的流式代码只写一次所有模型通用streamclient.chat.completions.create(model任意模型,messages[{role:user,content:你好}],streamTrue)# 这段代码对所有模型都生效forchunkinstream:ifchunk.choices[0].delta.content:print(chunk.choices[0].delta.content,end)五、总结多模型切换保持格式一致本质上就一个思路在调用链上加一层抽象。你现在的情况推荐的方案只用 1 个模型直连不需要适配用 2 个模型都是 OpenAI 兼容同一套代码只改 model 和 base_url2-3 个模型格式不统一用聚合平台注册即用维护成本为零5 模型有基础架构团队月调用量巨大自建 API 网关 适配层个人开发者Python 项目LiteLLM 或聚合平台都行最省事的做法是直接找个已经把所有模型统一成 OpenAI 格式的平台API Key 和 base_url 一换代码完全不用动。星枢无极目前支持 40 国产大模型全部兼容 OpenAI SDK文本、图片、视频一个 Key 搞定对多模型切换场景来说是最直接的解决方案。本文基于 2026 年 6 月国内大模型 API 生态撰写。各厂商 API 格式以官方最新文档为准。
