SwiftRelay

← All sprint notes

混元与小米模型接入中文应用:六步实战

First lapsZH

为中文应用选择 Hunyuan 4 和 MiMo V2.6 Pro,不应从“谁更强”开始,而应从一条可以验收的业务流程开始。下面以售后知识库助手为例,把接入拆成六步:先确定版本与任务,再统一调用方式,最后用同一批中文问题决定模型分工。

一、核对混元与小米模型的实际调用版本

先建立模型配置表,分别记录展示名称、实际调用标识、接入渠道和核对日期。腾讯官方发布材料将对应的新一代混元模型标为预览版本,因此不要仅凭产品展示名称推断接口标识,也不要把预览版本当作已经固定的生产依赖。([tencent.com](https://www.tencent.com/zh-cn/tencent-releases-and-open-sources-tencent-hy4-preview/?utm_source=openai))

小米官方文档也明确区分产品名称与接口调用名称。部署前应从所用渠道复制准确标识,完成一次最小请求,并保存返回的模型信息。通过中转接入时,还要确认该渠道确实提供目标版本;不要自行猜测名称映射。([mimo.mi.com](https://mimo.mi.com/docs/zh-CN/news/latest/v2-6?utm_source=openai))

二、为中文售后助手准备可验收的问题集

先选一个边界清晰的任务,例如根据售后条款回答退换货问题。准备一批经过脱敏的真实提问,为每条问题附上适用条款、必须回答的要点,以及不得自行补充的信息。两套模型使用相同材料,避免把知识库差异误判为模型能力差异。

  • 口语表达:加入“用了两天不想要了”等省略条件的问法,检查是否先追问必要信息。
  • 中文细节:覆盖日期、金额、否定词、简称和错别字,检查是否改变原意。
  • 证据不足:故意提供缺失或冲突的条款,检查是否明确说明无法确认。

三、用统一接入层隔离中文业务与模型配置

把鉴权、请求发送、错误处理和用量记录放进服务端适配层,业务页面只传递问题与必要上下文。模型标识保留为可编辑配置,不要散落在多个页面中。这样测试另一套模型时,不必同时改动售后流程和展示逻辑。

如果希望通过统一入口管理多种模型,可以考虑 SwiftRelay,但先核对目标模型是否在当前可用列表中。使用兼容客户端时,按接入说明填写带版本路径的地址;使用指定命令行工具时,则按要求填写裸主机地址。密钥留在服务端,不放进浏览器代码。

四、为中文回答写清证据与输出约束

先写一份两套模型共用的基础提示词,再做模型专属调整。不要一开始就为某套模型堆叠额外示例,否则无法判断差异来自模型还是提示词。可以从下面这段约束开始:

你是售后知识库助手。仅依据提供的条款回答,全程使用简体中文。先说明处理建议,再列出依据和适用条件。缺少订单日期、商品类别等必要信息时,先追问;材料没有说明时,明确表示无法确认。不得承诺退款、虚构条款或擅自执行操作。

把知识库内容与系统要求分开传入,并将用户输入视为待处理材料。对于“忽略规则”“直接批准退款”等请求,加入专门的验收样本,检查回答是否仍遵守业务边界。

五、用同题盲评决定两套模型如何分工

固定问题、知识库版本和输出要求,分别生成结果,再隐藏模型名称交给业务人员评审。逐条记录事实是否准确、条件是否完整、中文是否自然,以及结果能否直接用于当前页面。保留失败原文,不要只记录一句“效果不好”。

不要预设混元负责客服、小米负责推理。先按任务类型归类错误,再决定默认路由。若某套模型在复杂条款核对中更符合验收标准,可先用于这一类请求;另一套模型是否承担日常问答,也由同样的测试决定。

六、为中文应用补齐预算与上线保护

上线前,为每次请求记录模型、任务类别、输入输出用量、实际费用和验收结果。比较完成一条合格回答的总成本,而不只比较单次请求费用;失败后的重试和人工修改也应纳入内部核算。先小范围启用,保留切回原有流程的开关。

同时设置输出长度、重试次数与预算上限。涉及退款、资料修改等操作时,让模型提出建议,由业务系统验证权限并确认执行。可以注册 SwiftRelay,使用新账户赠送的小额额度先跑完这套验收流程,再依据按词元计费的实际账单决定是否扩大使用。

Keep reading

Back for another lap?Log in