4ROUTER / 路由
路由引擎内部
沿着一次请求,理解候选选择与分发。
工程笔记

从候选集合开始
在 4Router 的网关中,路由引擎负责从模型池中选择候选。模型描述、任务上下文与成本约束参与决策。候选评分用于解释选择过程,不能直接视为本次回答质量的保证。
决策与执行分开记录
选择了哪个模型,与调用该模型是否成功,是两个不同的问题。排查一次请求时,需要同时看到候选、选择结果和实际尝试。引擎页展示已有的录制决策,评测页说明用于比较的模型池、样本与测量口径。
让引擎保持平台内的边界
接入协议、账户、计费与审计属于平台能力,路由是其中一个环节。调用方可以根据接口支持的方式使用模型选择,或指定模型。集成时还应确认错误处理、流式结束和用量记录,避免只验证成功响应。
实施前需要确认
- 模型池与约束
- 候选和执行记录
- 接口错误与流式结束


