快速安装与集成
bash
manager:
$ pnpm add @yjh051108/dsh-routing-suite架构解析
「DSH Routing Suite」帮助工程团队在模型效果与调用成本之间找到最佳平衡点。如果不管任务难易,对所有请求一律调用最高昂的顶级大模型,不仅会产生巨额账单,还会因为长思考时间显著劣化用户体验。
本插件通过在发信前执行轻量级的语义复杂度评估与意图分类,动态决定分流路径。对于日常打招呼、JSON 格式重排或简单的布尔判断,路由器会调度超轻量的小模型秒级交付;而一旦检测到代码重构、数学论证或多步骤逻辑规划,流量将瞬时无感升级至旗舰模型,实现算力资源的最优配置。
核心特性
01
意图与难度双重评估:基于微型嵌入模型毫秒级完成任务复杂度打分
02
自动化降级与平滑升级:当小模型解答不达标时,无缝切换至顶级模型重新生成
03
精细化成本预算控制:支持设定每日或单会话最高资金限额,防止超支
04
可视化流量分流报表:实时展示不同难度任务的模型分配比例与节约费用数据
核心机制
01
请求复杂度打分
分析用户输入、提示词长度与工具需求,综合计算任务难度系数。
02
动态规则匹配
根据预设的成本预算、延迟要求与技术栈标签,匹配目标模型层级。
03
上下文重构转发
根据目标模型的特定参数偏好调整温度与最大 Token 上限并分发请求。
04
质量自检与重试
若小模型输出未通过格式验证或置信度偏低,自动透明升级重试。
配置参数参考 (YAML / JSON)
| 参数名 | 类型 | 默认值 | 说明 |
|---|---|---|---|
| budgetMode | string | balanced | 路由调度模式 (performance / balanced / economy) |
| complexityThreshold | number | 0.65 | 触发升级至顶级推理模型的复杂度临界阈值 |
| lightweightModel | string | deepseek-chat-fast | 用于处理低复杂度任务的轻量模型名称 |
相关推荐
查看更多插件为你推荐同类插件
providers4.5 K+
dsh-our-free-model 免费模型直连与网关插件
dsh-our-free-model 是一款为 DeepSeek Harness 打造的免费模型插件。免登录与 Key 即可直连 DeepSeek 与 Kimi 等前沿模型。内置真实 Token 思考预算控制、网络出口探测与兼容转发网关,全量数据落盘本地,实现零门槛极速调用。
查看详情
providers79 K+
OpenRouter 多模型实时网关与故障转移路由
为 DeepSeek Harness 接入数百款全球领先大模型的统一调度中继。提供动态延迟探测、价格最优自动路由、并发故障秒级平滑降级与全局统一计费管理能力。
查看详情
providers134 K+
AGY Cloud 专线推理驱动与极速连接池
深度优化的官方 AGY 专线推理连接驱动。提供 HTTP/2 多路复用长连接池、零解析开销二进制流传输协议与私有专属集群低延迟直连,专为极限吞吐与大规模生产设计。
查看详情
