快速安装与集成
bash
manager:
$ pnpm add @openrouter/dsh-live-gateway架构解析
「OpenRouter Live」保障智能体后端推理的高可用性与弹性调度。单一模型供应商在业务高峰期难免出现速率超限(429 Too Many Requests)、机房网络抖动或临时性服务降级。
本插件通过聚合 OpenRouter 统一网关,允许开发者在 Cordis 配置中定义灵活的备选模型降级策略(Fallback Cascade)。主选 DeepSeek-V3 出现波动时,网关可在毫秒级自动重试并降级至同类备用模型,全程无需中断正在进行的长程自治任务,确保关键业务 99.99% 的高可用运行。
核心特性
01
单 API Key 畅联数百款模型:统一凭证即可调度 DeepSeek、Claude、Llama 与 GPT
02
秒级自动故障转移路由:主通道发生网络波动或超限时,自动无损切换备用通道
03
智能成本优先调度模式:根据任务难易度自动分配轻量廉价模型与重型推理模型
04
实时端点延迟与可用率透视:控制台直观呈现各供应商最新首字耗时与吞吐量
核心机制
01
请求路由与计费核算
拦截模型调用请求,根据当前预算与任务复杂度匹配最优目标模型。
02
统一协议转换
将标准 Cordis 请求参数透明转译为 OpenRouter 标准 API Payload。
03
动态延迟心跳探测
实时探测各可用区端点首字延迟(TTFT),自动将流量分流至最优节点。
04
自动故障降级重试
当遇到超时或限流错误时,无感切换至配置的下一顺位备选模型重试。
配置参数参考 (YAML / JSON)
| 参数名 | 类型 | 默认值 | 说明 |
|---|---|---|---|
| primaryModel | string | deepseek/deepseek-chat | 主选调用的第一优先级模型标识符 |
| fallbackModels | string | deepseek/deepseek-r1,anthropic/claude-3.5-sonnet | 故障时按顺序降级的备选模型列表 |
| maxRetryCount | number | 3 | 触发网络异常时自动重试与切换的最大次数 |
相关推荐
查看更多插件为你推荐同类插件
providers4.5 K+
dsh-our-free-model 免费模型直连与网关插件
dsh-our-free-model 是一款为 DeepSeek Harness 打造的免费模型插件。免登录与 Key 即可直连 DeepSeek 与 Kimi 等前沿模型。内置真实 Token 思考预算控制、网络出口探测与兼容转发网关,全量数据落盘本地,实现零门槛极速调用。
查看详情
providers134 K+
AGY Cloud 专线推理驱动与极速连接池
深度优化的官方 AGY 专线推理连接驱动。提供 HTTP/2 多路复用长连接池、零解析开销二进制流传输协议与私有专属集群低延迟直连,专为极限吞吐与大规模生产设计。
查看详情
providers27 K+
DSH Dynamic Router 智能模型路由与成本均衡器
根据任务复杂度自适应分流推理请求的智能路由套件。将简单归类交由超高速小模型处理,复杂逻辑推理无缝分流至 DeepSeek-R1,在保障最高解答水准的同时大幅削减整体推理预算。
查看详情
