快速安装与集成
bash
manager:
$ pnpm add @deepseek-ai/dsh-provider-agy架构解析
「AGY Provider」是 DeepSeek Harness 官方推荐的高性能企业级连接桥梁。常规的 HTTPS 短连接在高频调用下会频繁产生 TLS 握手开销、TCP 慢启动延迟以及连接耗尽问题。
本驱动深度优化了底层网络传输层,采用 HTTP/2 复用管道与自适应连接池管理。支持与企业私有部署的 AGY 专用集群建立就近物理专线连接,在保持极低网络往返耗时(RTT)的同时,支持每秒数千次的高并发流式数据吞吐,为大规模智能体流水线提供澎湃算力支撑。
核心特性
01
HTTP/2 多路复用连接池:单 TCP 链路并发承载上百个会话流,彻底根除端口耗尽
02
原生专线极低网络抖动:相比普通公网入口平均降低 35%~50% 传输延迟
03
客户端自适应背压控制:防止模型高速吐字冲垮下游慢速工具处理线程
04
企业专属私有集群直连:支持一键切换至企业内部自建物理算力节点或专有云
核心机制
01
长连接池常驻预热
在应用启动时与 AGY 专属集群建立保活的长连接池,消除握手耗时。
02
零拷贝载荷打包
将上下文与工具描述直接序列化为紧凑二进制帧,减少 CPU 内存拷贝。
03
专线路由双向推流
通过企业专线通道实时双向传输 Prompt 与接收模型推理 Token 流。
04
自适应拥塞背压
根据客户端消费速率动态调节下行流速,杜绝高负载下客户端内存崩溃。
配置参数参考 (YAML / JSON)
| 参数名 | 类型 | 默认值 | 说明 |
|---|---|---|---|
| poolSize | number | 16 | 常驻保持的 HTTP/2 物理连接并发池大小 |
| connectTimeoutMs | number | 5000 | 专线连接握手超时时限(毫秒) |
| enableCompression | boolean | true | 是否开启 Gzip/Brotli 传输层无损压缩 |
相关推荐
查看更多插件为你推荐同类插件
providers4.5 K+
dsh-our-free-model 免费模型直连与网关插件
dsh-our-free-model 是一款为 DeepSeek Harness 打造的免费模型插件。免登录与 Key 即可直连 DeepSeek 与 Kimi 等前沿模型。内置真实 Token 思考预算控制、网络出口探测与兼容转发网关,全量数据落盘本地,实现零门槛极速调用。
查看详情
providers79 K+
OpenRouter 多模型实时网关与故障转移路由
为 DeepSeek Harness 接入数百款全球领先大模型的统一调度中继。提供动态延迟探测、价格最优自动路由、并发故障秒级平滑降级与全局统一计费管理能力。
查看详情
providers27 K+
DSH Dynamic Router 智能模型路由与成本均衡器
根据任务复杂度自适应分流推理请求的智能路由套件。将简单归类交由超高速小模型处理,复杂逻辑推理无缝分流至 DeepSeek-R1,在保障最高解答水准的同时大幅削减整体推理预算。
查看详情
