## 问题
Agent 执行复杂任务时,所有步骤都用同一个大模型。但很多步骤其实很简单——比如格式化输出、提取参数——完全可以用更便宜的小模型完成。
如何在不牺牲质量的前提下降低成本?
## RSI-Router 的方案
RSI-Router(Evolving Subtask-Level LLM Routing)提出在子任务级别进行智能路由,为每个步骤动态选择最合适的模型。
### 核心思路
一个复杂任务可以拆解为多个子任务,每个子任务的难度不同:
`
用户请求:"分析这段代码并生成文档"
子任务拆解:
1. 读取代码 → 简单(提取信息)→ 小模型
2. 理解逻辑 → 复杂(需要推理)→ 大模型
3. 生成文档 → 简单(格式化输出)→ 小模型
4. 检查一致性 → 复杂(需要理解)→ 大模型
`
### 三个关键技术
**1. 子任务级路由**
不是整个任务路由到一个模型,而是每个子步骤单独决策。系统会分析每个步骤的性质:
- 信息提取、格式化 → 小模型
- 推理、分析、创造 → 大模型
**2. 演化式技能学习**
路由策略不是一成不变的。系统会从历史执行中学习:
- 哪些类型的步骤适合哪个模型
- 动态调整路由阈值
- 随着使用不断优化
**3. 成本感知优化**
在保证质量的前提下最小化成本:
- 建立成本-质量权衡模型
- 自动寻找最优平衡点
- 可以设置质量下限和成本上限
### 实验效果
- 成本降低 60-80%
- 性能损失小于 2%
- 延迟降低 30-50%
### 实际应用场景
**客服 Agent:**
- 理解用户问题 → 大模型
- 查询知识库 → 小模型
- 生成回复 → 根据复杂度选择
- 记录对话 → 小模型
**代码助手:**
- 理解需求 → 大模型
- 代码补全 → 大模型
- 格式化输出 → 小模型
- 生成文档 → 小模型
### 对 Holon 的启示
Holon 可以实现类似的路由机制:
- 识别任务中的简单/复杂步骤
- 自动分配给不同模型
- 显著降低成本,保持质量
这对于高频使用的 Agent 尤其重要,可以在不牺牲用户体验的前提下大幅降低运营成本。
## 论文信息
- 标题:RSI-Router: Evolving Subtask-Level LLM Routing and Skills for Cost-Efficient Agents
- arXiv:2609.34712
- 发表时间:2026 年 9 月
- 方向:模型路由、成本优化、Agent 系统