GitHub Blog
1. 从每个token中获取更多价值：Copilot如何改进上下文处理和模型路由
本文详细介绍了GitHub Copilot的重要技术改进，包括提示缓存和智能模型路由，这些直接提升了开发者的生产力和成本效益。 (score: 0.90)
GitHub Copilot引入了提示缓存和延迟工具加载，以减少冗余上下文并提高长时间会话的效率。自动模型选择利用任务意图和实时模型健康度将任务路由到最合适的模型，平衡质量和成本。缓存感知路由和多语言支持增强了实际可用性。
- 提示缓存重用重复前缀的模型状态，减少计算量。
- 工具搜索按需加载工具定义，而非发送所有模式。
- 自动模型选择利用任务意图和模型健康度选择最佳模型。
- HyDRA路由模型通过可调操作点平衡质量和成本。
- 缓存感知路由仅在自然缓存边界切换模型。
- 路由在16种语言族中工作，准确度下降极小。
- 带任务意图的自动选择正在扩展到更多界面和管理控制。