做精益求精的 RAG 工程师
「正如生活中的进步需要量化检验,优秀的 RAG 工程师应该用数据衡量、专注重点、系统改进,而不是盲目调整、面面俱到」
1. 重视测量和数据
- 强调要像重视生活一样重视衡量指标
- 建议优先关注召回率(recall),而不是一味调整提示词
2. 主动预防胜于被动应对
- 提前生成合成数据进行测试
- 不要等到系统出现问题才采取行动
3. 分而治之的方法
- 将用户查询分类处理,而不是试图一次性解决所有问题
- 单独测试每个组件,不要只关注端到端的表现
4. 专业化和针对性
- 建立专门的索引,而不是依赖单一的大型向量数据库
- 主动收集用户反馈,不要认为没有反馈就是好结果
5. 务实的工作态度
- 对无法做好的工作说"不"
- 宁可在核心功能上达到90%的召回率,也不要追求覆盖所有功能但效果平庸
6. 有的放矢
- 专注改进系统的关键限制因素
- 避免只做容易改进的部分