被网友催更的RAG避坑指南

前阵子直播总有人刷弹幕问RAG开发问题，我一拍大腿决定写个避坑实录。结果tm刚写两行就卡壳了——这玩意儿说起来简单，实操全是暗礁！

刚开始我以为把文档塞进系统就完事了。结果哐哐砸进去200份PDF，系统直接卡成PPT。翻着白眼查日志才发现，有个38页的产品手册里全是高清产品图，光这破文件就吃掉5G内存。连夜重写清洗脚本：

• 把图片全抽出来单独存
• 表格内容转纯文字
• 超过10页的文件强制拆分

折腾到凌晨三点才把数据压缩到500M，电脑风扇总算不嚎了。

测试追问功能时闹大笑话：用户问"你们运费多少"，我系统答"江浙沪6元"。用户接着问"东北"，系统突然开始背诵《林海雪原》选段！翻着白眼查代码才明白，傻了唧的检索模块把"东北"和"雪"关联起来了。气得我当场重写上下文匹配规则：

• 给每个问题打上会话ID烙印
• 前三次对话必须锁死原始问题
• 地理名词自动触发运费表检索

现在用户就算问"西伯利亚包邮吗"，系统也只会冷酷回答"请查看国际运费表"。

以为万事俱备上线内测，结果前五个用户全是新注册的。系统查不到历史记录就直接摆烂："我不理解你的问题"。连夜抱佛脚改了策略：

• 新用户首问直接甩帮助文档链接
• 默认加载三个高频问题答案
• 检索失败自动触发人工客服入口

现在哪怕用户发个句号过来，系统都能甩出个《新手指南》保底。

血泪换来的三条真经

熬了三个通宵总算搞定后，我缩在电脑前猛灌红牛总结出：

1. 别迷信大模型：再聪明的AI遇到脏数据照样智障
2. 用户比你想的皮：测试时压根没想到有人会问"能和我谈恋爱吗"
3. 备胎方案不能少：检索失败时那个卖萌道歉模板救了80%差评

说个大实话：那些吹RAG三天上手的教程全是扯犊子！光调教追问功能就耗掉我六根白头发，现在看见"上下文"仨字都条件反射想掀桌。