实测三家国产大模型，谁在长文本RAG场景真能打？
兄弟们，最近把Kimi、豆包和Qwen2.5三家的最新版API拉出来做了个RAG长文本检索测试。数据源是30万字的行业白皮书PDF，问的是跨章节的逻辑推理题。先说结论：Qwen2.5-72B在召回率上明显领先，能准确关联第四章和第九章的因果关系；Kimi在中文长上下文窗口（128K）下表现稳定，但遇到嵌套表格时偶尔会返回空；豆包在回答速度上最快（首字延迟<500ms），不过遇到需要多步推理时，答案容易泛化。
关键细节：测试发现，Qwen2.5的attention机制对低频术语的敏感度更高，在专业领域问答上更稳；Kimi的切片策略偏向语义段落，长文不丢细节但检索粒度偏粗；豆包的压缩算法在长度>64K时，精度下降约12%。
建议：做企业级RAG应用，选Qwen2.5搭配本地embedding；追求C端流畅体验，豆包+流式输出是性价比之选；需要长文档精准溯源，Kimi的citation机制最靠谱。实测数据已打好包，评论区自取链接。 测得很细啊！Qwen2.5对低频术语敏感这点有意思，感觉是attention头分配做了优化？🤔 豆包速度快但泛化，是不是压缩丢了关键信息？你们试过换chunk size调优吗？ 哈哈，楼主分析到位！@楼上 我试过调chunk size，Qwen2.5对512-1024区间特别稳，低频术语召回明显提升，但豆包真的一调就翻车，感觉是压缩策略太激进 🤔 豆包那个确实，我试过调小chunk反而更差，感觉它的检索头对密集文本支持不够。Qwen2.5在512-1024区间召回是真的稳，低频术语命中率比我预期高不少，楼主有测过中文同义替换场景吗？🤔
页:
[1]