登录社区云,与社区用户共同成长
邀请您加入社区
本文将以 OPEA 中基于 RAG 技术的 ChatQnA 应用为例,介绍 OPEA 性能分析的方法论体系、完整的评估流程以及性能观测方案,旨在为 OPEA 的开发者提供参考和帮助。
你是否曾经面临这样的困境:部门刚刚决定采用大语言模型解决业务痛点,但技术团队却陷入了""的激烈争论中?一边是成本控制派,坚持RAG轻量级方案;另一边是性能至上派,认为只有微调才能满足业务需求。让我们跳出技术视角,用真实业务场景来理解这两种方案。
大语言模型(LLM)能够执行各种自然语言任务,例如文本生成、语言翻译、文本摘要、问答等。然而,使用 LLM 的一个显著局限是 LLM 幻觉。