Skip to content

Latest commit

 

History

History
27 lines (26 loc) · 2.02 KB

第三节笔记.md

File metadata and controls

27 lines (26 loc) · 2.02 KB

LLM局限性

  • 知识时效性受限:如何让LLM能够获取最新的知识
  • 专业能力有限:如何打造垂域大模型
  • 定制化成本高:如何打造个人专属的LLM应用

模型改进

image

RAG

  • 检索增强生成技术(Retrieval-Augmented Generation),通过在语言模型生成答案之前,先从广泛的文档数据库中检索相关信息,然后利用这些信息来引导生成过程,极大地提升了内容的准确性和相关性。
  • RAG 有效地缓解了幻觉问题,提高了知识更新的速度,并增强了内容生成的可追溯性,使得大型语言模型在实际应用中变得更加实用和可信。
  • 主要包括包括三个基本步骤:
    • 索引 — 将文档库分割成较短的 Chunk,并通过编码器构建向量索引。
    • 检索 — 根据问题和 chunks 的相似度检索相关文档片段。
    • 生成 — 以检索到的上下文为条件,生成问题的回答。 image

基于lang chain搭建RAG应用

image

构建向量数据库

image

搭建知识库助手

image

构造检索问答链

image

RAG方案优化建议

image