把文档(PDF、Word、TXT、Markdown 等)放到本地电脑,搭建一套检索增强问答系统;
大模型、向量模型、向量数据库全部本地运行,所有资料不外泄,适合私密资料、企业内部文档。
使用方法:
在 Web 界面的"知识问答"区域输入问题,系统会:
1. 自动从知识库中检索相关文档
2. 将检索结果作为上下文
3. 结合 DeepSeek 生成回答
4. 显示检索到的相关资料来源
RAG(Retrieval-Augmented Generation,检索增强生成)是一种将信息检索与大语言模型生成能力相结合的技术。它的核心思想是:在回答用户问题之前,先从知识库中检索相关的文档片段,然后将这些片段作为上下文提供给大语言模型,从而生成更准确、更有依据的回答。
RAG 系统通常包含以下几个核心步骤:
1. **文档导入**:将知识文档(如 .txt、.md、.pdf)导入系统
2. **文档分块**:将长文档切分成较小的文本块,便于检索和向量化
3. **向量化**:使用嵌入模型将每个文本块转换为向量表示
4. **向量存储**:将向量存储到向量数据库中(本项目使用 ChromaDB)
5. **语义检索**:当用户提问时,将问题向量化,在向量库中检索最相似的文本块
6. **生成回答**:将检索到的文本块作为上下文,结合大语言模型生成回答