![开场图](https://developer.qcloudimg.com/http-save/yehe-9261324/8424116f5fe01c26a3baeaae9c57fd29.png)

## 先明确 RAG 解决什么问题

RAG（Retrieval-Augmented Generation）的常见目标是：让模型在回答时参考外部资料，而不是只依赖参数记忆。它通常包含两步：先从资料库中检索相关片段，再把片段放进提示词交给生成模型。

本文只实现前半段的最小闭环：把几段文本切分、向量化、按相似度检索，并拼装成可交给任意生成模型的上下文。生成模型调用不在本文范围内，因为不同服务接口差异较大；示例不依赖外部网络，但需要本地安装 `numpy`。

需要先说明边界：检索到相关片段不等于回答一定正确。切分粒度、向量模型、相似度阈值和提示词都会影响结果。下面的示例是教学用最小实践，不是生产级方案。

## 最小依赖与数据准备

示例使用 Python 3.10+ 和 NumPy。真实项目通常会用嵌入模型（embedding model）把文本变成向量；为了不依赖外部服务，这里用一个简化的“词袋哈希向量”代替。它只按字符片段计数，不理解语义，因此检索效果有限，但足以演示流程。

```python
import hashlib
import numpy as np

def tokenize(text: str, n: int = 3) -> list[str]:
    text = "".join(text.split()).lower()
    return [text[i:i+n] for i in range(max(0, len(text) - n + 1))]

def embed(text: str, dim: int = 256) -> np.ndarray:
    vec = np.zeros(dim, dtype=np.float32)
    for tok in tokenize(text):
        h = int(hashlib.md5(tok.encode("utf-8")).hexdigest(), 16)
        vec[h % dim] += 1.0
    norm = np.linalg.norm(vec)
    return vec / norm if norm else vec
```

这里把文本切成 3 字符片段，对每个片段做哈希，累加到固定维度向量，再归一化。字符片段对中文较友好，但没有词义。换成真实嵌入模型时，只需替换 `embed` 函数，保持返回一维归一化向量即可。

## 文档切分：先保证片段可独立理解

RAG 的检索单位通常是片段，而不是整篇文档。切分太大会混入无关内容，太小会丢失上下文。示例按段落切分，并给每个片段保留来源标识。

```python
docs = {
    "文档A": "RAG 先从资料库检索相关片段，再把片段放入提示词。检索质量取决于切分和向量表示。",
    "文档B": "向量相似度常用余弦相似度。归一化后的向量，点积等价于余弦相似度。",
    "文档C": "生成模型可能忽略上下文或产生幻觉，因此需要评估检索命中率和答案忠实度。",
}

chunks = []
for source, text in docs.items():
    for i, para in enumerate(text.split("。")):
        para = para.strip()
        if para:
            chunks.append({"source": source, "text": para, "id": f"{source}-{i}"})
```

每个片段保留 `source` 和 `id`，方便在答案中标注引用，也方便调试时定位问题。生产环境还应处理标题、页码、时间等元数据；这里从简。

## 建立索引并检索

把片段全部向量化，得到矩阵。查询时也向量化，用点积排序。由于向量已归一化，点积越大表示方向越接近。

```python
chunk_vecs = np.stack([embed(c["text"]) for c in chunks])

def search(query: str, top_k: int = 2):
    q = embed(query)
    scores = chunk_vecs @ q
    order = np.argsort(scores)[::-1][:top_k]
    return [(chunks[i], float(scores[i])) for i in order]

for chunk, score in search("余弦相似度怎么算"):
    print(round(score, 3), chunk["source"], chunk["text"])
```

运行后应能优先命中文档B。不过，这个哈希向量对“余弦相似度”和“向量相似度”的匹配依靠字符重叠，换一种说法就可能失效。真实嵌入模型能缓解同义表达问题，但仍不能保证语义完全对齐。

## 拼装上下文：把检索结果变成提示词

检索结果不能直接丢给模型，需要组织成清晰上下文。一个简单做法是编号列出片段，并明确要求模型只依据给定资料回答，资料不足时说明。

```python
def build_prompt(query: str, top_k: int = 2) -> str:
    hits = search(query, top_k)
    context = "\n".join(
        f"[{i+1}] 来源：{c['source']}\n{c['text']}"
        for i, (c, _) in enumerate(hits)
    )
    return f"""请只根据以下资料回答问题。资料不足时直接说明，不要编造。

资料：
{context}

问题：{query}
回答："""

print(build_prompt("RAG 的检索质量受什么影响？"))
```

这段提示词只是起点。实际系统还要考虑：是否要求引用编号、如何处理多个片段冲突、如何限制上下文长度、是否对低分检索结果直接拒答。示例没有设置分数阈值，因此无论相关与否都会返回 `top_k` 条，这是需要注意的缺陷。

## 评估与常见边界

最小闭环跑通后，至少应检查两类指标：检索侧看相关片段是否出现在前 K 条，生成侧看答案是否忠实于片段。没有评估，RAG 很容易变成“看起来能查，实际不可靠”。

常见问题包括：

- 切分不当：片段跨主题或过短，导致检索噪声大。
- 向量不匹配：查询和文档使用不同嵌入模型，或未归一化，相似度不可比。
- 只做一次检索：复杂问题可能需要多轮检索或查询改写，但会增加复杂度。
- 上下文过长：塞入太多片段会稀释关键信息，也可能超出模型窗口。
- 缺少拒答：低相关片段被强行交给模型，容易诱导错误回答。

另外，本文示例的哈希向量只适合演示管线，不适合作为真实语义检索方案。替换为正式嵌入模型后，仍需用领域数据重新评估 top_k、切分大小和阈值。

## 下一步怎么扩展

在保持最小闭环的前提下，可以按顺序做三件事：第一，把 `embed` 换成真实嵌入模型，并缓存文档向量；第二，加入元数据过滤，例如只检索某个来源或时间段；第三，建立小规模评测集，记录查询、期望片段和答案是否忠实。完成这些之后，再考虑重排序、混合检索或查询改写。

RAG 的工程重点不在“把向量存进去”，而在切分、检索、提示词和评估之间的配合。先让最小链路可运行、可观察，再逐步替换组件，比一开始堆叠复杂框架更容易定位问题。

![结束图](https://developer.qcloudimg.com/http-save/yehe-9261324/1d7646e1710acf9cb11ac008e7131844.png)

RAG（Retrieval-Augmented Generation）的常见目标是：让模型在回答时参考外部资料，而不是只依赖参数记忆。它通常包含两步：先从资料库中检索相关片段，再把片段放进提示词交给生成模型。

RAG 的 Python 快速入门：从最小检索到可运行问答

用一个可离线运行的 Python 示例，说明 RAG 的切分、向量化、检索与拼装上下文的原理和边界。

架构师

编程语言

RAG最小闭环教程：从文本切分、哈希向量化到相似度检索，并拼装可复用提示词。不依赖外部服务，仅用NumPy演示流程。重点解析检索质量受切分粒度、向量表示、阈值及上下文长度影响，指出哈希向量局限，并给出评估指标与扩展路径。适合理解RAG基础管线。

代码解释

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

RAG 的 Python 快速入门：从最小检索到可运行问答-腾讯云开发者社区-腾讯云

RAG 的 Python 快速入门：从最小检索到可运行问答

RAG 的 Python 快速入门：从最小检索到可运行问答

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐