为什么选 RAG 而非纯微调
据公开实践,企业在合规场景引入大模型,核心风险是幻觉——生成看似合理但法律依据错误的内容。检索增强生成(RAG)在生成回答前先从知识库检索相关条文,作为上下文输入模型,使输出更准、更可溯源。民生银行即组织法规专家梳理风险指引,构建可供 AI 实时调用的专业底层数据库,再以大模型提供秒级法规问答。
可复现搭建步骤
① 准备语料:把法律法规、监管政策、内部制度整理为纯文本片段,按章节切分;
② 部署本地嵌入与向量库:用开源模型生成向量,存入 Chroma,确保敏感数据不出企业边界;
③ 接大模型:用本地或可信大模型做问答,检索结果作为上下文,输出附带依据条文;
④ 强制人工复核:在关键执业与合规环节记录人工审核操作,确保可追溯。
参考代码:本地法规问答骨架
from langchain_community.vectorstores import Chroma
from langchain_community.embeddings import HuggingFaceEmbeddings
docs = ['安全生产法 第X条 内容', '危化品条例 第Y条 内容']
emb = HuggingFaceEmbeddings(model_name='BAAI/bge-small-zh-v1.5')
vs = Chroma.from_texts(docs, emb, persist_directory='./legal_db')
retriever = vs.as_retriever(search_kwargs={'k': 4})
# 将 retriever 接入本地大模型,要求回答引用检索片段编号
风险与边界
说明:RAG 降低幻觉但无法根除,高风险内容须引入外部双重审查;模型选型、数据治理与安全评估应参照主管部门发布的大模型部署应用指引,落实辅助型定位。
参考来源
AI 驱动智慧法规建设,民生银行打造数智化法规新生态 - 新华网;AI 赋能合规管理:落地路径、应用场景与法律保障 - 德恒律师事务所;法律服务领域大模型部署应用指引 - 上海市司法局(法治网报道)。