法律场景为什么必须上 RAG
通用大模型容易编造法条与判例,而法律工作恰恰要求准确、可追溯、可辩护。检索增强生成(RAG)把答案锚定在权威语料上,只引用真实来源,从根本上抑制幻觉。据公开资料,法治大模型普遍采用检索增强生成(RAG)加向量知识库架构,实现专业法律问答、法规推荐与类案参考。
方案:双路召回加重排序
关键词(BM25)保精确命中条号与专名,向量检索保语义召回,两路融合后再重排,兼顾准确率与召回率。下面给出可复现步骤。
Step 1:环境准备
pip install langchain chromadb bm25s sentence-transformersStep 2:构建法条与案例双索引
from langchain_community.document_loaders import TextLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.vectorstores import Chroma
import bm25s
docs = TextLoader('legal_corpus.txt').load()
split = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)
chunks = split.split_documents(docs)
texts = [c.page_content for c in chunks]
# 向量索引:语义检索
emb = HuggingFaceEmbeddings(model_name='BAAI/bge-large-zh-v1.5')
vs = Chroma.from_texts(texts, emb, persist_directory='./law_vec')
# 关键词索引:精确命中条号
bm25 = bm25s.BM25()
bm25.index(bm25s.tokenize(texts))Step 3:混合召回并强制引用
query = '违约责任损失赔偿范围如何认定'
vec_hits = vs.similarity_search(query, k=10)
bm25_hits = bm25.retrieve(bm25s.tokenize(query), k=10)
# 融合两路结果,交给本地模型生成带引用的回答
lines = [d.page_content for d in vec_hits]
context = chr(10).join(lines)
prompt = '仅依据以下法条与案例作答,并标注出处:' + context + '问题:' + query
# 调用本地 Ollama 模型生成,输出须包含引用来源Step 4:工程要点
① 语料按条款层级语义切分,并做版本管理与差异追踪;
② 输出强制要求引用法条与案号,无来源的结论一律不输出;
③ 涉及未公开案件的数据全部留在本地,不外传第三方;
④ 最终法律意见须由执业律师复核,AI 仅作初筛。
说明:本文为技术方案梳理,不构成法律意见;具体合规以主管部门与专业律师为准。
参考来源
本文引用的公开资料:法治大模型建设与应用案例 - 法安网;How We Use RAG to Navigate 17,000 Plus Legal Decisions - CompFox。