为什么法律 AI 需要一道失败闸门
据公开报道,2023 年以来多起法庭文书因引用 AI 编造的判例受到制裁,行业竞争点正从“写得好不好”转向“能不能证明它没编”。对律所与企业法务而言,最稳妥的工程做法是在终稿前加一道机器门禁:凡 AI 生成文本中带引号的法条或判例原文,必须与本地权威语料逐字或近义匹配,否则标红退回。
第一步:抽取引号内的引用片段
用正则把 AI 输出中成对的引号内容抓出来,这些往往是它声称引用的法条原文:
import re
draft = open('draft.txt', encoding='utf-8').read()
quoted = re.findall(r'“(.+?)”', draft)
print('检出的引用片段:', len(quoted))第二步:加载本地权威法规语料
将现行有效的法规、司法解释文本按条款切分为句子列表 corpus,作为比对基准。
corpus = []
for path in ['law_corpus/law1.txt', 'law_corpus/law2.txt']:
with open(path, encoding='utf-8') as f:
for line in f:
line = line.strip()
if len(line) > 8:
corpus.append(line)第三步:模糊匹配与相似度判定
对每条引用片段,与语料做序列相似度匹配,低于阈值的判为疑似编造:
from difflib import SequenceMatcher
def best_ratio(q):
return max((SequenceMatcher(None, q, c).ratio() for c in corpus), default=0.0)
for q in quoted:
r = best_ratio(q)
flag = '疑似编造' if r < 0.85 else '通过'
print('[%s] 相似度=%.2f %s' % (flag, r, q[:30]))第四步:接入终稿门禁
把上述检查封装为脚本,在律师签字前强制运行:只要出现一条疑似编造,文档即被打回人工复核,绝不自动放行。
提醒:本方案只做“引用是否真实存在”的机器初筛,法律判断与最终责任仍由执业律师承担;门禁不通过应退回人工核实,而非由模型自行修正。
参考来源
最高人民法院《关于审理涉人工智能纠纷案件适用法律问题的指导意见》(法发〔2026〕10号)
上海市浦东新区人民检察院发布《知识产权领域使用人工智能风险指引》
legal-hallucination-bench:中文法律大模型引注幻觉评测基准(开源评测项目)