为什么需要约束解码
法律文书对结构要求极严:字段齐全、顺序固定、格式可解析。让通用大模型自由生成,常出现漏字段、把证据写成散文、或输出带多余说明导致 JSON 解析失败。约束解码(constrained decoding)不靠事后正则兜底,而是在生成每一步就限制候选 token,使输出必然符合给定文法,从根本上消除格式错误。
Outlines 的工作原理
Outlines 是开源的受控文本生成库,可在本地模型上施加正则、上下文无关文法或 JSON Schema 约束。它先把约束编译成有限状态机,再在采样时屏蔽不合法 token,保证模型只能走出合法路径。相比提示词要求模型输出 JSON,约束解码的成功率与稳定性显著更高。
第一步:加载本地模型
from outlines import models, generate
model = models.transformers('Qwen2.5-7B-Instruct', device='cuda')
generator = generate.text(model)
print(generator('请将下列纠纷按案由、原告、被告三栏列出:'))第二步:用 JSON Schema 固定文书结构
更复杂的文书用 JSON Schema 描述字段。下面定义起诉状的三段结构,模型输出将被强制对齐:
schema = {
'type': 'object',
'properties': {
'claims': {'type': 'array', 'items': {'type': 'string'}},
'facts': {'type': 'string'},
'evidence': {'type': 'array', 'items': {'type': 'string'}}
},
'required': ['claims', 'facts', 'evidence']
}
gen_json = generate.json(model, schema)
result = gen_json('根据以下案情起草起诉状:' + case_text)约束解码只保证格式合法,不保证内容正确。生成的诉讼请求与事实认定仍须由执业律师逐项核验,模型不得独立作出法律判断。
第三步:接入检索增强形成闭环
把上面的结构化输出与法规检索结合:先由 RAG 召回相关法条,再把法条文本与案情一并喂给约束解码模型,输出可直接进入模板引擎渲染成正式文书。整条链路可完全私有化,满足客户保密要求。
参考来源
Outlines 开源库官方文档与示例 - dottxt-ai(GitHub);Guidance 结构化生成开源库官方文档 - guidance-ai(GitHub);LangChain 官方文档:结构化输出(Structured Output)能力说明 - LangChain。