分阶段抽取与单一大模型的对比
今天把一个困难的 NLP 问题交给团队,惯常反应就是搬出能用的最大模型,让它把一切都搞定。在法语临床文本上,这种反应成本高、速度慢、难以审计——而且事实证明,连最准确都算不上。DEMNE 下的是相反的赌注:把每一种实体类型交给能够胜任它的最轻工具,只有当文本确实需要时才升级。
是楼梯,不是锤子
流水线有三个层级。确定性规则——正则表达式与精选词典——负责那些只有几种稳定写法的实体:日期、剂量、标准生物标志物缩写。在法语肿瘤学文本上微调的 transformer 处理那些需要真正语义与领域理解的实体。LLM 位于顶端,只留给真正含糊、能挺过前两个阶段的情形。没有什么会爬得比它需要的更高。
为什么不干脆只用 LLM?
因为单一大模型要为每一个实体支付 LLM 的代价,包括那些正则表达式本可瞬间搞定的。它更慢,需要多数医院没有的 GPU 预算,而且每个决策都是黑箱,你仍然要向临床医生或审计者交代。而在路由任务本身上,全用 LLM 的基线表现最差,与专家层级的一致性仅为 0.148。最重的工具并不自动就是最可靠的。
路由出错的代价
只有路由做得好,分阶段抽取才划算,所以 DEMNE 把心思正是花在这里。从标注中测得的五项指标喂入一个确定性决策图,其 17 个阈值由多目标搜索校准。该目标被刻意设计为不对称:把实体送往过弱方法所受的惩罚,是送往仅仅过于昂贵方法的两倍——因为在临床报告中漏掉一次抽取,比浪费一秒 GPU 代价更大。
数字说明了什么
在肿瘤学校准集上,路由与专家参考层级的一致性为 0.954,而全用规则为 0.729、全用 LLM 为 0.148。原封不动地应用于 300 份从未见过的 AP-HP 报告时,它将 99.5% 的提及路由到确定性规则,后者达到 0.941 的平均 F1——而在现实医院预算下微调的 transformer 仅为 0.358。对于主导这些报告的标准化实体,最便宜的层级同时也是最准确的。
何时单一模型才是正确答案
分层并非免费:它增加了一层需要构建、度量和维护的路由,而且阈值必须针对每个新领域重新校准。如果文本是均质的、实体同样困难,或者你有预算和审计容忍度去用一个大模型,那么这座楼梯只是额外负担。这里的主张很窄——当成本、延迟与可追溯性同时重要时,正如临床 NLP 那样,逐实体决策胜过默认选最重的模型再碰运气。
代码与完整方法见 GitHub;论文正在撰写中。