米兰·(milan)中国官方网站-清华孙茂松团队 × 深言科技：以解释作为训练信号，让 8B 模型在幻觉检测上反超闭源大模型

年夜语言模子的能力于不停加强，但幻觉问题仍旧是绵亘于实际运用前的一道要害障碍。

即便于有文档及检索成果作为依据的环境下，模子仍可能天生与事实不符、缺少依据甚至与原文相抵牾的内容，并且表达凡是流利、自洽，不容易被发明。这对于法令、医疗、金融、检索加强天生等对于靠得住性要求极高的场景带来了较着危害。

虽然业内不停经由过程“做更年夜的模子”“更繁杂的检索”“更强的安全对于齐”等方式来减缓问题，但成本与算力需求连续爬升，而幻觉为什么孕育发生、怎样体系检测与注释，依然缺少有用谜底。

于如许的配景下，清华年夜学孙茂松团队结合深言科技提出了新论文《FaithLens: Training Large Language Models to Detect Hallucinations with Useful Explanations》。这项事情再也不把幻觉检测当作简朴的对于错分类，而是把它晋升为对于模子推理历程与证据一致性的总体评估。

FaithLens 的焦点思绪是：模子不仅需要判定是否存于幻觉，还有要天生清楚、详细、真正能帮忙另外一个模子做出准确判定的注释，并把这类“注释是否有效”直接作为练习旌旗灯号来优化模子。

为此，研究团队设计了一套联合监视微和谐强化进修的练习框架，经由过程合成数据、注释过滤及奖励机制，使模子于给出结论的同时，也学会申明依据于哪里、推理是怎么来的。试验注解，于这一范式下，仅 8B 参数范围的模子，就于多个跨范畴幻觉检测使命上跨越多款闭源年夜模子，同时于注释质量与推理一致性方面取患上较着上风。

论文地址：https://arxiv.org/pdf/2512.20182

这项事情的焦点试验成果注解，研究团队提出的 FaithLens 模子于忠厚性幻觉检测使命上到达了当前最优甚至跨越闭源年夜模子的效果。

所谓忠厚性幻觉，是指年夜语言模子于给定文档或者检索信息的基础上天生了与原文纷歧致、没法撑持甚至相抵牾的内容。试验笼罩 12 个跨范畴跨使命的数据集，包括新闻择要、检索加强天生问答、固定文档问答、事实核查及多跳推理等广泛场景。这些使命别离来自 LLM-AggreFact 及 HoVer 两年夜尺度基准，具备很强代表性。

试验采用宏平均 F1 值作为评价指标，从试验成果来看，FaithLens 于这 12 个使命上的总体平均指标跨越了所有对于比体系。尤其是与当前最强开放或者闭源的年夜模子比拟，好比 GPT-4.一、GPT-4o、o三、Claude 3.7 Sonnet 以和 Llama-3.1-405B 等，FaithLens 于总体机能上均取患上领先。这一成果很是主要，由于 FaithLens 仅基在 8B 参数范围，而这些对于比模子年夜多于百亿以致千亿级别。

于多跳推理使命 HoVer 上，FaithLens 尤为凸起。该使命要求模子综合多个证据片断，举行事实链推理，再判定给定断言是否被撑持或者被辩驳。FaithLens 于这一使命上的显著领先，申明它不仅依赖浅层模式匹配，而是具有了于文档基础长进行布局化推理及一致性阐发的能力。

进一步看细节，试验还有比力了 FaithLens 与专门为幻觉检测而设计的体系，如 AlignScore、FactCG、MiniCheck 及 ClearCheck 等。试验注解，于绝年夜部门使命中，FaithLens 的体现较着优在这些专用体系，并且于使命间的机能方差最低，申明差别类型的幻觉征象（例如择要中的微扭曲、检索问答中的无中生有、多跳推理中的推理缺环等）均可以被同一辨认，从而具备较强的鲁棒性与跨使命泛化能力。

此外，研究职员还有对于“注释天生质量”做了专门试验。他们经由过程人工评价以和 GPT-4.1 主动评价两种方式，从可读性、帮忙性及信息量等维度，体系比力差别模子孕育发生的注释。成果注解，FaithLens 所天生的注释比年夜大都模子更清楚、更详细，且可以或许有用指出幻觉孕育发生的缘故原由，例如“文档中不存于该事实”“因果瓜葛被过错推出”“数字被误解”等，而不是简朴反复问题或者泛泛而谈。

更为要害的一点是计较成本。试验给出了差别模子于划一样本数目上的推理成本，FaithLens 因为参数范围小，可以用显著更低的 GPU 资源实现推理，其成本年夜幅低在 API 级闭源模子，同时机能反而更优。试验成果综合注解，FaithLens 于精度、不变性、注释性以和成本四个方面都具备较着上风。

这项事情的试验设计依托在一个完备的模子练习框架，该框架包罗两个焦点阶段：冷启动监视微调阶段（SFT）及基在法则的强化进修阶段（RL）。研究团队的设计方针不是简朴提高分类正确率，而是但愿同时优化两个输出维度：一是是否存于忠厚性幻觉的判定成果，二是对于此判定的天然语言注释。

于冷启动监视微调阶段，首要问题是练习数据的获取。传统做法需要人工标注幻觉与否，同时撰写注释，这不仅昂贵且一致性差。雷峰网(公家号：雷峰网)

研究团队选择使用强盛的现成推理模子天生合成数据，详细做法是从公然使命数据集中抽取文档与断言，输入到年夜型推理模子中，令其输出三种内容：一是推理链条（chain-of-thought），二是天然语言注释，三是标签。如许获得的样本同时包罗语义上下文、使命断言、模子推理、注释及结论。

然而，合成数据质量其实不不变。为此，研究职员提出了三层过滤机制来对于数据质量举行节制。

第一层过滤存眷标签准确性，即比力强模子给出的标签与原始标注是否一致，若纷歧致则抛弃该样本。这一机制可以避免模子进修“过错但看起来合理的注释”，防止注释与真实标签脱节。

第二层过滤存眷注释质量。团队没有采用人工打分，而是提出了一种“注释可否提高猜测能力”的客不雅指标：先计较模子于无注释环境下猜测准确标签的困惑度，再插手注释从头猜测，假如困惑度降落，则认定注释确凿提供了信息撑持；不然，该注释被视为冗余甚至误导，从而对于应样本被剔除了。

第三层过滤存眷数据多样性。因为前两层过滤轻易保留年夜量“简朴样本”，从而致使模子过拟合某些模式，是以研究团队利用句向量暗示文档-断言对于，经由过程聚类算法节制差别种别漫衍，拔取具备代表性的样本，使模子充实袒露在多种幻觉类型之中。

以后，模子于这些经由过程三重过滤后的数据长进行监视微调，使其得到开端的幻觉检测能力及注释天生能力。然而，该阶段重要属在模拟进修，模子偏向在复制练习数据中的推理习气，而不会自动优化注释质量或者判定靠得住性。是以研究职员引入第二阶段 —— 基在法则的强化进修。

于强化进修阶段，模子针对于统一输入天生多条候选输出，每一条输出同时包罗推理历程、注释及终极标签。研究职员采用 GRPO（Group Relative Policy Optimization）算法来更新计谋模子。这一算法无需练习分外奖励模子，而是直接使用一组候选之间的相对于体现举行优化，越发高效。

试验的要害立异于在奖励设计。起首是猜测准确奖励，判定模子终极是否准确辨认幻觉或者忠厚内容。该奖励直接作用在分类正确性。其次是注释质量奖励，这是这项事情最主要的孝敬之一。

研究团队提出利用一个较弱的新手模子作为评价器，将 FaithLens 天生的注释输入给新手模子，若新手模子是以更易作出准确判定，则申明该注释具有清楚性及信息性，于是该当赐与奖励。如许体系便能主动进修天生“对于别人有效”的注释，而不是仅仅“自我觉得优良”的描写。第三项奖励是格局奖励，用在约束输出布局，使其包罗完备的推理、注释及标签，防止语句缺掉或者布局杂乱。雷峰网

经由过程三种奖励的合成，FaithLens 于 RL 阶段慢慢学会统筹判定正确性与注释质量。试验还有举行了体系性的溶解试验，将三重过滤、注释质量奖励、RL 阶段等组件依次去除了，对于机能影响举行阐发，成果显示，这些组件均对于终极模子机能具备要害孝敬，特别是注释质量奖励对于注释可用性晋升显著。

从学术层面来看，这项事情最主要的意义于在，它将幻觉检测从简朴判别问题改变为可注释的推理评估问题。以往的大都检测模子只给出二元判定，用户其实不知道模子依据安在，也没法定位幻觉的来历。FaithLens 的框架使模子不仅判定“对于或者错”，同时申明“错于那边、为何错”，从而使幻觉检测从黑箱东西转向可以审查、可以复核的透明体系。

从运用层面来看，研究解决了实际体系中的两个抵牾：一方面，进步前辈闭源年夜模子虽然检测及注释能力强，但成本极高，不合适年夜范围部署。另外一方面，小范围模子推理自制，但质量不足。FaithLens 注解，经由过程精心设计的数据合成计谋与强化进修方案，中等范围模子彻底可以实现靠近甚至跨越闭源年夜模子的检测与注释能力，从而显著提高体系可落地性。

从要领论角度来看，研究团队提出了一种新的练习思惟：即经由过程注释是否能教会另外一模子来权衡注释质量，这冲破了传统的 BLEU、ROUGE 等外貌指标，将注释从文本评价对于象改变为功效性东西。这一思惟不仅合用在幻觉检测，还有可以推广到推理链验证、数学推理注释、事实核查申明等范畴。

更深层的意义于在，这项研究对于 AI 可托性提出了新的尺度。它暗含如许一个不雅点：将来的智能体系不克不及只输出谜底，而必需提供可追溯、可核验、可被他模子利用的注释。这与医疗、司法、教诲、金融等高危害范畴的审计诉求高度契合，具备久远的社会价值。

本论文共有三位配合第一作者，别离来自清华年夜学、复旦年夜学以和伊利诺伊年夜学喷鼻槟分校（UIUC），三人配合主导了本项事情的研究推进与论文撰写。

此中，来自清华年夜学的司书正同时就职在深言科技，现为清华年夜学计较机系二年级博士生，其导师为孙茂松传授。他的研究标的目的重要包括天然语言处置惩罚及年夜范围语言模子。于相干范畴，他以第一作者或者配合第一作者身份于 NeurIPS、ACL、ICLR、EMNLP 等顶级国际集会发表论文 12 篇，其相干论文累计被援用 800 余次，GitHub 项目得到跨越 5000 颗星标，此中一篇第一作者论文得到 EMNLP 2025 SAC Highlights Award。

参考链接：https://s1s-z.github.io/

这项事情的通信录为孙茂松，他是清华年夜学计较机科学与技能系长聘传授、博士生导师，是我国天然语言处置惩罚（NLP）与人工智能范畴的主要学者之一。他现任清华年夜学人工智能研究院常务副院长，并兼任清华年夜学多个主要学术构造与研究机构的卖力人，持久于讲授、科研与人材造就一线事情，对于我国 NLP 学科系统设置装备摆设孕育发生了深远影响。

早年修业时期，孙茂松传授于清华年夜学计较机系完成本科与硕士进修，以后又于海外继承深造并得到计较语言学博士学位，形成为了扎实的语言学与计较机科学交织配景。

作为清华年夜学天然语言处置惩罚试验室（THUNLP）的重要学术带头人之一，孙茂松传授持久存眷中文信息处置惩罚、呆板翻译、语义计较、年夜模子练习与推理、语言资源与常识图谱、社会与人文计较等研究标的目的，领导团队缭绕 NLP 的基础理论与要害技能开展体系性研究。他的研究既笼罩语言建模、语义暗示、推理等焦点科学问题，也存眷技能于教诲、文化与社会管理等范畴的落地与影响。

于科研结果方面，他引导及介入的团队于 ACL、EMNLP、NAACL、COLING、AAAI、IJCAI 等国际顶级集会与期刊上发表了年夜量论文，并主持或者负担多项国度级庞大科研项目。其研究结果涵盖语言技能基础理论、中文处置惩罚平台、智能问答与翻译体系、新一代年夜范围预练习语言模子等多个标的目的，为鞭策中文 NLP 技能进入国际前列阐扬了要害作用。

除了学术研究外，孙茂松传授也十分器重技能转化与社会办事。他踊跃鞭策语言资源设置装备摆设与相干国际尺度制订，介入构造主要科研平台与学术构造设置装备摆设，并提倡人工智能技能于教诲普惠、文化传承与大众管理中的运用。他主持鞭策了多项具备社会影响力的工程与平台，使语言智能技能真正走向公家与财产现实场景。

于学术声誉方面，孙茂松传授得到了多项海内外主要学术称呼与奖励，包括国际学术构造会士等声誉，充实表现了国际偕行对于其学术孝敬的承认。他造就的学生与团队成员已经于海内外高校与企业发展为主干气力，形成为了于 NLP 范畴具备连续影响力的学术梯队。

整体而言，孙茂松传授既是中国 NLP 初期开拓者之一，也是最近几年来年夜语言模子与可托 AI 研究的主要鞭策者。面阐扬了要害作用。

参考链接：https://nlp.csai.tsinghua.edu.cn/staff/sms/

雷峰网原创文章，未经授权禁止转载。详情见转载须知。