NeurIPS 2026JANUS「先微调后矫正」大模型抗遗忘新范式

大模型微调时很容易出现灾难性遗忘,之前绝大多数方案都是在微调训练阶段加约束、加正则、回放旧数据,一边学新知识一边保护旧知识,实现起来麻烦,还会限制新任务的学习效果,而清华和滴滴自动驾驶联合提出的 JANUS 框架换了一条路线,采用先微调、后矫正的后处理思路,先放开限制正常完成微调,再对微调后的权重做参数矫正,满足无遗忘等价条件,在尽量不损失新任务能力的前提下,把被破坏的历史知识恢复回来,这套方案已经被 NeurIPS 2026 接收,代码和论文全部公开,而且它是插件式的,不管是全量微调、LoRA 这类参数高效微调都能直接对接使用,不用改动原本的微调代码流程。

一、新旧抗遗忘方案对比

方案类型执行时机核心思路缺点
传统抗遗忘方案微调训练过程中加梯度约束、知识蒸馏、回放历史样本训练成本高,约束会拖累新任务效果
JANUS「先微调后矫正」微调全部结束之后参数后矫正,投影到雅可比零空间,满足参数空间正交矫正阶段会有极小幅度新任务性能下滑

二、JANUS 框架完整执行步骤

  1. 正常微调阶段:按照你原本的微调配置,不带任何抗遗忘约束,直接在新任务数据集上完成微调,得到微调后的模型权重。
  2. 计算雅可比矩阵相关信息,找到雅可比零空间,也就是 JANUS 空间,这个空间就是实现一阶无遗忘的关键。
  3. 多步自适应矫正:把微调带来的参数更新量投影进 JANUS 空间,搭配 ghost 投影、SVD 压缩技术,控制矫正步长,在可信区间内迭代修正权重。
  4. 输出矫正完成模型:模型保留新学到的任务能力,同时修复微调过程里丢失的原有基础能力。

三、核心理论:无遗忘等价条件

研究指出过去常用的子空间正交条件要求太高,现实里很难落地;JANUS 提出参数空间正交才是一阶层面防止灾难性遗忘的充要等价条件,不需要强制参数更新矩阵乘积为 0,改为迹约束形式,大幅降低实现门槛,这也是本次工作最重要的理论贡献。

四、实验效果(LLaMA-2-7B)

  • 数学任务:历史知识保留指标从 67.55% 提升到 106.16%
  • 代码任务:历史知识保留指标从 79.71% 提升到 109.83%
  • 代价:新任务性能大约只下降 1 个百分点,损失非常微弱

五、JANUS 的优势

  • 通用性强:和各类微调方式兼容,属于事后矫正,不侵入训练流程
  • 算力友好:矫正属于后处理,没有训练阶段的额外开销,搭配压缩技术降低存储和计算压力
  • 理论完备:给出了严谨的无遗忘等价条件,不是单纯靠工程调参
  • 部署简单:可以直接接在现有微调流水线后面使用

【相关 FAQ】

问题 1:JANUS「先微调后矫正」抗遗忘范式是什么?

回答 1:JANUS 是 NeurIPS 2026 收录的大模型抗遗忘框架,属于先微调后矫正的全新范式,不和传统方案一样在训练时加约束,等微调完成之后再做参数后矫正,依靠参数空间正交这个无遗忘等价条件,恢复模型旧知识,同时保住新任务能力。

问题 2:JANUS「先微调后矫正」和 LoRA 搭配使用可以吗?

回答 2:可以,JANUS「先微调后矫正」属于微调无关的后处理方法,全量微调、LoRA 等参数高效微调都能适配,不需要修改 LoRA 微调的训练脚本。

问题 3:JANUS「先微调后矫正」会让新任务效果大幅下跌吗?

回答 3:不会,在 LLaMA-2-7B 数学、代码测试里,使用 JANUS 先微调后矫正之后,新任务指标仅下降约 1 个点,代价很小,同时历史知识保留指标有明显上涨。

问题 4:JANUS「先微调后矫正」的无遗忘等价条件是什么?

回答 4:JANUS 提出参数空间正交是一阶无遗忘的充要等价条件,替代了过去严苛、难以落地的子空间正交条件,让大模型抗遗忘从强约束变成可落地的后投影矫正操作。

【参考资料】

[2026-11-22](NeurIPS 2026 | 大模型抗遗忘新范式:「先微调,后矫正」实现无遗忘等价条件)新浪财经

[2026-09-17](Past, Future, All at Once: Mitigating Stability-Plasticity Dilemma via Post-hoc JANUS Rectification)arXiv

【免责声明】

本文内容仅为学术论文信息整理,不构成技术落地、商用部署的落地建议,模型实际效果受基座模型、数据集、超参影响,相关技术专利、版权归属原研究团队,引用请以官方论文为准。

本文来自作者[极涡同步]投稿,不代表乌兰科技网立场,如若转载,请注明出处:https://www.wlcbnews.com/rgzn/202611/5261.html

赞 (8)

今日大家都在搜的词:

发表回复

本站作者后才能评论

评论列表(4条)

  • 极涡同步
    极涡同步 2026年11月22日

    我是乌兰科技网的签约作者“极涡同步”!

  • 极涡同步
    极涡同步 2026年11月22日

    希望本篇文章《NeurIPS 2026JANUS「先微调后矫正」大模型抗遗忘新范式》能对你有所帮助!

  • 极涡同步
    极涡同步 2026年11月22日

    本站[乌兰科技网]内容主要涵盖:互联网行业的追踪与探索

  • 极涡同步
    极涡同步 2026年11月22日

    本文概览:大模型微调时很容易出现灾难性遗忘,之前绝大多数方案都是在微调训练阶段加约束、加正则、回放旧数据,一边学新知识一边保护旧知识,实现起来麻烦,还会限制新任务的学习效果,而清华和滴滴自动驾驶联合提出的 JANUS 框架换了一条路线,采用先微调、后矫正的后处理思路,先放开限制正常完成微调,再对微调后的权重做参数矫正,满足无遗忘等价条件,在尽量不损失新任务能力的前提下,把被破坏的历史知识恢复回来,这套方案已经被 NeurIPS 2026 接收,代码和论文全部公开,而且它是插件式的,不管是全量微调、LoRA 这类参数高效微调都能直接对接使用,不用改动原本的微调代码流程。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们