近日,全球AI顶级会议第四十届AAAI人工智能会议(AAAI Conference on Artificial Intelligence,AAAI-2026)公布录用结果,交通与土木工程学院平鹏副教授团队的研究论文“LoKI: Low-damage Knowledge Implanting of Large Language Models”(LoKI:新型大型语言模型的低损伤知识植入方法)被大会接收,并且受大会邀请进行口头汇报,这也是我校首次以第一单位在该会议上发表研究成果。本文的第一作者为我校硕士生王润瑀,通讯作者为平鹏副教授,是我校施佺教授、平鹏副教授、青年教师嵇天博共同指导完成,论文的合作单位为爱尔兰都柏林城市大学、南方电网电力科技股份有限公司。

参数微调虽能有效使预训练模型适配下游任务,却不可避免地面临灾难性遗忘的风险:模型在适应新任务过程中可能丢失预训练阶段所习得的关键知识。为在统一框架下系统缓解这一挑战,本文提出了一种基于参数高效微调的低损伤知识植入方法。该方法深度融合了近年来对Transformer架构中知识存储机制的结构性理解,通过精细化参数干预,在实现任务适配的同时,显著减轻对已有知识的覆盖与破坏。在多个真实场景的微调任务中,本文方法相较于当前主流微调方法展现出显著优势。实验结果表明,该方法在维持模型通用能力方面表现尤为突出,同时在特定任务性能上可与全参数微调及其他高效微调方法相媲美,能够有效平衡“任务特异性适应”与“通用能力保留”之间的张力。本文的研究成果,不仅为有限算力下的高性能、低遗忘模型优化提供了可行路径,其机制驱动的设计思路也可为构建更稳健、可扩展的预训练-微调范式提供新的理论视角与工具,具有较好科研价值和应用前景。
AAAI 会议是人工智能领域的顶级国际学术会议,同时也是CCF-A类会议。本次会议共接收到全球近29000篇研究论文,最终录取4167篇论文,录取率约17.6%,受邀进行口头报告的论文占比不足5%。
