南大团队推出OrthoReg：简洁正交正则化技术，解析任务算术核心原理
刘尚格是南京大学的一名硕士生，在本研究中担任第一作者；澳大利亚伍伦贡大学的Lei Wang教授、新加坡南洋理工大学的Dacheng Tao教授以及南京大学的高阳教授等，共同参与了这项工作；而该文的通讯作者则是南京大学副教授李文斌。在当前的大模型环境下，微调已成为使基础模型适应特定任务的一项标准操作。然而，当面对多个已经微调好的专家模型时，如何将它们的能力合并到单一模型中，则成为了新的挑战。传统的联
科技4 阅读
搜索: "正交正则化"
共找到 1 篇相关文章