打破代码大模型训练瓶颈：MicroCoder将算法数据框架训练经验升级
MicroCoder团队 投稿量子位 | 公众号 QbitAI新一代代码模型的训练动态已与旧模型截然不同，主流强化学习方法和数据集在其上几乎“失效”。微软亚洲研究院与剑桥大学、普林斯顿联合推出MicroCoder，从算法、数据、框架、训练经验四个维度全面升级，在最新代码测试集上取得明显提升，并从七个方面开源了34条训练洞察。背景：旧经验遇上新模型，为何几乎全部“失效”？强化学习正在成为代码大模型能
科技0 阅读
搜索: "学习方法"
共找到 5 篇相关文章
CMU团队提出新算法：行为校准强化学习助力4B模型击败GPT-5抑制幻觉现象
吴嘉赟博士就读于卡内基梅隆大学（CMU）机器学习系，专注于大语言模型评估和后训练技术的研究。大语言模型在关键领域的应用受到幻觉问题的困扰。最近一项研究提出了一种新的行为校准强化学习方法，旨在解决这一难题。该论文详细探讨了如何通过调整奖励函数来改进LLM的表现。经过特定训练后，一个参数量仅为40亿的小型模型在幻觉抑制方面超越了GPT-5等顶级大模型。图1展示了模型回答数学问题时置信度标注的实例。每一
科技1 阅读
MIT研究生运用人工智能技术，在两天内完成一学期的课程学习挑战
一名 MIT 研究生仅用两天时间就掌握了某一学科的所有知识，并通过了资格考试。这条推文引起广泛关注，阅读量高达四百三十万，点赞数一万五千，收藏量则达到三万。收藏者远超点赞者的数量表明大家不仅对这条信息感到有趣，还希望将其保存下来以便日后实践应用。推文的作者 Ihtesham Ali 介绍了一种独特的学习方法：运用 Google 的 AI 笔记工具 NotebookLM，在短短两天内掌握了新领域的知
科技14 阅读
李国豪：AI界的创新先锋｜甲子光年
我是李国豪，目前专注于大语言模型和代理研究领域。本科毕业于哈尔滨工业大学电子信息工程专业，并在沙特阿卜杜拉国王科技大学（KAUST）攻读博士学位。我的学术兴趣从强化学习延伸到图神经网络，最终聚焦于大语言模型及其应用。作者｜王艺我的兴趣演变始于强化学习，但很快发现它难以解决跨领域问题的泛化性挑战。因此，我转向探索更通用的表征学习方法，并研究图神经网络（GNN）。然而，在ChatGPT出现之后，我发现
科技4 阅读
无标签数据下RL能否引导模型推理？Co-rewarding提出自监督解决方案
目前，RLVR（带有验证奖励的强化学习）已经成为促进大规模语言模型进行有效推理的主要技术路径。然而，这种方法在扩展性方面面临一个主要障碍：需要高质量的标注数据来监督奖励机制。当转向不需要人工标注的数据训练时，“自我奖励” 强化学习方法可能导致模型迅速陷入所谓的 “训练崩溃”。尽管模型看似获取到了越来越多的奖励，实际上它们是在利用自我奖励系统的漏洞进行投机行为，而非真正解决问题获得奖励。什么样的强化
科技7 阅读