基于隐空间动力学的大模型RL探索新视角——寻求平衡之道
强化学习已成为推动大型模型性能飞跃的关键技术手段。从OpenAI的o3、DeepSeek-R1到Gemini 3，这些前沿模型通过不断微调强化训练来提升解决复杂推理任务的能力。然而，在这一过程中也逐渐暴露出一个问题：随着训练的深入，策略分布趋向集中，探索能力随之减弱，最终导致优化欠收敛和性能瓶颈。这种现象从根本上说是由于在强化学习中探索与利用之间的不平衡造成的，并且在稀疏奖励的可验证奖励强化学习（
科技3 阅读
搜索: "模型性能"
共找到 5 篇相关文章
谷歌发布Gemman 4开源版本，310亿参数挑战顶级模型性能
Google DeepMind 最近公布了其最新的开源模型 Gemma 4：该模型拥有大约 300 亿个参数，在性能上与市面上的其他主流开源项目不相上下。Gemma 是一个由 Google 开发的开源系列，它和谷歌自家的闭源产品 Gemini 共享基础技术。Gemma 的所有权重都向公众开放，任何人都可以获取、修改或部署这些模型。该系列的上一版本 Gemma 3 发布于 2025 年三月，至今已过
科技2 阅读
DeepSeek崩溃10小时，这是好事啊，梁文锋得为V4冲击波做好准备
DeepSeek网页和App在连崩10多个小时后终于恢复了。这件事给梁文锋提了个醒，网上都说4月份就要发布DeepSeek-V4了，到时候DeepSeek面临的压力会比现在大得多。怎样让服务器在峰值压力下继续保持平稳工作，这是梁文锋必须解决的问题。比起模型性能，DeepSeek最应该加强的，是整个平台。或者多买点服务器，或者多找几个网络运维，总之应该让平台更牢固。我们先来回顾一下这次事故吧，3月2
科技1 阅读
上交大与阿里Qwen团队提出新型预训练数据选择方法OPUS
在“大模型预训练”的领域中，普遍的信条是，如果想让模型性能更佳，就需要输入更多、更新且质量更高的数据。然而，最近一篇来自阿里巴巴、上海交通大学和威斯康星大学麦迪逊分校等机构的研究成果，在Hugging Face Daily Paper上取得了月度最佳的成绩，这直接挑战了上述共识，即从质量较低的数据中动态筛选样本，也能在与高质量数据优先的训练方案竞争中胜出。这一发现之所以在社区中引起了轰动，不仅因为
科技1 阅读
斯坦福博士答辩引热议，庞若鸣参与点评AI自主进化议题
在本次演讲中,我们探讨了持续自我改进式AI的三个关键方面:数据、算法和计算量。这些方面的进步让AI系统能够超越人类创造者的极限。首先,我们展示了如何通过生成大量合成训练数据来提升模型性能。这证明即使质量较低的人类数据也可以被数量庞大的机器生成数据所替代或增强。其次,演讲介绍了持续自我改进的算法技术,如预算强制搜索等方法。这些策略能够让AI系统以超乎寻常的方式优化其运行方式和推理过程。再者,我们展示
科技2 阅读