Logo

搜索: "模型训练"

共找到 10 篇相关文章

多名关键人员离任 DeepSeek V4或于四月面世（据中国媒体报道）

多名关键人员离任 DeepSeek V4或于四月面世（据中国媒体报道）

中国媒体称，人工智能（AI）公司深度求索（DeepSeek）的多名核心员工在过去一年里离职，下一代模型V4可能会在4月发布。据中国科技媒体“晚点LatePost”报道，去年下半年以来，DeepSeek已有多名核心员工离职。其中，DeepSeek第一代大语言模型的核心作者、参与历代模型训练的王炳宣，去年底被科技巨头腾讯挖走。DeepSeek-OCR系列的核心作者魏浩然约在春节前后离开，DeepSe

财经0 阅读
打破代码大模型训练瓶颈：MicroCoder将算法数据框架训练经验升级

打破代码大模型训练瓶颈：MicroCoder将算法数据框架训练经验升级

MicroCoder团队 投稿量子位 | 公众号 QbitAI新一代代码模型的训练动态已与旧模型截然不同，主流强化学习方法和数据集在其上几乎“失效”。微软亚洲研究院与剑桥大学、普林斯顿联合推出MicroCoder，从算法、数据、框架、训练经验四个维度全面升级，在最新代码测试集上取得明显提升，并从七个方面开源了34条训练洞察。背景：旧经验遇上新模型，为何几乎全部“失效”？强化学习正在成为代码大模型能

科技0 阅读
AI专家卡帕西揭秘：沉迷龙虾游戏引发“AI精神困扰”，不消耗完token便感焦虑

AI专家卡帕西揭秘：沉迷龙虾游戏引发“AI精神困扰”，不消耗完token便感焦虑

编译 | 陈骏达你提到你最近一直在探索将大型语言模型简化到最核心的版本，这个项目被命名为micro GPT。你认为这个项目能帮助人们更好地理解和使用语言模型。你提到micro GPT是目前你所能构建的最精简的语言模型代码，整个训练代码只有200行Python（包括注释）。这个模型非常易于理解，因为它不涉及任何为了加速训练而复杂化的代码。通过这个项目，你希望能够向更多人展示语言模型训练的本质。你提到

科技2 阅读
华为诺亚研究团队教授扩散模型精准聚焦关键技术点

华为诺亚研究团队教授扩散模型精准聚焦关键技术点

机器之心编辑部近年来，扩散语言模型（Diffusion LLM）一直是讨论的热点。相较于传统的自回归模型，扩散模型在生成文本时更为灵活，更能支持并行处理。然而，尽管这条路充满潜力，但要真正提升效果却并非易事。最近，华为诺亚方舟实验室发布了一项关于扩散模型训练中“默认设置”的研究。这项研究的标题为《Mask Is What DLLM Needs: A Masked Data Training Par

科技2 阅读
华为存储布局AI时代的三大战略！预测未来数据中心将有三分之一的服务由硅基智能提供

华为存储布局AI时代的三大战略！预测未来数据中心将有三分之一的服务由硅基智能提供

李水青撰写，云鹏编辑当前AI行业的发展重心已从模型训练转向实际应用，这促使数据基础设施迎来新一轮变革。3月20日，智东西报道，华为数据存储产品线宣布了针对AI时代的三项关键产品与解决方案更新，涵盖传统应用向数据中心的全面转型、AI训练所需的资料准备以及AI推理场景下的基础设施建设。数据存储产品线副总裁肖德刚表示，AI时代为华为数据存储带来了巨大的机遇。在规划时，他们主要考虑了两个方面：一是AI原生

科技1 阅读
中国玩家加速布局算力，挑战谷歌与英伟达的领先地位

中国玩家加速布局算力，挑战谷歌与英伟达的领先地位

最近，在中国家电及消费电子博览会上，一个最新的成果——采用光路交换技术重塑智能计算网络架构的项目宣告正式落地。上海仪电携手曦智科技、壁仞科技和中兴通讯发布了“光跃超节点128卡商用版”，该产品实现了长期稳定的训练状态，显著提升了模型训练性能，且传输延迟比传统电交换技术减少了90%以上。这款超节点的核心是曦智科技的全球首创硅光OCS光交换芯片。早在去年7月的WAIC大会上，这一项目就已经首次亮相，仅

科技4 阅读
Meta声明：利用BitTorrent分享受版权保护的图书属合法行为

Meta声明：利用BitTorrent分享受版权保护的图书属合法行为

据Torrentfreak报道，Meta等科技公司曾通过BitTorrent协议从安娜档案库这类盗版资源网站下载受版权保护的书籍，以支持人工智能模型训练。为了构建更强大的语言模型，在没有获得版权所有者许可的情况下，多家技术企业使用了大量受版权保护的内容作为训练数据。Facebook和Instagram的母公司Meta成为了这场集体诉讼中的被告之一。知名作家如理查德·卡德雷、萨拉·西尔弗曼及克里斯托

科技2 阅读
去中心化GPU网络在人工智能发展中扮演什么角色？

去中心化GPU网络在人工智能发展中扮演什么角色？

去中心化的GPU网络定位于为运行AI工作负载提供低成本解决方案，而最新的模型训练依然主要在大型数据中心内进行。在前沿的AI训练中，构建最大的、最先进的系统需要大量高性能GPU协同作业。这种级别的协作对去中心化网络来说是一个挑战，因为互联网上的延迟和可靠性无法与集中式数据中心中的硬件相媲美。大多数生产环境下的AI工作负载不同于大规模模型的训练需求，因此为去中心化的网络提供了更多执行推理任务和其他日常

区块链4 阅读