搜索: "低能耗部署"

共找到 1 篇相关文章

中科院发布瞬悉2.0:破解长序列处理与低能耗部署难题

中科院发布瞬悉2.0:破解长序列处理与低能耗部署难题

新智元报道最近,中国科学院的一支团队发布了名为「瞬悉2.0」的类脑大模型,该模型在优化架构和编码路径方面取得了显著进展,特别是在长序列处理效率与低功耗部署方面表现出色。当前的大规模模型上下文长度迅速增长,导致代码仓库理解、智能体以及多模态交互等场景对长序列处理能力提出了更高要求。传统Transformer在推理时的计算成本和显存占用会随着输入序列长度的增长而增加,这对实际部署构成了挑战。近期,中国

科技1 阅读