搜索: "低延迟推理"

黄仁勋GTC访谈：低延迟推理驱动AI经济新爆发、电力芯片供需紧平衡将持续長期影響

人工智能正从单纯的信息生成转向任务执行，以编码代理为代表的低延迟高吞吐量推理场景，标志着AI基础设施商业化的新阶段即将来临。在供应方面，电力、芯片和数据中心建设几乎没有任何多余的资源，这一状况可能会长期持续。英伟达首席执行官黄仁勋在GTC 2026大会主题演讲后的专访中，针对AI推理经济、CPU策略、收购Groq的原因以及供应链紧张等问题，发表了一系列看法。黄仁勋指出，过去一年，人工智能在关键领