中信证券:存力升级为当前智能体推理核心需求 坚定看好存储成长趋势.
中信证券研报称,AI从“简单对话”向“智能体(Agent)”演进,驱动上下文长度激增。据Epoch AI数据,最长上下文窗口约每年增长30x,KV Cache显存容量和上下文长度呈线性增长关系,远超硬件配置增速。目前大模型厂商、硬件厂商主要通过量化、分层存储、模型架构优化的方式解决存力瓶颈,但仍不改显存需求爆发。中信证券认为,显存优化有望降低单Token生成成本,进而刺激用户开启更高并发与更长上下文,总存力需求将不减反增,存力升级为当前Agent推理核心需求,坚定看好存储成长趋势。
(文章来源:人民财讯)
声明:
- 风险提示:以上内容仅来自互联网,文中内容或观点仅作为原作者或者原网站的观点,不代表本站的任何立场,不构成与本站相关的任何投资建议。在作出任何投资决定前,投资者应根据自身情况考虑投资产品相关的风险因素,并于需要时咨询专业投资顾问意见。本站竭力但不能证实上述内容的真实性、准确性和原创性,对此本站不做任何保证和承诺。
- 本站认真尊重知识产权及您的合法权益,如发现本站内容或相关标识侵犯了您的权益,请您与我们联系删除。
推荐文章: