华为2025 AI容器论坛将发布新技术,提升算力资源利用效率
上证报11月16日获悉,华为将于本周举办2025 AI容器应用落地与发展论坛,会上将发布AI领域突破性技术成果,相关技术有望解决算力资源利用效率难题,这一消息引发了业界的广泛关注。
据透露,该技术延续 “以软件补硬件” 的创新思路,可将GPU、NPU等算力资源利用率从行业平均30%-40%大幅提升至70%,显著释放算力硬件潜能,为AI发展注入新动力。
据了解,华为这项新技术将对标英伟达2024年底收购的以色列公司Run: ai的核心技术,旨在通过软件创新,实现英伟达、昇腾以及其他三方算力的统一资源管理与利用,“屏蔽”算力硬件差异,为AI训练推理提供更高效的资源支撑,助力AI产业迈向新高度。
2024年12月,英伟达宣布以7亿美元(约合人民币51亿元)价格,收购2018年成立的以色列公司Run:ai。Run:ai的核心产品是基于kubernetes(开源容器编排平台)构建的软件平台,用于调度GPU的计算资源,通过动态调度、池化、分片等技术,实现GPU资源利用率的优化,让深度学习训练与推理任务在企业级环境中高效运行。
在先进制程受限、单颗芯片算力与国外有差距的背景下,华为积极在软件创新上使力,希望通过“以系统补单点”“以软件补硬件”,弥补芯片方面的不足。11月11日,华为公布的第六届“十大发明”评选结果里,排名第一的Scale-up超大规模超节点算力平台就是用系统架构和互联技术弥补单芯性能短板的技术之一。
上述发明将超节点内的异构并行处理器、CPU、内存、存储等资源,通过高速互联总线形成全对等互联架构,实现共享内存池;资源可根据不同的任务需求,像搭积木一样进行灵活调配组合,实现了“一切皆对等、一切皆可池化、一切皆可组合”,使数百、数千个AI处理器联接起来,像一台计算机一样工作、学习、思考、推理。(文章来源:上海证券报)
声明:
- 风险提示:以上内容仅来自互联网,文中内容或观点仅作为原作者或者原网站的观点,不代表本站的任何立场,不构成与本站相关的任何投资建议。在作出任何投资决定前,投资者应根据自身情况考虑投资产品相关的风险因素,并于需要时咨询专业投资顾问意见。本站竭力但不能证实上述内容的真实性、准确性和原创性,对此本站不做任何保证和承诺。
- 本站认真尊重知识产权及您的合法权益,如发现本站内容或相关标识侵犯了您的权益,请您与我们联系删除。
推荐文章: