关灯
护眼
字体:

第1445章 华兴AI的布局(第2页)

章节目录保存书签

单机柜算力:16petaflops

节点数:4096个昇腾910节点

互联带宽:200gbpsrocev2

存储:200pb全闪存,100μs延迟

功耗:6。5兆瓦(满载)

“这个集群,将成为国内最大的ai算力平台。”冯庭波说道:

“它的意义不仅仅在于算力规模,更在于全栈自主可控。

从芯片、服务器、交换机,到操作系统、ai框架、大模型,全部是华兴自研。”

她看向在座的董事,目光扫过陈默时,两人对视了一眼,都看到了彼此眼中的坚定。

“好在我知道现在肯定不会再有同事像三年前一样问为什么非要自己做芯片?

问为什么非要自己搞框架?买英伟达的gpu,用tensorflow,不是更省事吗?”

冯庭波的声音里带着一丝少见的情绪:

“所以,昇腾不是为了替代英伟达,是为了不在算力芯片上被卡。

mindspore不是为了替代tensorflow,是为了有选择的权利。”

冯庭波深吸一口气,“这条路很难,很烧钱,甚至短期内看不到商业回报。但这是华兴的使命,是海思的使命,也是我们这一代技术人的使命。”

她停顿了几秒,让这番话沉淀。

然后,语气转为务实:

“回到商业层面。

昇腾集群已经内部部署了三个试点,支撑盘古大模型的训练。

实测数据显示,在同等算力下,昇腾+mindspore的组合,训练效率比英伟达+tensorflow高5%,能耗低10%。

在推理场景,优势更明显,效率高8%以上。”

“客户反馈呢?”姚尘风问。终端bg虽然主要做消费者业务,但他对ai在手机端的应用很关注。

“已经有三家互联网公司、两家科研机构、五家大型国企在测试。”冯庭波说:

“反馈总体正面,尤其是在数据安全要求高的场景。

比如政务、金融、军工等,我们的全栈国产方案有不可替代的优势。”

“成本呢?”郑青山又问。

“单卡成本目前还比英伟达高,但集群整体tco(总拥有成本)已经持平。”冯庭波很坦诚。

“随着规模扩大、良率提升,成本会持续下降。

章节目录