BOB半岛官网入口

BOB半岛:AI算力与能耗兼具Supermicro梁见后畅谈服

BOB半岛:AI算力与能耗兼具Supermicro梁见后畅谈服

  Supermicro拥有最全面的产品组合,可以为人工智能工作负载和其他垂直领域提供大力支持。其创...

产品详情

  Supermicro拥有最全面的产品组合,可以为人工智能工作负载和其他垂直领域提供大力支持。其创新型系统包括基于。此外还包括在8U机箱中支持20个NVIDIA H100 GPU的密度优化型SuperBl和边缘环境设计的SuperEdge系统。全新发布的E3.S Petascale存储系统在利用超大规模的人工智能数据集进行训练时,表现出了卓越的性能、容量、吞吐量和耐用性,同时还提供出色的能效。

  基于NVIDIA GraceCPU超级芯片的新产品系列也将很快上市。这些新服务器均包含144个核心,双CPU及900 GB/s 一致性接口,可运行高响应度的人工智能应用程序和需要极低延迟响应的应用程序。此外,CPU以500W TDP的速度运行,该系统将为云原生工作负载和下一代人工智能应用降低能耗。

  在采访中当问及Supermicro拥有超越行业标准的亮眼成绩,取得巨大成功的原因,以及抓住了哪些机会等话题时,梁见后谈到了成功的三点因素。

  一是,模块化解决方案为高效服务客户提供了巨大的助力,它能够更快地把产品交付给客户,减少等候时间,提高服务效率。模块化的解决方案一直都是我们非常重要的成功驱动因素。

  其二,绿色计算。从18年前,Supermicro就开始布局绿色计算解决方案,帮助客户进一步减少自己的电力成本以及能源消耗。当前,通过Supermicro的解决方案,数据中心的电力消耗可以降低达30%,让整体成本获得大幅下降。

  他表示绿色计算已经成为SupermicroDNA的一部分。“不管是我们所有的产品设计还是电路等等,都会去优化它的能源消耗,提高它的能耗效率,可以极大帮助我们的系统节省5-10%的能源消耗。而在热管理子系统当中,我们也以最优化的设计让冷却设计本身就具备更低的排热和散热的需求,以及采用了很多新的材料来降低散热的能耗需求。我们将会延续我们的绿色计算DNA,做好这些散热优化,以帮助我们的客户降低碳足迹和碳排放。”他说道。

  目前,数据中心消耗的电力占到了全球电力需求的1-1.5%,因此绿色计算对于数据中心至关重要。Supermicro完整的机架级液冷解决方案可以大幅降低对传统冷却方法的需求。通过冗余和热插拔电源和泵,机架上的所有高性能AI和HPC优化服务器都能够得到有效冷却,不惧电源或泵发生任何故障。该解决方案还为CPU和GPU量身定制了冷板(Cold Plate),相较于传统设计能够更有效地去除热量。如果数据中心利用Supermicro技术将其PUE降低至近1.0,不仅能节省高达100亿美元的能源成本,并且相当于减少建造30座化石燃料发电厂。

  第三是机架级整体解决方案,有效减少客户的等候时间。此前客户需要自身进行整合,现在得益于Supermicro的全机架级完整解决方案,客户能够即插即用,帮助客户实现快速启动,更好地实现业务的发展。

  梁见后说,像ChatGPT以及其他很多的AI应用场景下,我们能够加速交付周期,这是非常关键的一点。传统的交付周期,可能客户需要花3个月/6 个月才能完成他们的部署,但是现在有了我们的系统级/机架级的液冷解决方案,所需要的交付周期短至2周。我们的Delta-Next支持正常的液冷/空气冷却,同时客户一旦收到就能够实现即插即用,很多客户都非常青睐这一技术。

  他透露,Supermicro在不断地增强投资,现在已经可以每个月交付4000套机架级的解决方案。到今年年末,出货量将会增加到5000套机架级的解决方案。

  梁见后表示,液冷其实并不是一个新鲜的东西,存在已经超过 30 多年了,但由于面临成本挑战,一直没有成为主流。而Supermicro会大力推广液冷,一旦液冷方案在降低成本之后会带来大规模应用。Supermicro的Building Block解决方案就能够很好应用液体冷却技术。“我们相信随着技术的进步,更多的客户会选择液冷,为此我们也在积极扩张产能服务客户。”

  即便由于整体经济的增速减缓,服务器应用端市场可能会稍微放缓,不过梁见后认为通过对客户订单需求的预测来看,今年下半年包括明年都将继续保持强劲的增长。为此Supermicro主要考量如何去更好地满足增长的客户需求。

相关产品

相关新闻

BOB半岛
电话
短信
BOB半岛官方网站