戴尔与AMD合作扩大其生成式人工智能产品组合为客户提供更多选择
发布时间:2024-03-27 16:37:16 编辑:章程洋 来源:
戴尔在其用于人工智能工作负载的高性能计算产品组合中添加了一款基于AMD的服务器。除了Nvidia驱动的版本外,客户很快就可以抢购配备八个AMDInstinctMI300X加速器的新版本DellPowerEdgeXE9680。这有助于企业训练和运行自己的内部大型语言模型(LLM)–提供1.5GB高带宽内存(HBM3)和超过21petaFLOPS的性能。
客户还可以扩展使用全局内存互连(xGMI)标准部署的系统,并通过基于以太网的AI结构与DellPowerSwitchZ9664F-ON连接AMD的GPU。戴尔今年早些时候推出了配备NvidiaH100GPU的设备。
与此同时,还有一项名为“戴尔与AMD进行生成式AI验证设计”的新标准。它虽然拗口,但本质上是一个框架,适合希望运行自己的硬件和网络架构来运行法学硕士的组织。
戴尔客户可以使用该解决方案构建具有各种框架的生成式人工智能平台,这些框架指导技术集成以及物理安装和性能优化。
它还使用AMDROCm支持的AI框架,这是一个开源包,包含与AMDInstinct加速器兼容的驱动程序、开发工具包和API。其中包括PyTorch、TensorFlow和OpenAITriton等流行框架,这些框架都在配备AMD加速器的PowerEdgeXE9680上提供本机支持。
作为超以太网联盟(UEC)的成员,戴尔持续推动基于标准的网络,这意味着它采用了比Nvidia更开放的方法。
上一篇:漫威的塞缪尔杰克逊向已故的Shaft演员理查德朗德特里致敬
下一篇:NvidiaRTX4090电缆熔化问题的一种解决方案刚刚被召回