戴尔在PowerEdgeAI服务器中提供AMD尖端的InstinctMI300XAI加速器

戴尔已扩大与AMD的合作，目前在其尖端服务器中提供TeamRed最高端的InstinctMI300XAI加速器以及新的生成式AI解决方案。

戴尔决定在其服务器中集成AMD的InstinctMI300XAIGPU，为红队展示定制的GenAI解决方案

[新闻稿]：随着人工智能的快速发展，开源技术与尖端硬件加速的融合正在推动行业创新。戴尔科技和AMD走在前列，提供比公共云IaaS成本效益高出75%的本地基础设施解决方案，并专门为企业中的生成式人工智能应用提供支持。

相关报道AMDRyzen79700X“Zen5”在游戏中比Ryzen77800X3D3DV-CacheCPU快2%

我们很高兴与大家分享一系列推动开放式AI生态系统和框架部署的更新。首先，DellPowerEdgeXE9680现已配备AMDInstinctMI300X加速器，为我们的客户增强AI性能选项。其次，我们发布了戴尔与AMD合作的生成式AI验证设计，支持使用开放框架基础进行自定义应用程序开发。第三，我们新的部署服务将于9月推出，将确保这些创新顺利融入您的运营中。

现已发售–搭载AMDInstinctMI300X加速器的PowerEdgeXE9680

配备AMDInstinctMI300X加速器的PowerEdgeXE9680提供专为利用生成性AI的企业设计的高性能功能，并具有八个MI300X加速器、组合1.5TBHBM3内存和具有稀疏精度性能的42petaFLOPS峰值理论FP8。

这种强大的配置可以更快地训练和推理大型语言模型，帮助组织更高效地提供AI驱动的洞察和创新应用。最近在单节点配置上进行的测试显示出领先的总拥有成本价值：

在DellPowerEdgeXE9680服务器上的单个AMDInstinctMI300X加速器上部署了Llama270B参数模型。

利用DellPowerEdgeXE9680服务器上所有八个可用的AMDInstinctMI300X加速器，部署了该模型的八个并发实例。

在一台配备八个AMDInstinctMI300X加速器的DellPowerEdgeXE9680服务器上以FP16精度对Llama270B参数模型进行微调。

XE9680通过DellOpenManageEnterprise简化部署、通过APEXAIOps软件实现智能自动化、以及通过集成网络恢复和零信任方法增强安全性，使企业能够快速实施和扩展其GenAI解决方案，同时保持强大的安全态势。

戴尔与AMD合作的生成式人工智能验证设计现已上市

戴尔与AMD联合推出的生成式人工智能验证设计于5月发布，现已上市，这是戴尔生成式人工智能解决方案的下一步，旨在帮助企业更轻松地部署值得信赖的GenAI。该设计指南为企业和开发人员提供了全面的指导，帮助他们实施LLM推理和模型定制，以及微调和检索增强生成(RAG)等高级技术。该设计基于开放标准，减少了对专有人工智能软件套件的需求，开发人员可以使用来自HuggingFace和Meta等合作伙伴的开源LLM模型简化开发并自由定制工作流程。

加速现代工作负载。创新和扩展可实现高效、敏捷的业务和成果。

在AMDInstinctMI300X加速器的支持下，戴尔验证设计可实现近线性扩展和低延迟分布式GenAI训练和推理。

PowerScaleF710可提供更快的播出洞察，并大幅提高流媒体性能，从而加速AI管道的所有阶段。

DellPowerSwitchZ9664F-ON提供64个400GbE端口，为现代AI集群提供低延迟和高吞吐量以太网结构。

BroadcomThor2AI优化型NIC可提供400G，以业界最低功耗要求互连MI300X加速器。

促进应用程序开发。开源软件和生态系统使开发人员和数据科学家可以自由创新。

由AMDROCm驱动的框架扩展了戴尔生成式人工智能解决方案生态系统，并包括对PyTorch、TensorFlow、ONNX-RT和JAX等开源大型语言模型的支持，以及AMDInstinct加速器的完整驱动程序、开发工具包和API。

DellOmnia简化了AI集群的创建和管理，实现了配置自动化，从而实现了高效的工作负载处理。

戴尔科技集团推出的企业SONiC分销版提供了一种可扩展的网络解决方案，将开源SONiC平台与戴尔PowerSwitch相结合，提供高级功能和企业级支持。

戴尔验证的生成式人工智能设计可让戴尔客户轻松构建根据其需求定制的GenAI平台，无需再考虑集成、性能和尺寸等因素。