AMD再次颠覆游戏规则,全新处理器力挫对手,引领性能风潮!
智慧科技
12月13日的报道显示,早在四年前,AMD设定了一个雄心勃勃的目标:到2025年,其EPYC系列服务器处理器和Instinct系列AI芯片的能效要提升至2020年的30倍。令人惊讶的是,MI300X AI芯片在这一目标上取得了突破性进展,比预期的时间提前了一年。 这样的成就不仅体现了AMD在技术创新方面的强大实力,也展示了其在推动行业能效提升方面所作出的贡献。从长远来看,这不仅有助于降低数据中心的能耗成本,还能对环境保护产生积极影响。AMD通过加速推进技术进步,为整个科技行业树立了一个良好的榜样,促使其他企业也更加注重可持续发展和技术效能的提升。
据THW报道,AMD的两颗64核心EPYC 9575F CPU、八块Instinct MI300X AI芯片以及2304GB DDR5内存的服务器,在进行Llama3.1-70B(vLLM0.6.1.post2、TP8)测试以评估其推理性能时,通过一组复杂的计算来确定系统的能源效率,并与2020年的旧机器进行了对比。 从这次对比中可以看出,最新的服务器在处理大规模语言模型任务时不仅具备更强的性能,而且在能源使用方面也更加高效。这表明技术进步不仅体现在计算能力的提升上,同时也关注到了可持续发展的问题。随着人工智能应用需求的不断增加,高性能且节能的解决方案显得尤为重要。这不仅有助于降低运营成本,还对环境保护有着积极的影响。此外,这样的改进也为未来的技术发展指明了方向,即在追求更高性能的同时,也要注重资源的有效利用和环境友好性。
结果显示,新机能源效率是旧机的28.3倍。
不过,AMD并未透露2020年所使用的旧机型具体规格,但推测很大可能是基于EPYC 7002系列处理器,该系列采用Zen 2架构,每个CPU最多支持64个核心,并且搭配了CDNA1架构的Instinct MI100 AI芯片。 从这些技术参数来看,AMD在2020年的产品配置已经相当先进,特别是在服务器和高性能计算领域。EPYC 7002系列处理器凭借其强大的多核心优势,在处理大规模并行任务时具有明显的优势。而Instinct MI100 AI芯片则进一步强化了其在人工智能领域的应用能力。这一组合不仅满足了当时市场对高性能计算的需求,也为后续产品的研发奠定了坚实的基础。总体而言,AMD在这段时间内的技术布局显示出其在数据中心和专业计算市场的雄心壮志。
AMD表示,除了强力硬件改进,更高性能效率是架构进步,加上软件优化结合,是跳跃式进展。
今年10月份的Advancing AI 2024大会上,AMD正式发布了新款AI芯片——GPU加速卡“Instinct MI325X”。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。
MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB。
MI325X同样支持八块并行组成一个平台,从而实现高达2TB的HBM3内存、48TB/s的带宽,总体性能达到FP16 10.4PFlops(每秒1.04亿亿次)以及FP8 20.8PFlops(每秒2.08亿亿次)。 这种强大的计算能力不仅展示了MI325X在高性能计算领域的潜力,同时也预示着未来数据中心和AI运算架构的新趋势。如此高的内存容量和带宽意味着MI325X能够处理更为复杂的数据密集型任务,对于需要大量并行计算的应用场景来说,无疑是一个极具吸引力的选择。此外,它在FP16和FP8精度下的卓越性能也表明了其在深度学习和其他人工智能应用中的广泛适用性。总之,MI325X的推出无疑将为科技行业带来新的变革力量。
尽管NVIDIA H200在单卡和八卡平台上进行不同大模型的推理时,其性能已经领先于竞品,但经过实测发现,无论是在单卡配置还是多卡配置下,NVIDIA H200的性能相比竞品依然可以领先20%到40%。这一显著的优势不仅彰显了NVIDIA在GPU领域的领先地位,也预示着未来AI计算领域可能进一步向NVIDIA倾斜。对于用户而言,这样的性能提升意味着更高的工作效率和更低的运营成本,特别是在处理大规模数据集和复杂模型时,NVIDIA H200无疑能够提供更加稳定和高效的解决方案。然而,随着技术的不断进步和竞争的加剧,其他厂商是否会迎头赶上,或者开发出更具竞争力的产品,也是值得我们持续关注的焦点。
训练性能方面,单卡可领先H200 10%,八卡平台则是持平。
MI325X加速卡及其平台计划在四季度内正式投产。与此同时,合作伙伴的整机系统和基础架构解决方案则将从明年第一季度开始陆续推出。 这种逐步推进的战略显示出公司对于新技术推出的谨慎态度。通过在内部完成技术验证和生产准备之后再向市场推出,可以有效减少潜在的技术故障风险,确保产品能够稳定运行。同时,这也为合作伙伴提供了充足的时间去开发配套的解决方案,从而确保整个生态系统能够在MI325X加速卡上市时就具备良好的兼容性和性能表现。这样的规划不仅有助于保护公司的品牌形象,同时也为市场上的客户提供了可靠的选择。