快科技6月18日消息,AMD日前首次预览了Zen5架构的下一代Turin EPYC处理器,单颗最多128核心,官方也特意强调了其强大的AI性能。
按照AMD的说法,两颗Turin EPYC 128核心对比两颗Intel至强铂金8592+ 64核心,也就是256核心对128核心,可以在Llama2 70亿参数大模型应用中完胜,摘要、对话、翻译性能分别领先约3.9倍、5.4倍、2.5倍。
对于这样的对比,Intel方面自然是不服,特意撰文称对手刻意压低了自己产品的性能,并给出了不一样的数据。
Intel首先表示,Emerald Rapids五代至强凭借AMX AI加速引擎,以及更多核心、更大缓存、更快内存,可以提供出色的AI性能,目前市面上没有敌手。
硬件之上,Intel始终承诺推进AI开放软件,针对整个AI生态进行广泛优化,比如大语言模型推理深度优化之后的延迟相比PyTorch默认值降低了5倍。
Intel指出,AMD对比中的至强铂金8592+成绩采用了未优化的软件和测试方式,性能偏低,比如对话部分的实际成绩能达到AMD宣称的接近5.5倍,从而可以领先Turin EPYC。
Intel还进一步强调,AI的应用不只是大模型,比如在INT8整数类型上的各种深度学习推理上,四代和五代至强就都有着最优秀的性能,比如图像分类、自然语言处理等等,性能都可以完胜AMD现有的旗舰产品EPYC 9754。
AMD Zen5架构的第五代EPYC风雨欲来之际,Intel已经发布了首次采用能效核的至强6 Sierra Forest,后续还会推出采用性能核的至强6 Granite Ridge。
又一场大战就要开始了!就AI而言你看好哪边呢?