AI训练性能提高2.5倍,三星使用96张改造的AMDInstinctMI

来源:IT之家2022-12-15 14:32    阅读量:16165   

三星使用内置PIM的显卡构建了世界上第一个大规模计算系统引用Business Korea,使用PIM改装的96 AMD Instinct MI100 GPU,AI训练的性能提升了2.5倍

AI训练性能提高2.5倍,三星使用96张改造的AMDInstinctMI

PIM是一种新型的计算机内存,可以加速CPU和GPU的处理能力PIM最大的特点是每个内存模块都可以自己处理数据,从而减少了内存和处理器之间需要传输的数据量

三星在今年10月公开展示了PIM修改的GPU,现在该公司已经将96个PIM修改的GPU放在集群中与普通显存相比,这些改进的MI100芯片不仅性能提升了2.5倍,功耗也降低了2.67倍,大大提高了GPU运行AI算法时的效率

三星PIM已经发展了一段时间该公司在2021年展示了多种实施方案,涉及多种不同的内存类型,包括DDR4,LPDDR5X,GDDR6和HBM2在LPDDR5的形式下,三星在涉及Meta AI工作负载的测试程序中,性能提高了1.8倍,功耗降低了42.6%,延迟降低了70%

本站了解到,AMD Instinct MI100加速器的设计完全是为了迎接新的计算时代1MI100加速器采用AMD CDNA架构,在计算和互联性能上实现了飞跃相比上一代AMD加速器,高性能计算性能提升近3.5倍,人工智能提升近7倍

三星并不是唯一一家开发PIM芯片的公司——SK海力士今年早些时候发布了自己的PIM模块根据SK海力士的初步测试,其GDDR6—AiM应用可以将AI处理速度提高16倍,功耗降低80%这比三星改装的MI100s要快很多,但是我们不知道SK海力士用什么工具进行测试,所以无法直接对比

关键词:

责任编辑:张璠

郑重声明:此文内容为本网站转载企业宣传资讯,目的在于传播更多信息,与本站立场无关。仅供读者参考,并请自行核实相关内容。