AMD周一宣布收购MEXT,这是一家开发了内存分层技术的初创公司,该技术可使NAND闪存对操作系统呈现为DRAM,从而帮助数据中心运营商节省DRAM开支。AMD预计此次收购将帮助客户提升系统效率、降低运营成本,并更快地部署大规模工作负载。
随着AI模型持续扩大、数据集不断增长,内存可用性已成为影响整体系统性能的越来越重要的因素。在许多情况下,内存资源(而非CPU或GPU)正在成为性能瓶颈。与此同时,DRAM在许多情况下并未得到高效利用。
MEXT通过基于AI的内存分层技术应对内存效率挑战,该技术将不常访问的数据从昂贵的DRAM迁移至NAND存储,后者单位容量的成本要低几个数量级,且对应用程序完全透明。MEXT的预测内存引擎持续分析内存访问模式,并利用AI模型预测闪存中哪些数据接下来会被需要。这些内存页面会在应用程序请求之前主动传回DRAM,使软件能够像访问主内存一样访问数据,从而保持性能水平。
通过增加应用程序可用的内存容量,MEXT的技术旨在提高现有基础设施的利用率,同时降低对昂贵DRAM的需求。这种方法有望降低云服务提供商和企业客户的总体拥有成本,并使现有硬件能够运行更大规模的工作负载。AMD认为,这些能力既能使传统数据中心应用受益,也能助力现代AI部署。在AI场景中,访问大容量内存池往往对效率和可扩展性至关重要。
AMD计划将MEXT的技术整合到其数据中心产品组合中,并扩展其能力以满足内存密集型AI工作负载的需求。该公司已经提供集成处理器、加速器、网络技术和软件的完整解决方案,因此MEXT的预测内存引擎将与其已十分广泛的产品组合形成互补。