【虚拟 VRAM 🤪】NVIDIA 近日在 Black 大会上宣佈，正式开放 GPU 储存直通技术（Storage Direct-through）的 cuFile API 原始码及其底层储存软体堆叠（Storage Software Stack），允许 NVMe SSD 固态硬碟直接充当扩充显示记忆体，以缓解硬体显存容量不足所产生的效能瓶颈，进一步提升整体运算执行表现。

 

cuFile API 为 NVIDIA GPUDirect Storage（GDS）技术的核心应用程式介面，主要负责为应用程式提供唿叫 GPU 直连储存装置的能力。其运作目标是在毫秒甚至微秒级别的时间内，将储存资料直接传输至 GPU，大幅缩短传统资料存取与搬移的路径，运作效率堪比系统记忆体。

 

在传统电脑运算架构中，SSD 内的资料必须先经由 CPU 处理并载入系统主记忆体（RAM）进行临时快取，最后才复制到显示卡上的板载显示记忆体（VRAM）中，传输流程相当繁琐。

 

cuFile API 容许 GPU 绕过 CPU、System Memory 和 Video Memory，直接从 SSD 读取压缩资料，并在 GPU 内部完成即时解压缩，无须消耗 CPU 资源与记忆体频宽，有效降低资料传输延迟并显着提升吞吐效率。

 

NVIDIA 指出，当显示卡板载的实体显存（VRAM）耗尽时，GPU 即可直接存取速度较慢但容量极大的 NVMe SSD，将其作为「后备显存」使用。这对于极度消耗 VRAM 资源的运算而言，能有效避免因显存溢出（Out of Memory）而导致的程式崩溃。

 

业界认为，此举反映出 NVIDIA 在面对日益激增的显示记忆体容量需求与硬体生产成本之间的矛盾时，正积极从软体架构与系统最佳化（Optimization）层面寻求创新突破，为使用者提供更具弹性的效能解决方案。

 

 

 

资料来源:

 

• As AI Increases Demands on Memory, Storage Steps Up