HBF:最高 512 GB、3 TB/s,介于 HBM 与 SSD 之间
… 3 Minuten · 524 Wörter · 3,697 Zeichen 1.0× SK hynix 和 Sandisk 发布了 High Bandwidth Flash 的首批开放规范。HBF 使用 NAND 闪存,但旨在比传统 SSD 更靠近处理器运行。规划中的配置容量最高可达 512 GB,带宽最高可达 3 TB/s。这在昂贵的 HBM 与面向容量的 SSD 之间构建了一个新的存储层级。该概念主要面向 AI 推理。现代模型需要大量数据,这些数据无法全部装入 HBM,或者放入 HBM 的成本过高。如果模型权重不断从 SSD 重新加载,接口和延迟就会限制加速器。HBF 旨在直接在封装内…