数据存储产业服务平台

慧荣科技刘耀仁:边缘AI时代,存储如何决定体验

2026年8月,在2026全球闪存峰会上,慧荣科技产品企划部经理刘耀仁发表了题为《引领未来:智能存储与边缘AI趋势》的演讲。他指出,AI已经从流行词汇变成真正改变工作与生活方式的技术,而AI的价值真正落地,必须依靠边缘设备——PC、手机、汽车、机器人——让用户触手可及。然而,当AI模型和数据从云端下沉到本地设备,存储系统面临着一系列全新的挑战:性能、功耗、安全,以及如何让SSD“理解”AI数据的特征。慧荣科技的解决方案有效化解这些真实系统的挑战,展示了一颗面向AI PC的PCIe Gen5主控应具备的能力。

边缘AI的体验瓶颈:存储性能与功耗的双重考验

边缘AI的核心挑战,首先来自存储性能。当AI模型和数据运行在本地,SSD需要同时应对两种截然不同的负载:模型加载依赖高速顺序读取,而KV Cache和推理数据高度碎片化,持续产生随机I/O。如果存储延迟不稳定,即便CPU、GPU再强大,也只能等待数据。在演讲中,刘耀仁表示,“存储延迟,会让CPU、GPU与NPU等待数据。

慧荣的解决方案是SM2524XT主控芯片,它拥有两个关键性能指标:连续读取速度达到14.9GB/s,已逼近PCIe Gen5的带宽上限;随机读写性能达到2.8M IOPS,在处理碎片化的KV Cache数据时表现出色。这意味着,用户加载大模型可以少等几分钟,推理过程中的碎片化访问也能保持稳定高效。

功耗是另一个瓶颈。在边缘设备中,SSD与CPU、GPU、NPU共享有限的电池容量和散热空间。如果SSD功耗过高,不仅会缩短续航,还会压缩AI运算的功耗预算。更严重的是,高温可能触发热限制导致降频,系统性能随之下降,AI体验也会打折扣。

慧荣科技产品企划部经理刘耀仁

SM2524XT通过三个设计手段解决功耗问题:采用台积电6nm先进制程、低功耗主控芯片架构,以及慧荣一贯擅长的DRAM-less设计。DRAM-less不仅省去了DRAM的BOM成本和PCB空间,还能进一步降低功耗。相比前一代PCIe Gen5产品,每瓦性能提升25%,在2TB容量下功耗低于5W,实现了每瓦3G IOPS的能效。

数据安全:从固件到量子攻击的全面防护

AI本地化带来的另一个重要议题是数据安全。

当模型、个人数据和身份凭证长期保存在设备端,设备遗失可能导致静态数据和个人隐私暴露,未授权访问可能窃取提示内容、文件甚至身份凭证。更底层的问题是固件安全——如果固件被恶意篡改,应用层的所有安全防护都可能形同虚设。

慧荣将全方位安全保护集成到硬件架构中,从数据、身份到固件的全方位安全堡垒。数据保护层面,提供实时AES 128/256全盘加密;存储认证层面,支持TCG Opal、SHA256/384/512以及TRNG随机数生成器;固件保护层面,实现Secure Boot和固件认证,防止固件被恶意篡改或窃取。此外,SM2524XT还支持最新的CNSA 2.0标准,能够有效防护量子攻击。

内存容量墙与KV Cache卸载:让SSD扩展AI内存

在AI推理过程中,KV Cache是加速生成的关键技术——它保存了已经计算过的中间结果,避免重复计算。然而,KV Cache会随着上下文长度持续增长。当上下文从128K扩展到1M,缓存需求从80GB增长到300GB以上。HBM和DRAM容量有限,旧Token会被截断,长对话的上下文随之丢失;断电后缓存消失,下次需要重新计算,严重影响AI体验。

慧荣的思路是分层存储:将当前活跃的热缓存放在HBM,容量较大的温缓存放在DRAM,暂不活跃的冷数据卸载到NVMe SSD,需要时再加载回来。但问题在于,数据写入SSD后,语义消失了。SSD只知道LBA和读写命令,不知道哪些KV Cache很快会再次被访问,也无法判断热数据与冷数据。这就像仓库收到没有标签的箱子,不知道哪箱明天就要出货,哪箱可以放三个月。

慧荣的解决方案是利用NVMe协议中的DSM(数据集管理)命令,让Host将数据特征告诉SSD。AI Runtime知道哪些LBA对应KV Cache,Host通过DSM命令标记存取频率、延迟敏感性和连续访问提示,SSD固件据此建立block score,决定冷热数据如何放置。GC阶段优先回收有效页较少的块,降低写放大。这不是应用层换个API就能办到,也不是SSD固件单方面的优化,而是AI Runtime、NVMe协议与SSD固件三方的协同。

刘耀仁还介绍了与英特尔合作的概念验证。通过英特尔的OpenVINO工具加载AI模型,调用应用层执行程序完成模型优化,在SSD端实现DSM命令,让SSD根据数据特征优化,加速AI工作负载。这一验证路径证明了端到端的可行性。

一颗AI主控的四个关键词

刘耀仁用四个关键词总结了SM2524XT作为PCIe Gen5 AI主控芯片的核心能力。第一是性能,既要高速顺序吞吐,也要持续随机I/O;第二是低耗,不是在峰值上不计代价,而是在有限功耗和散热预算里交付更高能效;第三是安全,本地模型、用户数据和固件可信度要一起保护;第四是模型优化,通过KV Cache卸载扩展AI内存,再用DSM Hint把数据语义一路传到SSD固件。

“AI越靠近用户,存储就越靠近体验核心。”刘耀仁表示,SSD正从被动的容量层,成影响推理速度、上下文规模、系统能效和数据安全的主动组件。SM2524XT正是将性能、安全、低耗与AI-aware模型优化整合在一颗PCIe Gen5主控中的方案。

从被动存储到主动智能

从性能与功耗的平衡,到数据安全的全面防护,再到通过KV Cache卸载和DSM语义传递实现存储智能化,慧荣SM2524XT无疑是最理想的系统级的解决方案之一。刘耀仁表示,没有边缘装置就没有AI体验,没有智能存储就没有好的边缘AI。在AI PC快速普及的今天,这或许正是整个存储产业需要重新思考的命题。

未经允许不得转载:存储在线-存储专业媒体 » 慧荣科技刘耀仁:边缘AI时代,存储如何决定体验