目录
40多年来,美光一直是创新领域的领导者。存储社区之前介绍过与之相关的DRAM,NAND,SSD,GDDR,NVDIMM和3D XPoint等技术方面的突破,这在存储和内存领域是相当成功的!不可否认对于硬件厂商而言这是一个很好的的卖点,但是软件方面呢?
最近美光宣布将为开源社区贡献一个异构内存存储引擎(Heterogeneous-Memory Storage Engine),简称为HSE。HSE是为基于NAND闪存或永久性存储器的SSD设计的可嵌入键值存储。HSE通过协调跨DRAM和多种SSD或其他固态存储的数据放置来优化性能和耐久性。
值得说明的是异构内存存储引擎HSE是主机级软件,而不是设备级软件。HSE可与SSD和存储类内存配合使用,并可扩展到新接口和存储设备,以用于跨数据库,IoT,5G,AI,HPC和对象存储的应用程序。
该软件提供了一个数据库存储引擎,可以加速各种存储应用程序(例如数据库和对象存储)的性能。存储引擎将数据库之类的应用程序连接到存储驱动器及其控制器,并使它们能够直接与驱动器通信,但它却不是实际的驱动器控制器。美光的HSE代码位于主机中,并取代了现有标准的存储IO堆栈,因此需要与应用程序集成,而美光通过将HSE开源从而促进了这种集成。
美光公司已经使用YCSB(Yahoo Cloud Serving Benchmark)工作负载和四个Micron 9300 SSD在RocksDB存储引擎上测试了启用HSE的工作负载。HSE将性能吞吐量提高了6倍,将延迟降低了11倍,并将闪存寿命延长了7倍。它通过减少写入放大(WA:write amplification)来实现。
美光还将HSE与MongoDB集成在一起,并声称吞吐量提高了8倍。以下是它的主要特点和好处。
主要特点
-
标准和高级键值运算符
-
快照隔离的完整事务跨越多个独立的键值集合
-
用于遍历快照视图的游标
-
用于在单个数据存储中优化混合用例工作负载的数据模型
-
灵活的耐用性控制
-
可配置的数据编排方案
-
可以嵌入任何应用程序中的C API库
好处
-
每个存储可扩展至TB级数据和数千亿个密钥
-
有效处理数千个并发操作
-
与许多工作负载的常见替代方案相比,显着提高了吞吐量,延迟,写放大和读放大
-
(可选)结合多种固态存储,以优化性能和耐用性
我们认为,美光的HSE计划在某种程度上是为了鼓励第三方供应商修改其应用程序,以使其与即将推出的3D XPoint SSD驱动器一起使用。
Ceph是HSE潜在的集成候选者,红帽企业Linux副总裁兼总经理Stefanie Chiras在公告中说:“我们看到美光科技正在引入的技术具有巨大的潜力,特别是因为它采用了创新的方法来降低计算,内存和存储资源之间的延迟。”
对象存储供应商Scality的CTO布拉德·金(Brad King)支持说到:“我们的存储软件不仅可以在成本最低的商品硬件上以最简单的工作负载运行(便宜而好用),它也可以利用闪存,存储类内存和SSD等技术的性能优势满足非常苛刻的工作负载。”
美光的HSE技术无需权衡就可以增强并不断优化闪存性能,延迟和SSD耐久性的能力,相信在不久的将来可以为NoSQL,软件定义存储(SDS),高性能计算(HPC),大数据,物联网(IoT)和人工智能(AI)解决方案提供动力。
参考链接:
https://blocksandfiles.com/2020/04/29/micron-reinvents-storage-io-stack-for-ssd-age/
https://github.com/hse-project/hse/wiki
https://www.micron.com/about/blog/2020/april/micron-contributes-performance-improving-software-to-open-source-community
欣赏