目录一、测试环境与核心规则说明二、核心实测结果小文件写入吞吐量RustFS形成碾压优势三、读取性能对比单次串行延迟为架构取舍高并发稳定性RustFS反超为什么串行单次读取MinIO延迟略低深度原理解释附官方文档/源码佐证MinIO 策略预加载元数据换瞬时 RT常驻内存开销更高RustFS 策略惰性按需加载以小幅单次RT换取低内存、高并发稳定性四、为什么RustFS能在小文件写入场景实现性能碾压1. Rust语言底层特性彻底解决内存与调度瓶颈2. 内核级架构优化专为小文件场景定制3. S3 Table原生适配深度贴合AI数据湖五、适用场景与选型建议六、总结参考文献在AI大模型训练、大数据元数据管理、海量小文件归档等核心场景中100KiB以下小文件的读写性能直接决定了整个存储集群的业务效率。长期以来MinIO凭借轻量化部署、S3协议兼容的优势成为中小团队私有化存储的主流选型但在高频小文件读写场景中其性能瓶颈始终是行业痛点。近期基于Rust开发的国产开源对象存储RustFS发布了最新版本的集群压测报告在1KiB-100KiB小文件全场景写入吞吐量大幅领先高并发负载下稳定性优势显著为AI存储、轻量化数据湖场景提供了全新的高性能解决方案也成为现阶段最具竞争力的国产MinIO替代选型。一、测试环境与核心规则说明本次压测采用完全一致的集群环境与测试规则确保对比结果公平可复现集群配置4节点 × 4磁盘EC纠删码策略44单测试时长5分钟测试对象RustFS最新稳定版、MinIO最新官方版核心测试维度PUT/GET吞吐量、每秒读写对象数obj/s、平均读写延迟测试场景1KiB、4KiB、10KiB、16KiB、32KiB、100KiB全档位小文件读写二、核心实测结果小文件写入吞吐量RustFS形成碾压优势写入是Iceberg数据湖快照生成、AI数据集新增、增量数据落地最核心的负载也是本次测试差距最直观的维度。为方便直观对比我将1KiB-100KiB全档位小文件PUT写入核心性能数据整理如下文件大小RustFS写入性能(obj/s)MinIO写入性能(obj/s)性能提升幅度1KiB1524.83802.591.9倍4KiB1562.47737.892.1倍10KiB1518.47808.241.9倍16KiB1559.23781.072.0倍32KiB1436.43808.891.8倍100KiB1092.93581.641.9倍同时RustFS的写入平均延迟也远低于MinIO4KiB文件写入平均延迟仅13.4msMinIO则高达25.3ms延迟降低近50%大幅提升了AI训练、元数据更新等高频写入场景的业务效率。三、读取性能对比单次串行延迟为架构取舍高并发稳定性RustFS反超前置备注下表统计为单连接串行单次读取延迟并非高并发业务负载表现二者小幅延迟差异是两套系统元数据调度策略的设计取舍不代表整体性能优劣。文件大小RustFS平均读取延迟MinIO平均读取延迟场景表现总结1KiB3.4ms1.3ms双方均为极低延迟满足基础业务需求100KiB5.7ms4.2ms延迟差距极小业务侧几乎无感知差异高并发混合小文件延迟波动极小稳定可控延迟波动明显稳定性偏弱RustFS高并发稳定性全面领先为什么串行单次读取MinIO延迟略低深度原理解释附官方文档/源码佐证MinIO 策略预加载元数据换瞬时 RT常驻内存开销更高MinIO默认启用metacache元数据缓存机制访问任意目录后会将该前缀下全部对象元数据长期驻留节点堆内存默认最多占用服务器25%物理内存用于缓存资源。单文件GET请求无需额外磁盘检索元数据空载串行场景请求链路更短瞬时读取延迟更低。但这套机制存在固有缺陷海量小文件场景基线内存占用居高不下Go语言GC在大量小对象频繁分配释放时会周期性触发STW停顿高并发读写下锁冲突、内存争抢加剧延迟毛刺明显长期硬件采购成本更高。RustFS 策略惰性按需加载以小幅单次RT换取低内存、高并发稳定性RustFS采用按需元数据加载冷热动态缓存调度双层架构不会在服务启动时预加载全量目录元数据仅将高频热点元数据常驻内存冷目录、历史快照元数据持久存储在磁盘引擎中首次访问需要额外一轮磁盘检索因此串行单请求RT轻微偏高。该机制在RustFS官方分层存储文档与开源源码中均有明确体现源码crates/filemeta​模块读取逻辑为先查询内存热点缓存未命中则读取持久化磁盘元数据天然多出一次IO判断开销官方硬件部署文档也明确说明Rust不会静态预分配大块DRAM存放全量元数据空闲缓存资源自动回收以此压低整机基线内存占用。相比MinIO方案该架构更贴合AI数据湖真实混合负载Rust无运行时GC不存在垃圾回收停顿、堆内存持续膨胀问题海量样本随机读写时延迟波动极小、吞吐上限更高长期运行稳定性更强。四、为什么RustFS能在小文件写入场景实现性能碾压RustFS能在100KiB以下小文件写入场景全面超越MinIO核心源于底层架构与语言特性的双重优势精准解决了传统Go架构在小文件场景的性能瓶颈。1. Rust语言底层特性彻底解决内存与调度瓶颈RustFS基于Rust语言开发凭借零成本抽象、无GC垃圾回收、内存安全的底层特性彻底摆脱了Go语言架构的内存抖动、调度延迟问题。在高频小文件读写场景中RustFS的内存占用更低、线程调度更高效无需为GC垃圾回收暂停业务线程大幅提升了高并发场景下的吞吐量与稳定性。2. 内核级架构优化专为小文件场景定制区别于MinIO的通用化架构设计RustFS从底层就针对小文件、高并发场景做了内核级优化元数据管理优化针对小文件的高频元数据读写设计了专属的冷热分层缓存策略仅热点元数据加载至内存大幅降低元数据读写开销小文件聚合存储针对海量小文件的存储痛点减少磁盘随机IO次数提升整体吞吐零拷贝数据传输基于Rust内存安全模型减少用户态/内核态内存拷贝损耗3. S3 Table原生适配深度贴合AI数据湖RustFS即将开源的S3 Table能力原生兼容Apache Iceberg存储层可直接识别表、分区、快照语义无需额外网关做协议转换进一步缩短AI数据集读写链路。五、适用场景与选型建议从实测结果来看RustFS在100KiB以下小文件写入吞吐量优势极为明显高并发负载稳定性更强完美适配以下核心业务场景AI大模型训练/推理训练数据集、元文件高频读写对吞吐与延迟稳定性要求极高Apache Iceberg数据湖海量小文件快照、增量更新场景海量日志/图片小文件归档边缘轻量化AI存储对于正在使用MinIO、受内存成本、小文件并发性能困扰的团队RustFS是性价比突出的国产MinIO替代方案兼具国产化自主可控、低常驻内存、高并发稳定三大核心优势。六、总结AI数据湖核心的小文件写入场景RustFS吞吐量达到MinIO 1.8~2.1倍碾压级性能串行单次读取毫秒级差距属于架构取舍MinIO靠预占内存换瞬时低延迟Rust以低基线内存、高并发稳定适配生产负载混合高并发真实业务下Rust延迟波动更小、长期运行更适配AI训练、数据湖业务。参考文献[1] MinIO官方缓存配置文档metacache内存预分配机制 https://docs.min.io/aistor/reference/aistor-server/settings/cache/[2] MinIO元数据缓存底层原理Go GC海量小文件并发抖动问题 https://blog.csdn.net/gitblog_00446/article/details/151815311[3] RustFS GitHub开源仓库元数据模块源码冷热元数据先内存后磁盘读取逻辑 https://github.com/rustfs/rustfs/tree/main/crates/filemeta[4] RustFS官方分层存储技术文档冷热数据调度、内存动态回收设计 https://docs.rustfs.com/features/industry/[5] RustFS AI场景架构说明面向Iceberg小文件场景优化设计 https://docs.rustfs.com/features/ai/以下是深入学习 RustFS 的推荐资源RustFS官方文档 RustFS 官方文档- 提供架构、安装指南和 API 参考。GitHub 仓库 GitHub 仓库 - 获取源代码、提交问题或贡献代码。社区支持 GitHub Discussions- 与开发者交流经验和解决方案。​​