About The Role

【岗位职责】
主导基于 SSD 的 KV Cache 卸载与存储调度，通过算法 - 系统协同优化显著降低推理延迟并提升吞吐量。基于 NVMe 协议及 NAND 特性进行底层深度调优，以平衡性能、成本与可靠性。
【任职要求】
o 计算机、电子工程或相关专业硕士及以上学历，5 年以上存储系统开发经验，其中至少 2 年专注于高性能 NVMe SSD 或 AI 基础设施领域。
o 精通 NVMe 协议规范，熟悉 Linux 内核存储子系统（Block Layer, Filesystem, io_uring）。
o 熟练掌握 GPUDirect Storage (GDS)、RDMA、CUDA 编程模型，具备 GPU 直连存储的实际开发经验。
o 精通 C/C++ 或 Rust，具备高性能并发系统开发能力，熟悉 SPDK 者优先。
o 深入理解 Transformer 架构及大模型推理原理，熟悉 PagedAttention、Speculative Decoding 等主流推理优化算法的内存/显存访问模式。
o 具备从存储系统角度对推理算法进行协同优化的能力，能够根据算法的 I/O 特征（如 Prefill 与 Decode 阶段的差异）设计高效的调度策略。
o 熟悉 vLLM、DeepSpeed、PyTorch 等框架的 I/O 机制及显存管理逻辑，有相关源码阅读或修改经验者优先。
o 具备极强的性能分析与调优能力，熟练使用 Perf, eBPF, Nsight Systems 等工具定位系统瓶颈（如 I/O 抖动、延迟毛刺、PCIe 带宽利用率等）。
【加分项】

This is an external listing. JobSpring does not represent or verify the employer. Report this listing

AI Storage 研究员/专家（SSD)(J14570)