基础设施工程师-AI Infra方向

岗位职责： 1. 设计并实现自研GPU集群的云原生平台能力，包括Kubernetes GPU Device Plugin、Operator、容器runtime等组件。 2. 构建超节点集群调度系统，实现跨节点GPU作业调度、资源分配、负载均衡及拓扑感知调度，提升吞吐率和降低延迟。 3. 在GPU调度层面与大模型推理框架协作，规划和调度KV Cache和PD分离策略、实现高效GPU利用率、降低延迟并提升吞吐率。 4. 分析GPU集群硬件拓扑、网络和存储结构，为调度策略提供硬件感知能力。 5. 大模型推理集群部署与问题定位。 6. 设计并开发GPU集群监控与控制平面系统。 岗位要求： 1. 熟悉Linux，擅长Go/C++/Python编程语言。 2. 熟悉Kubernetes和容器技术，具备GPU云原生技术实践经验。 3. 熟悉作业调度框架（如 Volcano、Slurm），能设计和优化 GPU 作业调度、监控和资源分配策略。 4. 熟悉大模型推理流程，有vllm使用经验。 5. 熟悉基于Prometheus、ELK Stack、OpenTelemetry的可观测性体系建设，具备控制面板与运维平台开发能力。 加分项： 1. 熟悉GPU硬件拓扑（GPU/PCIe/NVLink/NUMA）、节点间网络（RDMA/InfiniBand/NVSwitch）及存储I/O优化，具备硬件感知调度能力。 2. 了解大集群推理框架（LLM-D、AiBrix）及跨节点调度特性，能在调度层优化KV Cache和PD分离，实现高GPU利用率和低延迟。