软件技术岗(后端模型调度)(J11506)
CETC Chip Technology · 重庆市
About The Role
1.负责AI推理服务调度与模型架构决策;
2.负责垂域大模型的微调(SFT/LoRA/QLoRA)与知识蒸馏;
3.负责模型评估与测试(基准测试、业务场景评估);
4.负责模型版本管理与MLOps(灰度发布、回滚、漂移检测)
1.计算机/人工智能相关专,硕士研究生及以上学历;
2.具备3年以上后端开发经验,有AI模型微调/部署经验优先;
3.技能:精通Python/Go,熟悉高性能API开发(FastAPI/gRPC),熟悉主流推理框架(Trition Inference Server、vLLM、TensorRT-LLM),熟悉主流微调框架(HuggingFace Transformers、PEFT、LoRA、QLoRA),熟悉模型蒸馏技术(Teacher-Student架构、知识迁移),熟悉模型评估方法(基准测试、业务指标评估、A/B测试),熟悉MLOps工具(MLflow、Weights&Biases、Model Registry),有K8s部署经验,熟悉容器化调度,了解GPU资源管理与队列调度(如Volcano、Kubeflow),熟悉API网关(如Kong、APISIX)
4.具备良好的团队协作与沟通能力,能清晰编写技术文档(架构设计文档/接口规范/模型评估报告),有主动学习意识,能跟踪技术前沿
5.有以下经验者优先:有千级QPS推理服务经验,有模型量化落地经验(INT4/FP8),有垂域数据集构建经验,熟悉强化学习对齐(RLHF/DPO)
This is an external listing. JobSpring does not represent or verify the employer. Report this listing
JobSpring