Skip to content
← Back to job listings

软件技术岗(后端模型调度)(J11506)

CETC Chip Technology · 重庆市

External listingFull-time16 days ago

About The Role

1.负责AI推理服务调度与模型架构决策;

2.负责垂域大模型的微调(SFT/LoRA/QLoRA)与知识蒸馏;

3.负责模型评估与测试(基准测试、业务场景评估);

4.负责模型版本管理与MLOps(灰度发布、回滚、漂移检测)

1.计算机/人工智能相关专,硕士研究生及以上学历;

2.具备3年以上后端开发经验,有AI模型微调/部署经验优先;

3.技能:精通Python/Go,熟悉高性能API开发(FastAPI/gRPC),熟悉主流推理框架(Trition Inference Server、vLLM、TensorRT-LLM),熟悉主流微调框架(HuggingFace Transformers、PEFT、LoRA、QLoRA),熟悉模型蒸馏技术(Teacher-Student架构、知识迁移),熟悉模型评估方法(基准测试、业务指标评估、A/B测试),熟悉MLOps工具(MLflow、Weights&Biases、Model Registry),有K8s部署经验,熟悉容器化调度,了解GPU资源管理与队列调度(如Volcano、Kubeflow),熟悉API网关(如Kong、APISIX)

4.具备良好的团队协作与沟通能力,能清晰编写技术文档(架构设计文档/接口规范/模型评估报告),有主动学习意识,能跟踪技术前沿

5.有以下经验者优先:有千级QPS推理服务经验,有模型量化落地经验(INT4/FP8),有垂域数据集构建经验,熟悉强化学习对齐(RLHF/DPO)

This is an external listing. JobSpring does not represent or verify the employer. Report this listing