← Back to job listings
ST
端侧大模型部署优化工程师
step · 海淀区, 北京市, 中国; 徐汇区, 上海市, 中国
About The Role
职位描述: 负责端侧(手机/驾舱/智能硬件)大模型的部署,包括但不限于框架开发,算子优化,硬件适配, 负责端侧大模型的前沿优化技术调研与落地, 参与模型、系统与硬件的协同优化与联合设计。 职位要求: 熟悉 linux,熟悉C/C++/Python,具有良好的编程风格, 熟悉主流的 LLM,VLM 模型架构以及常用的 LLM 优化技术,例如 Continous-Batching, Speculative-Decoding, Quantization 等, 熟悉 GAN、Diffusion、Flow-Matching 多种生成式技术与 DiT 等代表性模型架构, 掌握语音核心技术(ASR、TTS)与模型架构(Whisper、Tacotron),具备端到端的工业级落地经验, 熟悉至少一款主流的推理引擎框架,如 llama.cpp、MNN、vLLM、TensorRT, 熟悉 OpenCL、CUDA 等并行编程, 有异构系统开发经验,熟悉 QualComm NPU 开发流程, 有系统顶会(OSDI、NSDI、MLSys)一作者优先。
This is an external listing. JobSpring does not represent or verify the employer. Report this listing
JobSpring