About The Role

高性能优化工程师（LLM/CV/语音）
工作地：上海/重庆/深圳
岗位职责：
负责大语言模型（LLM）、计算机视觉（CV）、语音（ASR/TTS/Audio）等 AI 模型在端侧及云端的推理性能优化与工程落地。
负责模型部署、推理加速与资源优化，包括但不限于：推理时延（Latency）优化、吞吐量（Throughput）提升、显存/内存占用优化、功耗优化等
负责 GPU、NPU、CPU 等异构计算平台上的性能分析与优化，推动模型在移动终端和边缘设备上的高效运行，包括：算子优化（Operator Optimization）、多线程与任务调度优化、内存与通信优化等
负责 AI 模型在 Android 手机及 IoT 设备上的部署与性能调优，推动端侧 AI 能力规模化落地。
与算法、平台、系统及产品团队协作，建立模型性能评测体系、优化工具链和最佳实践，持续提升 AI 产品体验。
跟踪 AI 推理框架、芯片平台及行业前沿技术发展，探索大模型、多模态模型、Agent 等新型 AI 能力的高性能部署方案。
任职要求：
熟悉 PyTorch/TensorRT/ONNX 等框架
熟悉 CUDA、GPU Profiling、Kernel/显存/通信优化
熟悉高通、MTK平台 NPU 开发优化，有端侧模型量化，压缩，功耗优化经验
熟悉 Transformer、CV 或语音模型的结构及性能瓶颈，有模型压缩加速经验
熟悉 Android 平台 C/C++ 开发

This is an external listing. JobSpring does not represent or verify the employer. Report this listing

高性能优化工程师（LLM/CV/语音）(J20001)