About The Role

芯片适配压缩：根据NPU/GPU等芯片特性，设计量化、稀疏等压缩算法
算子优化：在自研芯片上实现和优化AI模型算子，分析性能瓶颈
工具链开发：开发芯片专用的量化压缩工具链和推理加速框架
软硬件协同：参与芯片架构设计，优化软硬件协同性能
模型部署：将压缩后模型部署到芯片平台，优化推理速度和精度
性能调优：分析芯片推理瓶颈，制定优化策略提升部署效果
前沿研究：探索芯片上的模型压缩新技术，推动算法演进
具备深度理解底层 AI 计算硬件架构（如 Nvidia Thor/Orin、地平线 J6P 等，负责 PTQ (后量化) 算法的工程化落地（如 AdaRound, BRECQ, QDrop），解决权重分布不均、离群点导致的精度损失问题。
深入分析数据敏感性与量化误差来源，探索现有量化算法（如 PTQ/QAT）的边界，提升内部工具链在压缩场景下的算法能力；

This is an external listing. JobSpring does not represent or verify the employer. Report this listing

模型压缩算法工程师(J30755)