后端研发工程师(开发者生态方向)
step · 徐汇区, 上海市, 中国
About The Role
岗位职责 1、 平台核心架构设计与开发:负责大模型开放平台的整体架构设计与核心模块研发,包括 API Gateway、模型路由、流量调度、多租户隔离等,确保系统高可用、高并发与可扩展。 2、 模型服务化与接入层建设:设计并实现统一的模型调用协议与接入标准,支持多模型(自研/三方)的统一接入、版本管理、灰度发布与流量切换,对外提供标准化的 API/SDK。 3、平台运营与治理能力建设:构建开放平台的计量计费、配额管控、限流熔断、Token用量统计、调用链追踪、异常监控告警等治理体系,支撑平台的商业化运营。 4、Agent 平台基建:参与 Agent编排引擎的设计与开发,涵盖任务编排、上下文管理、工具/插件注册与调用、行为策略、Memory管理等模块,提升平台标准化与工程化水平。 5、 协议标准与开源生态整合:跟进并落地行业标准协议(Response Api、 Managed Agent Api等),兼容支持主流框架/应用/SDK,构建可插拔的平台能力层,降低业务接入成本。 6、性能优化与技术演进:针对大模型推理场景进行工程侧优化,持续关注前沿技术并推动架构升级。 岗位要求 1、 计算机相关专业,2年以上后端开发经验,具备良好的业务抽象与系统设计能力; 2、 精通 Golang/Java/Python 至少一门语言及其主流框架,深入理解框架特性与底层实现原理; 3、具有大规模分布式系统设计与开发经验,熟悉微服务架构、消息队列、缓存、服务治理等常用中间件; 4、精通 MySQL 及至少一种 NoSQL 数据库(Redis/MongoDB/Elasticsearch等),具备合理的表结构设计与查询优化能力; 5、熟悉 RESTful API / gRPC 设计规范,有平台型产品或开放 API 体系建设经验者优先; 6、了解大模型推理服务的基本原理(Tokenization、流式输出、上下文窗口管理等),有 LLM 应用开发或Agent工程经验者优先; 7、具有良好的沟通协作能力、自驱力和成长型思维,能在快速迭代的环境中主动推动技术方案落地。
This is an external listing. JobSpring does not represent or verify the employer. Report this listing
JobSpring