AI资深安全研究员/专家

岗位职责： 1. 安全体系建设： 1.1 负责构建公司级 AI 安全治理框架，制定大模型及 AI 应用的安全开发规范、风险评估标准与应急响应流程。 1.2 主导 AI 系统的红蓝对抗演练，模拟对抗性攻击（如提示词注入、越狱攻击、对抗样本），评估模型鲁棒性并推动漏洞修复。 2. 模型安全与防御： 2.1 针对大语言模型（LLM）及多模态模型，研究并实施内容安全过滤机制，防御有害内容生成、敏感信息泄露及代码注入等风险。 2.2 负责对抗性机器学习技术的研发，防御针对模型的黑盒/白盒攻击，提升模型在恶意输入下的鲁棒性。 3. 数据安全与隐私保护： 3.1 保障 AI 训练数据全生命周期的安全，防范数据投毒、训练数据提取及隐私记忆问题。 3.2 推动联邦学习、差分隐私、可信执行环境（TEE）等技术在 AI 训练与推理过程中的落地应用。 4. 合规与审计： 4.1 跟进国内外 AI 安全法规（如《生成式人工智能服务管理暂行办法》、EU AI Act），确保 AI 产品符合监管合规要求。 4.2 建立 AI 模型的安全审计机制，定期输出安全评估报告，协助业务部门通过相关安全认证。 5. 前沿追踪与应急： 5.1 跟踪最新 AI 安全攻防技术（如 Agent 安全、多模态对抗），复现并防御新型攻击手法。 5.2 作为安全接口人，快速响应 AI 业务线的安全事件，进行溯源分析并制定长效加固方案。 5.3 深度参与最前沿的生成式 AI 安全攻防，与顶尖算法团队共同定义下一代 AI 安全标准 岗位要求： 1. 计算机、信息安全、人工智能或相关专业硕士及以上学历，5年以上安全领域工作经验，至少 1 年专注在 AI 安全或对抗机器学习方向。 2. 具备扎实的编程能力，熟练掌握 Python、Go 或 Java，熟悉 TensorFlow、PyTorch 等深度学习框架。 3. 深入理解大模型原理（Transformer、RLHF），熟悉常见的越狱攻击（Jailbreak）、提示词注入（Prompt Injection）及有害内容生成防御策略。 4. 了解 FGSM、PGD 等对抗样本生成技术，具备对抗训练、输入预处理等防御实践经验。 5. 熟悉数据脱敏、差分隐私、同态加密等隐私增强技术，了解训练数据泄露风险及评估方法。 6. 具备优秀的逻辑分析能力和风险评估能力，能够从架构层面识别 AI 业务中的潜在安全风险。 7. 熟悉主流云原生安全架构（K8s、容器安全），能够将 AI 安全能力集成到 DevOps/MLOps 流程中。 8. 具有较强的跨部门沟通和协调能力 9. 有车企安全相关工作经验