AI 越狱与提示词注入安全专家

职位名称：AI 越狱与提示词注入安全专家

职位类型：合同制

工作地点：远程

micro1 正在招募 AI 越狱与提示词注入安全专家，为一项专注于 AI 安全性和稳健性的前沿客户计划贡献力量。在这一职位上，您将运用自己的专业知识，帮助训练新一代 AI 系统。您的工作将通过高质量的真实场景输入，影响模型如何学习、推理和表现。无需具备 AI 经验 — 重要的是您的领域知识。

工作范围

• 设计并实施评估 AI 系统安全性的先进方法，重点关注合乎伦理的越狱、LLM 红队测试、提示词注入以及工具使用滥用场景。
• 制定全面的跨领域诱导策略，以发现 AI 模型中的多轮和复杂对抗性绕过模式。
• 开发、维护和更新回归测试套件，系统地测试越狱易感性和提示词注入漏洞。
• 构建稳健的评估框架，针对真实世界的对抗性威胁对 AI 模型进行压力测试，旨在提升整体系统的稳健性。
• 与技术相关方协作，将安全发现转化为可付诸行动的改进措施，用于提升模型安全性和降低风险。
• 以清晰、结构良好的书面报告和演示文稿记录方法、发现和最佳实践，面向技术和非技术受众。

优先资质

• 在对抗性机器学习、LLM 红队测试、AI 安全评估或密切相关的安全领域拥有 2 年及以上的专业经验
• 在研究、测试或发现与合乎伦理的越狱、提示词注入、工具使用滥用或对抗性 AI 攻击相关的漏洞方面，具有经证实的经验。
• 计算机科学、网络安全、机器学习或相关学科的高级学位（博士、硕士），或同等的实际操作/专业背景。
• 在 AI 安全或对抗性机器学习社区中享有很高的信誉和认可度 — 例如发表过研究成果、开发过开源工具或做过会议演讲。
• 具有出色的书面和口头沟通能力，高度注重清晰的文档记录和协作解决问题。
• 曾参与多学科项目或跨职能 AI 安全计划者优先。
• 非常希望熟悉当前的 LLM 架构、提示词工程技术和安全评估工具。