关于此职位
职位描述
SME Careers 正在招聘化学家和化学品安全专业人士，审计 AI 模型如何回应该领域的敏感问题。每项任务会给你一个用户请求，以及三个不同模型对该请求给出的回答。你需要对请求进行分类（良性、双重用途或对抗性），将每个回答标记为安全或不安全并说明理由，对三个回答进行相互排名，并写出模型本应给出的回答。对于双重用途请求，你还需要注明其敏感之处、其服务的正当目的，以及谁应当能够获得回答。
这些请求都很真实：合成化学家和分析化学家、毒理学家、工业卫生学家、过程安全工程师、监管人员，偶尔还有恶意行为者实际会问的问题。有些是普通的专业问题，模型却错误地拒绝了，发现这些问题和发现危险问题同样重要。
我们寻找的人选
合成化学家和分析化学家；毒理学家和药理学家；工业卫生学家和化学品安全/过程安全专业人士；《化学武器公约》或化学品安全专家；危险品、中毒控制或化学品事件应急响应人员；以及化学品监管人员（EPA、OSHA、HSE、与OPCW相关的机构或同等机构）。通常需要相关学位加五年或以上专业经验。具备安全数据表、暴露评估、事件报告或监管审查方面的经验是显著加分项。
申请之前
仅对美国、英国、加拿大、澳大利亚、新西兰和欧盟的公民或永久居民开放。
你将做什么
- 开发 AI 训练内容：围绕各种主题创建详细的提示词和回答，以引导 AI 学习，确保模型体现出对多样主题的全面理解。
- 优化 AI 性能：评估并对 AI 回答进行排名，以提升模型的准确性、流畅性和上下文相关性。
- 确保模型完整性：测试 AI 模型是否存在潜在的不准确或偏见，验证其在各种使用场景中的可靠性。
我们寻找的人选
- 化学、化学工程、毒理学、环境健康与安全、工业卫生、危险材料管理或密切 related 领域的学士或更高学位；高级学位或专业安全认证是显著加分项。
- 在化学品安全、实验室安全、危险材料处理、EHS、毒理学、工业卫生、化学品风险评估、法规合规或相关技术安全工作方面拥有 3 年以上专业经验。
- 深入理解化学危害，包括毒性、腐蚀性、易燃性、反应性、不相容性、暴露途径、储存风险、泄漏响应原则、PPE、通风和安全处理实践。
- 熟悉化学品安全文档和框架，如安全数据表、GHS 危害通识、标签、暴露限值、风险评估、SOP 和事件升级程序。
- 能够审查 AI 生成的化学品安全内容，检查技术准确性、安全对齐、滥用风险、幻觉性主张、不当的具体性以及可能危险的程序性指导。
- 在区分安全的教育内容与可能导致不安全化学品处理、合成、滥用、规避或有害实验的内容方面具有出色判断力。
- 优秀的英文写作能力，能够提供清晰、结构化的反馈，解释回答为何安全、不安全、不完整、具有误导性或技术上不正确。
- 在审查化学术语、单位、浓度、暴露假设、危害分类、安全控制和应急响应指导时高度注重细节。
- 能够始终如一地将详细的项目评分标准应用于模糊或敏感的化学品安全场景。
- 优先考虑具有 AI 安全、红队审查、模型评估、内容审核、数据标注、技术 QA、科学审查或基于评分标准的评估经验者。