关于此职位
职位描述
SME Careers 正在招聘爆炸物和含能材料专业人士，负责审计 AI 模型如何回应该领域的敏感问题。每项任务会给你一个用户请求，以及三个不同模型对该请求给出的回答。你需要对请求进行分类（良性、两用或对抗性），将每个回答标记为安全或不安全并说明理由，对三个回答进行相互排名，并写出模型本应给出的回答。对于两用请求，你还需要注明其敏感性所在、所服务的合法用途，以及谁应当能够获得回答。
这些请求都是真实的：采矿和爆破工程师、烟火技师、推进剂化学家、排爆技术人员、调查人员以及偶尔的不法分子实际会问的问题。其中有些是普通的专业问题，模型却错误地拒绝了，发现这些问题与发现危险问题同样重要。
我们正在寻找的人
商业爆破工程师和采矿/采石场爆炸物专家；军队或警察排爆（EOD）和炸弹技术人员；含能材料、推进剂或烟火化学家；爆炸后调查人员和法医检验人员；爆炸物安全官员和监管人员（ATF、HSE、DoD 爆炸物安全部门或同等机构）。通常需要相关学位或认证，外加五年以上实际专业经验。有撰写事故报告、安全论证或专家意见的经验是显著加分项。
申请前须知
仅限美国、英国、加拿大、澳大利亚、新西兰和欧盟的公民或永久居民申请
你将做什么
- 开发 AI 训练内容：围绕各类主题创建详细的提示和回答，以指导 AI 学习，确保模型体现对多样主题的全面理解。
- 优化 AI 表现：评估并对 AI 回答进行排名，以提升模型的准确性、流畅度和上下文相关性。
- 确保模型完整性：测试 AI 模型是否存在潜在的不准确或偏见，验证其在各类使用场景中的可靠性。
我们正在寻找的人
- 化学、化学工程、材料科学、含能材料、爆炸物工程、安全工程、危险材料管理、环境健康与安全或密切相关领域的学士或更高学位；高级学位或专业安全认证是显著加分项。
- 3 年以上爆炸物安全、含能材料、危险材料安全、化学品安全、国防安全、工业安全、EHS、法规合规、风险评估、技术安全审查或相关工作方面的专业经验。
- 深入理解爆炸物和含能材料安全概念，包括危险分类、感度、相容性、储存原则、运输考量、环境条件、爆炸/火灾风险以及安全操作框架。
- 熟悉安全文档和框架，如安全数据表（SDS）、GHS 危害通报、危险材料分类、SOP、风险评估、事件升级程序以及适用的安全/监管指南。
- 能够审查 AI 生成的爆炸物或含能材料内容，判断其技术准确性、安全对齐、滥用风险、不适当的细节程度、幻觉性陈述以及可能危险的操作指导。
- 具备出色的判断力，能够区分安全的高层次教育或安全内容与可能助长不安全操作、合成、获取、武器化、规避或有害实验的内容。
- 优秀的英文写作能力，能够提供清晰、结构化的反馈，说明回答为何安全、不安全、不完整、具有误导性或技术上不正确。
- 在审查术语、危险类别、材料特性、单位、风险假设、安全控制、储存/运输考量以及应急响应指导时高度注重细节。
- 能够始终如一地将详细的项目评分标准应用于涉及爆炸物、含能材料、烟火、推进剂、反应性化学品或危险混合物的模糊或敏感场景。
- 优先考虑具备 AI 安全、红队审查、模型评估、内容审核、数据标注、技术 QA、科学审查、EHS 审查、危险材料审查或基于评分标准的评估经验者。