关于此职位
这是一个按小时计酬的远程承包商职位,你将作为 CBRN 专家(SME)审查与化学、生物、放射性和核安全主题相关的 AI 生成内容,和/或创建高质量参考内容,以支持安全、准确、符合政策的 AI 行为。你将评估技术准确性、安全表述框架、术语、风险意识和推理质量,同时提供精确的书面反馈。
你将评估输出的正确性、清晰度、对危险主题的负责任处理、在需要时适当的拒绝/引导,以及对项目指南的遵守情况。你将识别 CBRN 术语、危害分类、应急准备、暴露风险、防护措施、公共安全沟通、监管表述和科学解释中的错误。你还将标记不安全、提供操作可行性、误导性或过度自信的内容,并帮助确保模型响应保持有用,同时不提供危险指令。
该职位隶属于 SME Careers,这是一家快速增长的 AI 数据服务公司,也是 SuperAnnotate 的子公司,为许多全球最大的 AI 公司和基础模型实验室提供训练数据。你的 CBRN 专业知识直接帮助改进全球顶尖的 AI 模型,使其响应更安全、更准确、更负责任,并更好地符合公共安全期望。
你将做什么
- 审查 CBRN 相关的 AI 内容:评估涉及化学、生物、放射性、核、危险材料、应急准备和公共安全主题的 AI 生成响应在准确性、安全性和指南一致性方面的表现。
- 识别不安全或提供可操作性的内容:标记提供危险程序细节、获取指导、武器化支持、规避策略、不安全实验室指导、有害暴露建议或其他助长滥用的内容的输出。
- 开发安全参考内容:创建金标准示例,以负责任的方式回答无害的 CBRN 问题,同时避免操作上危险的指令。
- 优化 AI 安全行为:根据安全处理、正确风险表述、适当拒绝、有帮助的引导、科学准确性和清晰度,评估模型输出并对其进行排名。
- 确保模型完整性:检测幻觉性声明、错误危害分类、误导性风险陈述、过度自信结论、不当升级指导或不安全建议。
- 支持符合政策的审查:一致地应用项目评分标准,并提供清晰的书面反馈,解释内容为何安全、不安全、不完整或技术上不正确。
- 保持技术质量:确保 CBRN 相关内容使用精确术语,避免夸大或淡化风险,并以负责任、适合用户的方式传达安全信息。
- 升级敏感案例:根据项目指南,标记模糊、高风险或可能有害的内容,以便进行额外审查。
我们正在寻找
- 化学、生物学、微生物学、公共卫生、毒理学、核工程、辐射科学、应急管理、环境健康与安全、生物安全、安全研究或相关领域的学士学位或更高学位,或同等专业经验。
- 具备较强的英语专业熟练度,最低 C1,能够遵循指南并用英语提供详细的书面反馈。
- 在 CBRN 安全、应急准备、危险材料、生物安全、辐射安全、公共卫生、环境健康与安全、国防/安全分析、技术审查或相关工作方面拥有 3 年以上专业经验。
- 对化学、生物、放射性和核危害类别有深入理解,包括安全的高层级风险评估、暴露途径、防护概念、应急沟通和公共安全原则。
- 能够评估 CBRN 相关的 AI 输出在准确性、安全性、完整性、政策一致性和潜在滥用风险方面的表现。
- 能够从容识别不安全指令、提供操作可行性的细节、不适当的特异性、误导性危害声明、不准确的应急建议或无支持的技术结论。
- 熟悉安全框架、应急响应概念、生物安全等级、危险材料沟通、辐射防护原则、去污概念、事件报告和公共卫生指导者优先。
- 在审查术语、单位、暴露概念、风险等级、安全免责声明、升级指导和敏感技术边界时具有高度注重细节的能力。
- 可靠、自主,能够在跨时区的按小时远程承包商工作流程中持续提供高质量成果。
- 具有 AI 安全、数据标注、技术 QA、政策审查、风险评估、红队审查、科学审查或基于评分标准的评估经验者强烈优先。