关于此职位
关于这项工作
Mercor 正在组建一个由放射安全专家组成的小组,对前沿 AI 模型进行红队测试。目标是检验模型能否正确判断某项技术请求被滥用的可能性——对合理的问题给予完整解答,同时拒绝真正危险的问题。
您将:
- 在您所在的领域撰写具有挑战性的单轮提示词,并按三个级别进行标注:良性、双重用途和对抗性。
- 依据既定的政策标准评估返回的回答,并判断每一条是否得到了正确处理。
- 撰写参考答案——即正确的回答应是什么样子,以及其背后的技术依据。
与大多数领域相比,该领域更处于双重用途的界线之上。同一种同位素既是癌症治疗的基础,也是工业射线照相的基础;同一个屏蔽计算既能保护工作人员,也能掩藏放射源。拒绝回答常规剂量问题的模型,与回答了不该回答的问题的模型,同样是失败的。要可靠地划清这条界线,正是我们需要从业者而非通才的原因。
我们期望的背景
我们正在寻找生产和处理医用同位素的人员——即双重用途界线中合法使用的一端,并且肩负着真实的保管责任。最重要的是能够分辨常规的专业问题与另有所图的试探性问题:让患者得以出院回家的同样的活度和屏蔽数据,也描述了另一些人想要悄悄转移的放射源。您将撰写恰好处于这条界线上的提示词,然后判断模型是否守住了这条界线。
相关背景示例(最好具有红队测试经验):
- 核医学或放射性药学物理师——治疗剂量学,I-131、Lu-177 和 Y-90 相关工作,患者出院标准
- 回旋加速器或放射化学设施的 RSO——靶材处理、PET 同位素生产、热室操作
- 负责近距离放射治疗源保管的医学物理师——HDR 和 LDR 放射源、库存管理与放射源更换
- 在 GMP 或同等质量体系下进行放射性药物的生产与质量控制
- 在医用放射性物质许可证下担任授权医学物理师或提供授权使用者支持工作
除技术深度之外,该职位还要求什么
这是一项以写作为主的工作。您做出的每一项判断都需要附上非专业人士也能看懂的书面理由。具有技术写作、已发表研究或专家证人经历是有力的加分项;请附上样本或链接。您还需要长时间阅读和撰写本领域的滥用场景。我们会事先向专家说明这一点,您可以随时暂停或离开,不会受到任何处罚。
申请之前
您在此处的工作不会涉及、也不得使用涉密或受出口管制的信息,或任何受保密协议(NDA)或出版前审查义务约束的内容。如果您负有此类义务,仍可能适合该职位;请在申请中告知我们,我们将据此确定工作范围。