关于此职位
关于这项工作
Mercor 正在组建一个爆炸物和含能材料专家小组,对前沿 AI 模型进行红队测试。目标是测试模型能否正确判断技术请求被滥用的可能性:完整回答正当问题,同时拒绝真正危险的问题。
您将:
- 在您的领域内编写具有挑战性的单轮提示词,并按三个级别标注:良性、两用和对抗性。
- 对照既定的政策标准评估返回的回复,并判断每一条是否处理得当。
- 撰写参考答案;即正确的回复应是什么样子,以及其背后的技术依据。
模型在这一领域往往两头都会失败:既拒绝采矿工程师或调查人员每天都会问的常规问题,又对本该拒绝、却披着学术外衣的请求予以回应。要分辨哪个是哪个,需要真正做过这项工作的人。
我们在寻找的背景
我们正在招募两类人才,且两类都需要:具备特种材料专业知识的化学家,以及具备起爆和推进系统经验的工程师或操作人员。有 AI 评估或红队测试经验者优先。相关背景包括:
- 危险装置专家 / 公共安全专业人员——排险处置程序和装置评估。
- 特种材料化学家(烟火或推进)——配方、合成和性能测试。
- 联邦认证材料专家 / 事件分析员——法证鉴定和现场分析。
- 推进与效应工程师——弹药和推进系统设计。
- 商用爆破工程师——特种材料的处理、储存和运输。
除技术深度之外,该职位还要求什么
这是一项以写作为主的工作。您做出的每一项判断都需要有非专业人士能够理解的书面理由。有技术写作、事故或爆后报告、已发表的研究或专家证人经验是很强的信号;请附上样本或链接。
您还将在较长时间内阅读和撰写您所在领域的滥用场景。我们会提前向专家说明这一点,您可以随时暂停或离开,而不会受到任何惩罚。
申请之前
您在这里的工作不会涉及、也不得使用涉密或受出口管制的信息,或任何受保密协议(NDA)或发表前审查义务约束的内容。如果您承担此类义务,您仍然可能很合适;请在申请中告知我们,我们将据此确定工作范围。