mercor · 软件工程

SWE-Bench 任务审核员

Mercor

$70–$90/小时职位地点:远程 — 美国远程仅限美国居民

此职位由自动翻译生成。申请由原平台处理;申请前请核实其原始要求。 查看原始页面

关于此职位

评估用于训练和评估前沿 AI 实验室模型的软件工程基准测试任务的质量、正确性和可复现性。您将评估仓库级任务、参考补丁、测试框架(test harness)以及评分的完整性,并提供清晰的、基于评分标准的书面反馈。

基本资格要求

  • 拥有 3 年以上专业软件工程经验
  • 有真实的开源贡献或维护者经验(已合并的 PR、committer / 维护者角色)
  • 具备出色的审核参考补丁、测试运行器和 Docker 隔离的能力,并能检测答案泄漏/奖励作弊(reward hacking)
  • 熟练掌握常见生态系统(Python 以及 Java / Go / TypeScript / C++ 中的至少一种)

优先资格

  • 熟悉 SWE-Bench (Verified) 或类似的仓库基准测试
  • 有主流 Python 开源项目(Django、Flask、scikit-learn、sympy、pytest 等)的维护者经历
  • 曾有代码审查或任务评分经验
此领域的更多职位 →