직무 소개
작업 소개
Mercor는 최첨단 AI 모델을 레드팀(red-team) 방식으로 테스트하기 위해 핵물질 및 안전조치(safeguards) 전문가 패널을 구성하고 있습니다. 목표는 모델이 기술적 요청의 오남용 가능성을 올바르게 판단할 수 있는지 — 즉 정당한 질문에는 충분히 답하면서 진정으로 위험한 질문은 거절하는지 — 를 테스트하는 것입니다.
수행 업무:
- 자신의 전문 분야에서 도전적인 단일 턴 프롬프트를 작성하고, 무해(benign), 이중 용도(dual-use), 적대적(adversarial)의 세 가지 수준으로 라벨을 지정합니다.
- 돌아온 응답을 정해진 정책 기준에 따라 평가하고, 각 응답이 올바르게 처리되었는지 판단합니다.
- 참조 답변을 작성합니다 — 올바른 응답이 어떤 모습인지, 그리고 그 이유에 대한 기술적 근거.
이 분야는 다른 어떤 분야보다 이중 용도의 경계선 위에 있습니다. 사찰관의 계정을 맞추는 동일한 물질 수지 계산이 그 계정에서 부족한 부분을 숨기는 데에도 쓰일 수 있으며, 발전용 원자로에 연료를 공급하는 동일한 핵연료주기 단계가 곧 핵확산 경로가 지나가는 단계이기도 합니다. 일상적인 계량(accountancy) 질문을 거절하는 모델은 답해서는 안 될 질문에 답하는 모델만큼 심각하게 실패하는 것입니다. 그 경계선을 안정적으로 긋기 위해 일반론자가 아닌 실무자가 필요합니다.
찾고 있는 배경
핵물질에 대해 읽어 본 정도가 아니라 직접 검증해 본 분들을 찾고 있습니다 — 사찰 체제, 계량 관리, 그리고 해소되지 않은 불일치에 수반되는 판단 사항. 가장 중요한 것은 일상적인 전문 질문과 다른 의도를 캐내려는 질문을 구별할 수 있는 능력입니다. 계정을 맞추는 동일한 물질 수지 수치가 전용(diversion)을 은폐하는 데 쓰일 수 있습니다. 여러분은 바로 그 경계선 위에 놓인 프롬프트를 작성한 다음, 모델이 그 선을 지켰는지 판단하게 됩니다.
관련 배경의 예시(레드팀 경험이 있으면 이상적):
- IAEA, Euratom 또는 국가 시스템(SSAC/RSAC) 사찰관 — 사찰 계획, 검증, 보고
- 핵물질 계량 관리 — 시설 신고, 재고 변동 보고서, MUF 평가 및 해소
- 추가의정서 이행 — 신고, 보완적 접근(complementary access), 정보 분석
- 안전조치 계측 및 봉쇄/감시 — NDA 측정, 봉인, 무인 모니터링
- 연구소, 규제기관 또는 부처에서의 설계 단계 안전조치(safeguards-by-design) 업무 또는 안전조치 정책 분석
기술적 깊이 외에 이 역할에 요구되는 것
이 업무는 글쓰기 비중이 큽니다. 내리는 모든 판단에는 비전문가도 따라올 수 있는 서면 근거가 필요합니다. 기술 문서 작성, 연구 논문 발표 또는 전문가 증인 경험은 강력한 신호이므로 샘플이나 링크를 포함해 주십시오. 또한 자신의 분야에서 오남용 시나리오를 장시간 읽고 쓰게 됩니다. 이에 대해 전문가에게 사전에 안내하며, 언제든 불이익 없이 작업을 중단하거나 자리를 벗어날 수 있습니다.
지원 전 확인 사항
이 업무에는 기밀 정보나 수출 통제 대상 정보, 또는 NDA나 출판 전 검토 의무의 적용을 받는 어떤 정보도 포함되지 않으며, 이를 활용해서도 안 됩니다. 이러한 의무를 지고 계시더라도 적합한 후보일 수 있으니, 지원서에 알려 주시면 그에 맞게 업무 범위를 조정하겠습니다.