직무 소개
업무 소개
Mercor는 최첨단 AI 모델을 레드팀 방식으로 테스트하기 위해 방사선 안전 전문가 패널을 구성하고 있습니다. 목표는 모델이 기술적 요청의 악용 가능성을 올바르게 판단하면서, 정당한 질문에는 충실히 답하고 진정으로 위험한 질문은 거부하는지 시험하는 것입니다.
담당하실 업무는 다음과 같습니다.
- 전문 분야에서 까다로운 단일 턴 프롬프트를 작성하고, 무해(benign), 이중 용도(dual-use), 적대적(adversarial)의 세 단계로 라벨링합니다.
- 돌아온 응답을 정해진 정책 기준에 따라 평가하고, 각 응답이 올바르게 처리되었는지 판단합니다.
- 기준 답안을 작성합니다. 올바른 응답이 어떤 모습인지, 그리고 그 기술적 근거를 포함합니다.
이 분야는 다른 대부분의 분야보다 이중 용도의 경계선 위에 놓여 있습니다. 동일한 동위원소가 암 치료와 산업용 방사선 투과 검사의 기반이 되며, 동일한 차폐 계산이 작업자를 보호하는 동시에 방사선원을 은닉하기도 합니다. 일상적인 선량 질문을 거부하는 모델은 답해서는 안 될 질문에 답하는 모델만큼이나 심각하게 실패하고 있는 것입니다. 이 경계선을 안정적으로 긋기 위해 일반 전문가가 아닌 실무 전문가가 필요합니다.
우리가 찾는 배경
방사성 물질 근처에서 일해 본 정도가 아니라 실제로 그 책임을 맡아 본 분을 찾고 있습니다. 방사선원 보관 관리, 인허가, 또는 보안 및 대응 분야 경험이 해당됩니다. 가장 중요한 것은 일상적인 전문가의 질문과 다른 무언가를 캐내려는 질문을 구분할 수 있는 능력입니다. 동일한 차폐 계산이 작업자를 보호하는 동시에 방사선원을 은닉하기도 합니다. 이분들은 바로 그 경계선 위에 놓인 프롬프트를 작성한 다음, 모델이 그 선을 지켰는지 판단하게 됩니다. 관련 배경의 예시(레드팀 경험이 있으면 이상적): 방사선 안전관리자(광범위 허가 보유 기관) — 공식 허가를 보유하며 취득, 재고, 이전 및 폐기를 담당. 보건물리학자(DOE 사이트 또는 국립연구소) — 고위험 시설에서의 서베이, 분석, 오염 관리 및 선량 계획. 방사선원 보안/취약성 평가 전문가 — 범주 1 및 2 방사선원이 어떻게 도난, 차폐 또는 이동되는지 평가한 경험이 있음. 방사선 비상 대응 전문가 — FRMAC, CBRN 대응, 확산 및 오염 모델링. 핵의학 물리학자 / 사이클로트론 RSO — 의료용 동위원소 생산 및 취급, 즉 이중 용도 경계선의 정당한 사용 측면.
기술적 전문성 외에 이 역할에 요구되는 사항
이 업무는 글쓰기 비중이 큽니다. 내리는 모든 판단에는 비전문가도 이해할 수 있는 서면 근거가 필요합니다. 기술 문서 작성, 발표된 연구 또는 전문가 증인 경험은 강력한 신호이니 샘플이나 링크를 포함해 주세요. 또한 해당 분야의 악용 시나리오에 대해 장시간 읽고 작성하게 됩니다. 이에 대해서는 전문가분들께 사전에 안내해 드리며, 언제든 불이익 없이 중단하거나 자리를 비우실 수 있습니다.
지원 전 확인 사항
이 업무에는 기밀 정보나 수출 통제 정보, 또는 비밀유지계약(NDA)이나 발표 전 검토 의무가 적용되는 어떤 정보도 포함되지 않으며, 이를 활용해서도 안 됩니다. 그러한 의무를 지고 계시더라도 여전히 적합할 수 있으니, 지원서에 알려 주시면 그에 맞춰 업무 범위를 조정하겠습니다.