직무 소개
선도적인 AI 연구소가 자사 모델이 사람들에게 배려와 균형, 건전한 판단력을 갖추고 응답하도록 돕는 일에 참여하십시오.
1\. 개요
한 선도적인 AI 연구소는 자사 AI 모델이 민감한 일상 대화를 어떻게 다루는지 평가하고 개선하는 데 참여할 행동 건강 전문가를 찾고 있습니다. 사람들은 인간관계, 가족 역학, 정서적 안녕, 개인의 신념, 어려운 인생의 결정에 대한 도움을 얻기 위해 점점 더 AI를 찾고 있습니다. 이러한 대화에는 위기 상황을 다루는 내용이 드물지만, 바로 이 지점에서 모델의 판단력이 가장 중요합니다. 즉, 모델이 균형을 유지하는지, 어느 한쪽 편을 들지 않는지, 사람들이 듣고 싶어 하는 말만 하려는 유혹에 저항하는지, 사람의 신념을 지지하거나 묵살하지 않고 존중하는지, 자신의 역할이 지닌 한계를 이해하는지가 관건입니다. 귀하는 이러한 상호작용을 검토하여 모델의 응답이 적절하고 중립적이며 안전한지 평가하고, 연구소 연구원들이 무엇이 좋은 응답인지 정의하는 일을 돕게 됩니다. 정신 건강, 상담, 사회복지 또는 행동과학 분야의 실무 경력이 있고, 어떤 응답이 다른 응답보다 사람에게 더 도움이 되는 이유를 명확하게 설명할 수 있다면 이 직무가 적합합니다. 주당 최소 20시간의 파트타임 근무이며, 최대 주당 40시간까지 늘릴 수 있습니다.
이 직무는 Cincinnatus LLC와의 W-2 고용 포지션이며, 선도적인 AI 연구소의 확장 인력으로 배치될 기회가 있습니다.
2\. 주요 업무
- 인간관계 및 가족 조언, 정서적 안녕, 영적·형이상학적 질문, 관행에서 벗어나거나 근거 없는 신념 등의 주제에 걸쳐 사용자와 AI 모델 간 대화를 평가하고, 응답이 중립적이고 적절하며 안전한지 판단합니다.
- 과도한 동조, 편들기, 왜곡되거나 근거 없는 신념의 강화, 훈계, 임상적이거나 지시적인 조언으로의 월권 등 우려되는 패턴을 식별하고, 명확한 서면 근거와 함께 기록합니다.
- 상담 및 행동 건강 분야에서 확립된 실무에 근거하여, 균형 잡히고 지지적이며 적절한 경계를 지킨 응답을 규정하는 채점 기준, 가이드라인, 참조 응답을 개발합니다.
- 민감하지만 위기 상황은 아닌 주제를 모델이 어떻게 다루는지 점검하는 테스트 시나리오와 대화를 설계합니다.
- 연구소의 연구원 및 동료 전문가들과 협력하여 평가 기준이 일관되고, 보정되며, 충실히 문서화되도록 유지합니다.
3\. 필수 자격 요건
- 심리학, 상담, 사회복지, 행동 건강, 행동과학, 휴먼 서비스 또는 밀접하게 관련된 분야의 학위, 또는 이에 상응하는 정신 건강 분야의 실무 경력.
- 정신 건강, 상담 또는 사회 서비스 현장에서 사람들을 지원한 실무 경력 3년 이상(예: 치료사, 상담사, 임상 사회복지사, 심리학자, 정신과 간호사, 사례 관리자, 위기 상담사, 동료 지원 전문가, 정신 건강 옹호자). 임상 면허(예: LMFT, LCSW, LPC, LMHC, PsyD 또는 PhD)는 우대하지만 필수는 아닙니다.
- 다양한 관점, 관계, 신념 체계, 세계관 전반에 걸쳐 중립적이고 판단을 유보하는 태도를 유지하고, 전문적 판단의 근거를 설명할 수 있는 입증된 능력.
- 아첨(sycophancy), 인지 왜곡, 건강한 경계, 동기강화상담과 같은 내담자 중심 접근법 등의 개념에 대한 실무적 이해.
- 평일에 주당 최소 20시간을 안정적으로 참여할 수 있는 능력.
- 뛰어난 문서 의사소통 능력과 정확하고 체계적인 서면 피드백을 제공할 수 있는 능력.
우대 사항: AI 안전, 응용 윤리, 신뢰 및 안전(trust and safety) 또는 콘텐츠 정책 분야 배경; 부부·가족·관계 상담 경험; 영적 돌봄, 종교 또는 대안적 신념 공동체에 대한 이해, 또는 허위 정보와 음모론적 믿음의 심리에 대한 이해; AI 시스템을 평가, 주석 처리 또는 레드팀 테스트한 경험. 이 모든 것을 갖추지 않아도 지원하실 수 있습니다.
Cincinnatus LLC 소개: Cincinnatus LLC는 선도적인 기술 기업과 협력하여 임시 및 계약 기반 기회를 위한 고숙련 전문가를 발굴하고 고용하는 기업 대상 인력 서비스 회사입니다. Cincinnatus는 이러한 계약에서 법적 고용주 역할을 하며 W-2 고용, 급여, 복리후생, 규정 준수를 제공하고, 직원을 고객사 팀 안에 직접 배치하여 영향력이 큰 프로젝트에 참여하도록 합니다.
고용 기회 균등: Cincinnatus는 고용 기회 균등 고용주임을 자랑스럽게 생각합니다. 저희는 인종, 종교, 피부색, 출신 국가, 성별(임신, 출산, 생식 건강에 관한 결정 또는 관련 의학적 상태 포함), 성적 지향, 성 정체성, 성 표현, 연령, 보호 대상 재향군인 신분, 장애인 신분, 유전 정보, 정치적 견해 또는 활동, 그 밖에 법으로 보호되는 모든 특성을 이유로 차별하지 않습니다.