직무 소개
직무명: AI 탈옥(Jailbreak) 및 프롬프트 인젝션 보안 전문가
계약 형태: 계약직(Contractor)
근무지: 원격
micro1은(는) AI 안전성과 견고성에 초점을 맞춘 최첨단 고객사 이니셔티브에 참여할 AI 탈옥 및 프롬프트 인젝션 보안 전문가를 모집하고 있습니다. 이 역할에서는 전문성을 활용하여 차세대 AI 시스템을 학습시키는 데 기여하게 됩니다. 고품질의 실제 업무 기반 입력을 통해 모델이 학습하고, 추론하고, 수행하는 방식을 만들어 가게 됩니다. AI 관련 사전 경험은 필요하지 않으며, 중요한 것은 지원자의 분야 전문 지식입니다.
업무 범위
- 윤리적 탈옥, LLM 레드티밍, 프롬프트 인젝션, 도구 사용 악용 시나리오에 중점을 두고 AI 시스템의 안전성을 평가하는 고급 방법론을 설계하고 구현합니다.
- AI 모델의 다중 턴 및 복합적인 적대적 우회 패턴을 밝혀내기 위한 포괄적인 분야 간 유도(elicitation) 전략을 만듭니다.
- 탈옥 취약성과 프롬프트 인젝션 취약점을 체계적으로 시험하는 회귀 테스트 스위트를 개발, 유지, 업데이트합니다.
- 실제 적대적 위협에 맞서 AI 모델을 스트레스 테스트하는 견고한 평가 프레임워크를 구축하여 전반적인 시스템 견고성을 높이는 것을 목표로 합니다.
- 기술 이해관계자와 협력하여 보안 조사 결과를 모델 안전성 및 위험 완화를 위한 실행 가능한 개선 사항으로 전환합니다.
- 방법론, 조사 결과, 모범 사례를 기술 분야 및 비기술 분야 독자를 위한 명확하고 체계적인 서면 보고서와 발표 자료로 문서화합니다.
우대 자격 요건
- 적대적 머신러닝, LLM 레드티밍, AI 안전성 평가 또는 이와 밀접하게 관련된 보안 분야에서의 전문 경력 2년 이상
- 윤리적 탈옥, 프롬프트 인젝션, 도구 사용 악용 또는 적대적 AI 공격과 관련된 취약점을 연구하고, 테스트하고, 발견한 입증된 경험.
- 컴퓨터 과학, 사이버 보안, 머신러닝 또는 관련 분야의 석사 이상 학위(박사, 석사) 또는 이에 준하는 실무/전문 배경.
- 발표된 연구, 오픈 소스 도구, 학회 발표 등 AI 보안 또는 적대적 ML 커뮤니티 내에서의 높은 신뢰도와 인지도.
- 명확한 문서화와 협력적 문제 해결에 중점을 둔 뛰어난 서면 및 구두 의사소통 능력.
- 다학제 프로젝트 또는 부서 간 AI 안전 이니셔티브에 참여한 경험은 우대합니다.
- 최신 LLM 아키텍처, 프롬프트 엔지니어링 기법, 보안 평가 도구에 대한 이해를 크게 우대합니다.