mercor · 소프트웨어 공학

MLOps 엔지니어, LLM 성능(커널, 프로파일링, 서빙)

Mercor

$90–$120/시간원격 근무전 세계

이 공고는 자동 번역되었습니다. 지원서는 원래 플랫폼에서 처리하므로 지원 전에 원래 요건을 확인하세요. 원래 페이지 보기

직무 소개

선도적인 AI 연구소의 최첨단 GenAI 팀에 합류하여 AI 혁명의 중심에 서십시오. 귀하의 전문성이 가장 진보된 대규모 언어 모델 개발의 원동력이 됩니다.

1\. 개요

선도적인 AI 연구소의 최첨단 GenAI 팀에 합류하여 파운데이션 AI 모델을 처음부터 구축하는 데 참여하십시오. 저희는 가속기 커널 프로그래밍, 성능 프로파일링 및 트레이스 분석, 가속 및 분산 워크로드 디버깅, 고처리량 추론 서빙이라는 네 가지 영역 중 어느 하나에서든 대규모 언어 모델 인프라에 대한 실무 경험을 갖춘 MLOps 및 ML 시스템 엔지니어를 찾고 있습니다. JAX, XLA 또는 TPU 경험은 특히 높이 평가됩니다. 이 직무는 최첨단 AI 시스템을 위한 고품질 학습 데이터를 생성하기 위해 ML 시스템 과제와 솔루션을 작성하고 평가하는 일을 포함하는 AI 모델 학습 및 평가 업무입니다.

이 직무는 전 세계 후보자에게 열려 있는 완전 원격 직무입니다. 거주 지역에 따라 Cincinnatus LLC 또는 해당 국가의 신뢰할 수 있는 법적 고용주(employer of record) 파트너를 통해 계약이 이루어지며, 선도적인 AI 연구소의 확장 인력으로 배치될 기회가 있습니다. 40시간 풀타임 계약이며, 이해 상충이나 다른 계약은 없어야 합니다.

2\. 주요 업무

  • 커널, 프로파일링, 디버깅, 추론 서빙에 걸쳐 도전적인 과제를 설계하고(최첨단 모델이 가속기 코드(예: TPU의 Pallas 커널)에서 어디서 실패하는지 드러내는 적대적 문제 포함), 이에 대한 정확하고 체계적인 솔루션을 작성합니다.
  • ML 시스템, 컴파일러, 학습 인프라 주제에서 연구 및 엔지니어링 팀이 지식 격차를 해소하고 AI 모델 성능을 향상시키도록 이끕니다.
  • ML 시스템 과제와 솔루션을 평가하고, 전문가 검토를 견딜 수 있는 명확한 서면 기술 피드백을 제공합니다.
  • 커널 최적화, 프로파일러 출력 해석, 분산 시스템 추론, 서빙 처리량과 지연 시간 트레이드오프를 다루는 가이드라인과 상세한 채점 기준을 개발합니다.
  • 다른 분야별 전문가와 협력하여 학습 데이터의 일관성과 정확성을 유지합니다.

3\. 필수 자격 요건

  • ML 시스템, ML 인프라, 모델 서빙 또는 가속기 성능 엔지니어링 분야 실무 경력 2년 이상. 이 직무는 응용 모델링이나 데이터 사이언스가 아니라 실무 중심의 시스템 직무입니다.
  • 다음 중 하나 이상에 대한 실무 경험(둘 이상이면 강력한 우대): 커스텀 커널(Pallas, Triton, CUDA, CUTLASS) 작성 또는 최적화; 성능 프로파일링 및 트레이스 분석(JAX/XLA 프로파일러, Kineto, torch.profiler, Nsight); 분산 또는 가속기 의존 워크로드 디버깅; 대규모 언어 모델의 대규모 서빙(vLLM, SGLang, TensorRT-LLM, JetStream, KV 캐시, 페이지드 어텐션, 연속 배칭).
  • JAX 및/또는 PyTorch의 실무 프로덕션 경험. 프레임워크 수준의 깊이는 강력한 우대 사항입니다: 커스텀 연산자, 샤딩 및 분산 학습(pjit/shard_map, FSDP, Megatron, MaxText), 또는 컴파일러 및 그래프 수준 작업(XLA/StableHLO, torch.compile, MLIR).
  • TPU(v4에서 v6e까지), H100, B200, Trainium 또는 MI300 같은 최신 가속기 경험, 그리고 처리량, 지연 시간, 메모리 트레이드오프를 추론할 수 있는 능력.
  • 입증 가능한 경력 성장.
  • 평일에 주당 최소 40시간을 안정적으로 참여할 수 있는 능력.
  • 뛰어난 문서 의사소통 능력과 복잡한 기술적 결정을 명확하게 설명할 수 있는 능력.

Cincinnatus LLC 소개: Cincinnatus LLC는 선도적인 기술 기업과 협력하여 임시 및 계약 기반 기회를 위한 고숙련 전문가를 발굴하고 계약하는 기업 대상 인력 서비스 회사입니다. Cincinnatus는 직접 또는 현지 법적 고용주(employer of record) 파트너를 통해 각 국가에서 고용 또는 계약 관계, 급여, 해당되는 경우 복리후생, 규정 준수를 처리하며, 전문가를 고객사 팀 안에 직접 배치하여 영향력이 큰 프로젝트에 참여하도록 합니다.

고용 기회 균등: Cincinnatus는 고용 기회 균등 고용주임을 자랑스럽게 생각합니다. 저희는 인종, 종교, 피부색, 출신 국가, 성별(임신, 출산, 생식 건강에 관한 결정 또는 관련 의학적 상태 포함), 성적 지향, 성 정체성, 성 표현, 연령, 보호 대상 재향군인 신분, 장애인 신분, 유전 정보, 정치적 견해 또는 활동, 그 밖에 법으로 보호되는 모든 특성을 이유로 차별하지 않습니다.

이 전문 분야의 다른 채용 공고 →