직무 소개
Anyone AI는 AI 워크로드를 위한 커널 개발 작업을 평가하고 개선하는 데 초점을 맞춘 특화 프로젝트를 위해 경험 많은 AWS Trainium / Neuron Kernel Interface(NKI) 엔지니어를 모집하고 있습니다.
AWS Trainium 또는 Inferentia2 하드웨어에서 NKI 커널을 직접 구축하거나 최적화한 실무 경험이 있고, Trainium의 아키텍처가 기존 GPU 프로그래밍과 어떻게 다른지 이해하는 엔지니어를 찾고 있습니다.
수행하게 될 업무
다음과 관련된 기술 과제를 검토하고 평가하게 됩니다:
- NKI 커널 정확성 및 Trainium 특화 개발 패턴
- CUDA → NKI 커널 마이그레이션
- Trainium 성능 최적화 및 벤치마킹
- SBUF, PSUM, HBM 전반의 메모리 관리
- 타일 기반 연산 및 DMA 스케줄링
- CUDA/Triton과 NKI 간의 크로스 플랫폼 수치 정확성
- Trainium 특화 성능 병목 및 최적화 기회
- 커널 구현에 대한 기술 피드백 및 품질 평가
이 업무는 구현이 기술적으로 정확할 뿐만 아니라, GPU 기반 접근법에서 단순히 변환된 것이 아니라 Trainium 하드웨어에 맞게 관용적이고 최적화되었는지를 판단하는 것을 포함합니다.
자격 요건
- Neuron Kernel Interface(NKI)로 커널을 개발하거나 최적화한 실무 경험 2년 이상
- AWS Trainium 및/또는 Inferentia2 사용 경험
- 다음에 대한 높은 이해도:
- 타일 기반 연산
- SBUF / PSUM / HBM 메모리 계층 구조
- 파티션 차원 제약
- DMA 오케스트레이션
- Trainium 특화 최적화 기법
- CUDA → NKI 마이그레이션 평가 능력
- Trainium에서 워크로드를 프로파일링하고 최적화한 경험
- GPU와 Trainium 백엔드 간의 수치적 차이에 대한 이해
- 복잡한 기술 구현을 분석하고 명확한 서면 피드백을 제공하는 뛰어난 능력
우대 사항
- AWS Neuron SDK 또는 Neuron Compiler 사용 경험
- CUDA 또는 Triton 커널 개발 경험
- NeuronCore-v2 아키텍처에 대한 지식
- FP32, BF16, FP8, INT8 워크로드 경험
- Trn1 또는 Trn2 인스턴스에서 워크로드 벤치마킹 경험
- nki.language, @nki.jit 또는 XLA 사용자 정의 호출에 대한 친숙함
- 기술 평가, AI/ML 데이터 프로젝트, RLHF 또는 루브릭 기반 평가 경험
계약 조건
근무 형태: 원격 계약 형태: 파트타임, 프로젝트 기반 컨설팅 중점 분야: AWS Trainium / NKI 커널 엔지니어링 및 기술 평가
AWS Trainium 인프라와 저수준 ML 커널 최적화를 깊이 다뤄 본 경험이 있고, 그 전문성을 기술적으로 도전적인 AI 프로젝트에 활용하는 데 관심이 있는 엔지니어에게 매우 적합한 기회입니다.