직무 소개
Anyone AI는 AI 워크로드에 사용되는 고성능 컴퓨팅 커널을 검토, 디버깅, 평가하는 특화 프로젝트를 위해 경험 많은 GPU 커널 엔지니어를 채용합니다.
CUDA, Triton, NKI, Pallas 등의 프레임워크에서 커널을 직접 작성하고 최적화한 경험이 있으며, 수치 정확성, GPU 성능, 메모리 최적화, 벤치마킹에 대한 깊은 이해를 갖춘 엔지니어를 찾고 있습니다.
수행 업무
다음과 같은 GPU 및 가속기 커널 작업을 수행합니다:
- 커널 구현 및 디버깅
- CUDA 및 Triton 최적화
- 커널 프레임워크 간 변환
- 하드웨어 마이그레이션
- 연산자 융합
- 성능 프로파일링 및 벤치마킹
- 수치 정확성 검증
- 컴파일 및 런타임 디버깅
- 메모리 계층 최적화
- 커널 수준의 AI 워크로드 성능
구현이 기술적으로 정확하고, 효율적으로 설계되었으며, 재현 가능하고, 대상 하드웨어에 적절히 최적화되었는지 평가합니다.
자격 요건
- GPU 또는 가속기 커널을 개발, 최적화 또는 디버깅한 실무 경력 3년 이상
- 다음 중 최소 두 가지에 대한 강한 경험:
- CUDA
- Triton
- NKI / AWS Neuron
- Pallas / JAX
- GPU 성능 최적화에 대한 깊은 이해
- Nsight, NCU, 루프라인 분석 또는 프레임워크 자체 프로파일러와 같은 커널 프로파일링 도구 사용 경험
- 다음에 대한 이해:
- 메모리 대역폭
- 연산 처리량
- GPU 점유율
- 공유 메모리
- 레지스터 압박
- 메모리 코얼레싱
- 뱅크 충돌
- 부동 소수점 수치 정확성 및 허용 오차 임계값에 대한 깊은 이해
- 커널 컴파일 및 런타임 문제 디버깅 경험
- 소프트웨어 결함, 환경 문제, 실제 최적화 과제를 구분할 수 있는 능력
관련 경험
지원자는 다음 유형의 작업 중 여러 가지에 대한 경험이 있어야 합니다:
- 기술 사양으로부터 커널 작성
- CUDA, Triton 또는 기타 프레임워크 간 커널 변환
- 하드웨어 플랫폼 간 커널 마이그레이션
- 잘못된 커널 구현 디버깅
- 커널 성능 최적화
- 여러 연산을 최적화된 커널로 융합
우대 사항
- NVIDIA GPU와 맞춤형 가속기 생태계 모두에서의 경험
- AWS Trainium, TPU, JAX 또는 기타 가속기 경험
- 컴파일러 엔지니어링 경험
- MLIR, XLA 또는 중간 표현 로어링에 대한 이해
- GPU 또는 ML 커널 라이브러리에 기여한 경험
- cuBLAS, cuDNN, Triton 커뮤니티 커널 또는 JAX/XLA 커스텀 콜 사용 경험
- AI 모델 평가, RLHF 또는 기술 벤치마크 개발 경험
담당 업무
- GPU 및 가속기 커널 구현의 정확성 검토
- 기준 구현과 출력 비교
- 수치 허용 오차 임계값 평가
- 커널 벤치마크를 검토하고 비교의 공정성 판단
- 성능 병목 지점 및 최적화 기회 식별
- 하드웨어 한계를 고려한 성능 목표의 현실성 평가
- 커널 변환 및 하드웨어 마이그레이션 검토
- 컴파일, 드라이버, 메모리, 셰이프 및 런타임 문제 식별
- 기술 과제가 실제로 어려운 것인지 잘못 구성된 것인지 판단
- 명확하고 실행 가능한 기술 피드백 제공
근무 조건
근무 형태: 원격 계약 형태: 파트타임, 프로젝트 기반 컨설팅 중점 분야: GPU 커널, 성능 엔지니어링, 디버깅, 기술 평가
이 역할은 하드웨어에 밀접하게 작업하며 GPU 워크로드를 최적화하고, 저수준 성능 문제를 디버깅하고, AI 컴퓨팅 시스템을 성능 한계까지 끌어올리는 것을 즐기는 엔지니어에게 이상적입니다.