Over de functie
Anyone AI rekruteert ervaren AWS Trainium / Neuron Kernel Interface (NKI)-engineers voor een gespecialiseerd project dat gericht is op het evalueren en verbeteren van kernelontwikkelingstaken voor AI-workloads.
We zoeken engineers met hands-on ervaring in het bouwen of optimaliseren van NKI-kernels op AWS Trainium- of Inferentia2-hardware, die begrijpen hoe de architectuur van Trainium verschilt van traditioneel GPU-programmeren.
Waar je aan werkt
Je beoordeelt en evalueert technische taken met betrekking tot:
- Correctheid van NKI-kernels en Trainium-specifieke ontwikkelpatronen
- CUDA → NKI-kernelmigraties
- Prestatieoptimalisatie en benchmarking op Trainium
- Geheugenbeheer over SBUF, PSUM en HBM
- Tile-gebaseerde berekening en DMA-scheduling
- Cross-platform numerieke correctheid tussen CUDA/Triton en NKI
- Trainium-specifieke prestatieknelpunten en optimalisatiemogelijkheden
- Technische feedback en kwaliteitsbeoordeling van kernelimplementaties
Het werk omvat het bepalen of implementaties niet alleen technisch correct zijn, maar ook idiomatisch en geoptimaliseerd voor Trainium-hardware, in plaats van simpelweg vertaald vanuit GPU-gebaseerde benaderingen.
Waar we naar zoeken
- 2+ jaar hands-on ervaring met het ontwikkelen of optimaliseren van kernels met de Neuron Kernel Interface (NKI)
- Ervaring met AWS Trainium en/of Inferentia2
- Sterk begrip van:
- Tile-gebaseerde berekening
- SBUF / PSUM / HBM-geheugenhiërarchie
- Beperkingen van partitiedimensies
- DMA-orkestratie
- Trainium-specifieke optimalisatietechnieken
- Vermogen om CUDA → NKI-migraties te evalueren
- Ervaring met profiling en optimalisatie van workloads op Trainium
- Begrip van numerieke verschillen tussen GPU- en Trainium-backends
- Sterk vermogen om complexe technische implementaties te analyseren en duidelijke schriftelijke feedback te geven
Nice to Have
- Ervaring met de AWS Neuron SDK of Neuron Compiler
- Ervaring met CUDA- of Triton-kernelontwikkeling
- Kennis van NeuronCore-v2-architectuur
- Ervaring met FP32, BF16, FP8 en INT8 workloads
- Ervaring met benchmarking van workloads op Trn1- of Trn2-instances
- Bekendheid met nki.language, @nki.jit of XLA custom calls
- Ervaring met technische evaluatie, AI/ML-dataprojecten, RLHF of rubric-gebaseerde beoordeling
Engagement
Werktype: Remote Engagement: Parttime, projectmatig consultancy Focus: AWS Trainium / NKI-kernelengineering en technische evaluatie
Dit is een sterke match voor engineers die diepgaand met AWS Trainium-infrastructuur en laag-niveau ML-kerneloptimalisatie hebben gewerkt en die expertise willen toepassen op technisch uitdagende AI-projecten.