Over de functie
Evalueer de kwaliteit, juistheid en hardwaregeschiktheid van ontwikkeltaken voor de Neuron Kernel Interface (NKI) die worden gebruikt om de modellen van een frontier-AI-lab te trainen en te evalueren. U beoordeelt de getrouwheid van CUDA→NKI-migratie, de kwaliteit van Trainium-specifieke prestatieoptimalisatie en platformoverschrijdende normen voor numerieke juistheid — en geeft duidelijke, op rubrics gebaseerde schriftelijke feedback.
Basiskwalificaties
- 2+ jaar praktische ervaring met het ontwikkelen of optimaliseren van kernels met de Neuron Kernel Interface (NKI) voor AWS Trainium/Inferentia2 hardware
- Gedegen begrip van NKI-specifieke ontwikkelpatronen: tegelgebaseerde (tile-based) berekening, beheer van de SBUF/PSUM/HBM-geheugenhiërarchie, beperkingen van de partitiedimensie en DMA-orkestratie
- Aantoonbare ervaring met het beoordelen van de kwaliteit van CUDA→NKI-migratie
- Vertrouwdheid met Trainium-specifieke prestatieprofilering (benutting van de NeuronCore-pijplijn, doorvoer van de tensor-engine, knelpunten in geheugenbandbreedte)
- Ervaring met het definiëren of evalueren van platformoverschrijdende normen voor numerieke juistheid (GPU versus Trainium: accumulatievolgorde, afrondingsgedrag, mixed-precision-semantiek)
Gewenste kwalificaties
- Directe ervaring met de AWS Neuron SDK, de interne werking van de Neuron Compiler of bijdragen aan NKI-kernelbibliotheken
- Eerdere ontwikkeling van CUDA- of Triton-kernels
- Vertrouwdheid met de hardwarespecificaties van Trainium (architectuur van NeuronCore-v2, on-chip SRAM-topologie, ondersteunde datatypen: FP32/BF16/FP8/INT8)
- Ervaring met het benchmarken van ML-trainingsworkloads op Trn1/Trn2 instances