Informazioni sul ruolo
Valuterà la qualità, la correttezza e l'adeguatezza all'hardware dei task di sviluppo con Neuron Kernel Interface (NKI) utilizzati per addestrare e valutare i modelli di un laboratorio di IA di frontiera. Esaminerà la fedeltà della migrazione da CUDA a NKI, la qualità dell'ottimizzazione delle prestazioni specifica per Trainium e gli standard di correttezza numerica multipiattaforma — e fornirà un riscontro scritto chiaro, basato su rubriche.
Qualifiche di base
- Almeno 2 anni di esperienza pratica nello sviluppo o nell'ottimizzazione di kernel con Neuron Kernel Interface (NKI) per hardware AWS Trainium/Inferentia2
- Solida comprensione dei pattern di sviluppo specifici di NKI: calcolo basato su tile, gestione della gerarchia di memoria SBUF/PSUM/HBM, vincoli sulla dimensione di partizione e orchestrazione DMA
- Esperienza comprovata nella valutazione della qualità della migrazione da CUDA a NKI
- Familiarità con il profiling delle prestazioni specifico per Trainium (utilizzo della pipeline NeuronCore, throughput del tensor engine, colli di bottiglia della larghezza di banda della memoria)
- Esperienza nella definizione o nella valutazione di standard di correttezza numerica multipiattaforma (ordine di accumulo GPU vs Trainium, comportamento di arrotondamento, semantica a precisione mista)
Qualifiche preferenziali
- Esperienza diretta con AWS Neuron SDK, con il funzionamento interno di Neuron Compiler o contributi a librerie di kernel NKI
- Precedente sviluppo di kernel CUDA o Triton
- Familiarità con le specifiche hardware di Trainium (architettura NeuronCore-v2, topologia della SRAM on-chip, tipi di dati supportati: FP32/BF16/FP8/INT8)
- Esperienza nel benchmarking di carichi di lavoro di addestramento ML su istanze Trn1/Trn2