Esperto di kernel Trainium (NKI)

Valuterà la qualità, la correttezza e l'adeguatezza all'hardware dei task di sviluppo con Neuron Kernel Interface (NKI) utilizzati per addestrare e valutare i modelli di un laboratorio di IA di frontiera. Esaminerà la fedeltà della migrazione da CUDA a NKI, la qualità dell'ottimizzazione delle prestazioni specifica per Trainium e gli standard di correttezza numerica multipiattaforma — e fornirà un riscontro scritto chiaro, basato su rubriche.

Qualifiche di base

• Almeno 2 anni di esperienza pratica nello sviluppo o nell'ottimizzazione di kernel con Neuron Kernel Interface (NKI) per hardware AWS Trainium/Inferentia2
• Solida comprensione dei pattern di sviluppo specifici di NKI: calcolo basato su tile, gestione della gerarchia di memoria SBUF/PSUM/HBM, vincoli sulla dimensione di partizione e orchestrazione DMA
• Esperienza comprovata nella valutazione della qualità della migrazione da CUDA a NKI
• Familiarità con il profiling delle prestazioni specifico per Trainium (utilizzo della pipeline NeuronCore, throughput del tensor engine, colli di bottiglia della larghezza di banda della memoria)
• Esperienza nella definizione o nella valutazione di standard di correttezza numerica multipiattaforma (ordine di accumulo GPU vs Trainium, comportamento di arrotondamento, semantica a precisione mista)

Qualifiche preferenziali

• Esperienza diretta con AWS Neuron SDK, con il funzionamento interno di Neuron Compiler o contributi a librerie di kernel NKI
• Precedente sviluppo di kernel CUDA o Triton
• Familiarità con le specifiche hardware di Trainium (architettura NeuronCore-v2, topologia della SRAM on-chip, tipi di dati supportati: FP32/BF16/FP8/INT8)
• Esperienza nel benchmarking di carichi di lavoro di addestramento ML su istanze Trn1/Trn2