Informazioni sul ruolo
Anyone AI sta assumendo ingegneri esperti di kernel GPU per un progetto specializzato incentrato sulla revisione, il debug e la valutazione di kernel di calcolo ad alte prestazioni utilizzati nei carichi di lavoro di AI.
Cerchiamo ingegneri con esperienza pratica nella scrittura e nell'ottimizzazione di kernel in framework come CUDA, Triton, NKI o Pallas, con una solida comprensione della correttezza numerica, delle prestazioni GPU, dell'ottimizzazione della memoria e del benchmarking.
Su cosa lavorerai
Lavorerai su attività relative a kernel GPU e acceleratori che riguardano:
- Implementazione e debug dei kernel
- Ottimizzazione CUDA e Triton
- Traduzione tra framework di kernel
- Migrazione hardware
- Fusione di operatori
- Profilazione e benchmarking delle prestazioni
- Verifica della correttezza numerica
- Debug di compilazione e runtime
- Ottimizzazione della gerarchia di memoria
- Prestazioni dei carichi di lavoro AI a livello di kernel
Valuterai se le implementazioni sono tecnicamente corrette, progettate in modo efficiente, riproducibili e opportunamente ottimizzate per l'hardware di destinazione.
Cosa cerchiamo
- 3+ anni di esperienza pratica nello sviluppo, nell'ottimizzazione o nel debug di kernel GPU o per acceleratori
- Forte esperienza con almeno due dei seguenti:
- CUDA
- Triton
- NKI / AWS Neuron
- Pallas / JAX
- Forte comprensione dell'ottimizzazione delle prestazioni GPU
- Esperienza con strumenti di profilazione dei kernel come Nsight, NCU, analisi roofline o profiler nativi dei framework
- Comprensione di:
- Larghezza di banda della memoria
- Throughput di calcolo
- Occupazione GPU
- Memoria condivisa
- Pressione sui registri
- Coalescenza della memoria
- Conflitti di bank
- Forte comprensione della correttezza numerica in virgola mobile e delle soglie di tolleranza
- Esperienza nel debug di problemi di compilazione e runtime dei kernel
- Capacità di distinguere difetti software, problemi ambientali e vere sfide di ottimizzazione
Esperienza pertinente
I candidati dovrebbero avere esperienza con diversi dei seguenti tipi di attività:
- Scrittura di kernel da specifiche tecniche
- Traduzione di kernel tra CUDA, Triton o altri framework
- Migrazione di kernel tra piattaforme hardware
- Debug di implementazioni di kernel errate
- Ottimizzazione delle prestazioni dei kernel
- Fusione di più operazioni in kernel ottimizzati
Nice to Have
- Esperienza sia nell'ecosistema delle GPU NVIDIA sia in quello degli acceleratori personalizzati
- Esperienza con AWS Trainium, TPU, JAX o altri acceleratori
- Esperienza nell'ingegneria dei compilatori
- Familiarità con MLIR, XLA o lowering delle rappresentazioni intermedie
- Contributi a librerie di kernel GPU o ML
- Esperienza con cuBLAS, cuDNN, kernel della community Triton o chiamate personalizzate JAX/XLA
- Esperienza con valutazione di modelli AI, RLHF o sviluppo di benchmark tecnici
Di cosa sarai responsabile
- Revisione della correttezza delle implementazioni di kernel GPU e per acceleratori
- Confronto degli output con implementazioni di riferimento
- Valutazione delle soglie di tolleranza numerica
- Revisione dei benchmark dei kernel e determinazione dell'equità dei confronti
- Identificazione di colli di bottiglia delle prestazioni e opportunità di ottimizzazione
- Valutazione della realisticità degli obiettivi di prestazioni rispetto ai limiti hardware
- Revisione delle traduzioni dei kernel e delle migrazioni hardware
- Identificazione di problemi di compilazione, driver, memoria, shape e runtime
- Determinazione se le attività tecniche sono realmente difficili o configurate in modo errato
- Fornire feedback tecnico chiaro e attuabile
Engagement
Tipo di lavoro: Da remoto Engagement: Consulenza part-time basata su progetti Focus: Kernel GPU, ingegneria delle prestazioni, debug e valutazione tecnica
Questo ruolo è ideale per ingegneri a cui piace lavorare a stretto contatto con l'hardware, ottimizzare i carichi di lavoro GPU, eseguire il debug di problemi di prestazioni a basso livello e spingere i sistemi di calcolo AI verso i loro limiti di prestazioni.