Over de functie
Anyone AI werft ervaren GPU-kernel-engineers aan voor een gespecialiseerd project gericht op het beoordelen, debuggen en evalueren van hoogwaardige compute-kernels die worden gebruikt in AI-workloads.
We zoeken engineers met praktische ervaring in het schrijven en optimaliseren van kernels binnen frameworks zoals CUDA, Triton, NKI of Pallas, met een sterk begrip van numerieke correctheid, GPU-prestaties, geheugenoptimalisatie en benchmarking.
Waar je aan werkt
Je werkt aan GPU- en accelerator-kerneltaken, waaronder:
- Kernelimplementatie en debugging
- CUDA- en Triton-optimalisatie
- Vertaling tussen kernelframeworks
- Hardwaremigratie
- Operatorfusion
- Prestatieprofilering en benchmarking
- Verificatie van numerieke correctheid
- Compilatie- en runtime-debugging
- Optimalisatie van de geheugenhiërarchie
- Kernel-niveau AI-workloadprestaties
Je beoordeelt of implementaties technisch correct, efficiënt ontworpen, reproduceerbaar en passend geoptimaliseerd zijn voor de doeldhardware.
Wat we zoeken
- 3+ jaar praktische ervaring in het ontwikkelen, optimaliseren of debuggen van GPU- of accelerator-kernels
- Sterke ervaring met ten minste twee van de volgende:
- CUDA
- Triton
- NKI / AWS Neuron
- Pallas / JAX
- Sterk begrip van GPU-prestatieoptimalisatie
- Ervaring met kernelprofileringstools zoals Nsight, NCU, roofline-analyse of framework-native profilers
- Begrip van:
- Geheugenbandbreedte
- Compute-doorvoer
- GPU-bezetting
- Gedeeld geheugen
- Registerdruk
- Geheugencoalescing
- Bankconflicten
- Sterk begrip van floating-point numerieke correctheid en tolerantiedrempels
- Ervaring met het debuggen van kernelcompilatie en runtime-problemen
- Vermogen om softwaredetecten, omgevingsproblemen en echte optimalisatie-uitdagingen van elkaar te onderscheiden
Relevante ervaring
Kandidaten moeten ervaring hebben met meerdere van de volgende soorten werk:
- Kernels schrijven op basis van technische specificaties
- Kernels vertalen tussen CUDA, Triton of andere frameworks
- Kernels migreren tussen hardwareplatforms
- Onjuiste kernelimplementaties debuggen
- Kernelprestaties optimaliseren
- Meerdere bewerkingen fuseren tot geoptimaliseerde kernels
Nice to have
- Ervaring in zowel NVIDIA GPU- als aangepaste acceleratorecosystemen
- Ervaring met AWS Trainium, TPU, JAX of andere accelerators
- Ervaring met compiler-engineering
- Bekendheid met MLIR, XLA of intermediate representation lowering
- Bijdragen aan GPU- of ML-kernellibraries
- Ervaring met cuBLAS, cuDNN, Triton-communitykernels of JAX/XLA custom calls
- Ervaring met AI-modelevaluatie, RLHF of ontwikkeling van technische benchmarks
Waar je verantwoordelijk voor bent
- GPU- en accelerator-kernelimplementaties beoordelen op correctheid
- Uitvoer vergelijken met referentie-implementaties
- Numerieke tolerantiedrempels evalueren
- Kernelbenchmarks beoordelen en bepalen of vergelijkingen eerlijk zijn
- Prestatieknelpunten en optimalisatiemogelijkheden identificeren
- Beoordelen of prestatiedoelen realistisch zijn gezien de hardwarelimieten
- Kernelvertalingen en hardwaremigraties beoordelen
- Compilatie-, driver-, geheugen-, vorm- en runtime-problemen identificeren
- Bepalen of technische taken echt moeilijk of onjuist geconfigureerd zijn
- Duidelijke, actionabele technische feedback geven
Opdracht
Werktype: Remote Opdracht: Parttime, projectmatig consultancy Focus: GPU-kernels, prestatie-engineering, debugging en technische evaluatie
Deze rol is ideaal voor engineers die graag dicht bij de hardware werken, GPU-workloads optimaliseren, low-level prestatieproblemen debuggen en AI-computesystemen naar hun prestatiegrenzen willen brengen.