Über die Stelle
Evaluieren Sie die Qualität, Korrektheit und Hardware-Eignung von Entwicklungsaufgaben für die Neuron Kernel Interface (NKI), die zum Training und zur Evaluierung der Modelle eines Frontier-KI-Labors verwendet werden. Sie beurteilen die Genauigkeit von CUDA→NKI-Migrationen, die Qualität Trainium-spezifischer Leistungsoptimierung und plattformübergreifende Standards für numerische Korrektheit — und geben klares, rubrikbasiertes schriftliches Feedback.
Grundlegende Qualifikationen
- 2+ Jahre praktische Erfahrung in der Entwicklung oder Optimierung von Kernels mit der Neuron Kernel Interface (NKI) für AWS-Trainium-/Inferentia2-Hardware
- Fundiertes Verständnis NKI-spezifischer Entwicklungsmuster: kachelbasierte Berechnung (Tile-based Computation), Verwaltung der SBUF/PSUM/HBM-Speicherhierarchie, Einschränkungen der Partitionsdimension und DMA-Orchestrierung
- Nachgewiesene Erfahrung in der Beurteilung der Qualität von CUDA→NKI-Migrationen
- Vertrautheit mit Trainium-spezifischem Performance-Profiling (Auslastung der NeuronCore-Pipeline, Durchsatz der Tensor-Engine, Engpässe bei der Speicherbandbreite)
- Erfahrung in der Definition oder Bewertung plattformübergreifender Standards für numerische Korrektheit (GPU vs. Trainium: Akkumulationsreihenfolge, Rundungsverhalten, Mixed-Precision-Semantik)
Bevorzugte Qualifikationen
- Direkte Erfahrung mit dem AWS Neuron SDK, Interna des Neuron Compilers oder Beiträge zu NKI-Kernel-Bibliotheken
- Frühere Entwicklung von CUDA- oder Triton-Kernels
- Vertrautheit mit den Hardwarespezifikationen von Trainium (NeuronCore-v2-Architektur, On-Chip-SRAM-Topologie, unterstützte Datentypen: FP32/BF16/FP8/INT8)
- Erfahrung im Benchmarking von ML-Trainings-Workloads auf Trn1/Trn2-Instanzen