Über die Stelle
Anyone AI rekrutiert erfahrene AWS Trainium / Neuron Kernel Interface (NKI)-Ingenieure für ein spezialisiertes Projekt zur Bewertung und Verbesserung von Kernel-Entwicklungsaufgaben für KI-Workloads.
Wir suchen Ingenieure mit praktischer Erfahrung im Erstellen oder Optimieren von NKI-Kernels auf AWS Trainium- oder Inferentia2-Hardware, die verstehen, wie sich die Architektur von Trainium von traditioneller GPU-Programmierung unterscheidet.
Woran Sie arbeiten werden
Sie prüfen und bewerten technische Aufgaben zu:
- NKI-Kernel-Korrektheit und Trainium-spezifischen Entwicklungsmustern
- CUDA → NKI-Kernel-Migrationen
- Trainium-Performance-Optimierung und Benchmarking
- Speicherverwaltung über SBUF, PSUM und HBM
- Tile-basierte Berechnung und DMA-Scheduling
- Plattformübergreifender numerischer Korrektheit zwischen CUDA/Triton und NKI
- Trainium-spezifischen Performance-Engpässen und Optimierungsmöglichkeiten
- Technischem Feedback und Qualitätsbewertung von Kernel-Implementierungen
Die Arbeit umfasst die Feststellung, ob Implementierungen nicht nur technisch korrekt sind, sondern auch idiomatisch und für Trainium-Hardware optimiert sind, statt einfach von GPU-basierten Ansätzen übersetzt zu sein.
Was wir suchen
- 2+ Jahre praktische Erfahrung in der Entwicklung oder Optimierung von Kernels mit dem Neuron Kernel Interface (NKI)
- Erfahrung mit AWS Trainium und/oder Inferentia2
- Fundiertes Verständnis von:
- Tile-basierter Berechnung
- SBUF / PSUM / HBM-Speicherhierarchie
- Partition-Dimension-Einschränkungen
- DMA-Orchestrierung
- Trainium-spezifischen Optimierungstechniken
- Fähigkeit, CUDA → NKI-Migrationen zu bewerten
- Erfahrung mit Profiling und Optimierung von Workloads auf Trainium
- Verständnis numerischer Unterschiede zwischen GPU- und Trainium-Backends
- Ausgeprägte Fähigkeit, komplexe technische Implementierungen zu analysieren und klares schriftliches Feedback zu geben
Wünschenswert
- Erfahrung mit dem AWS Neuron SDK oder Neuron Compiler
- Erfahrung in der CUDA- oder Triton-Kernel-Entwicklung
- Kenntnisse der NeuronCore-v2-Architektur
- Erfahrung mit FP32, BF16, FP8 und INT8-Workloads
- Erfahrung mit dem Benchmarking von Workloads auf Trn1- oder Trn2-Instanzen
- Vertrautheit mit nki.language, @nki.jit oder XLA Custom Calls
- Erfahrung mit technischer Bewertung, AI/ML-Datenprojekten, RLHF oder rubrikbasierter Beurteilung
Engagement
Arbeitsart: Remote Engagement: Teilzeit, projektbasierte Beratung Schwerpunkt: AWS Trainium / NKI-Kernel-Engineering und technische Bewertung
Dies ist eine starke Passung für Ingenieure, die intensiv mit AWS Trainium-Infrastruktur und Low-Level-ML-Kernel-Optimierung gearbeitet haben und daran interessiert sind, diese Expertise in technisch anspruchsvollen KI-Projekten einzusetzen.