À propos du poste
Évaluez la qualité, la justesse et l'adéquation matérielle de tâches de développement avec la Neuron Kernel Interface (NKI) utilisées pour entraîner et évaluer les modèles d'un laboratoire d'IA de pointe. Vous évaluerez la fidélité des migrations CUDA→NKI, la qualité de l'optimisation des performances spécifique à Trainium et les normes de justesse numérique inter-plateformes — et fournirez des retours écrits clairs, fondés sur une grille d'évaluation.
Qualifications de base
- Au moins 2 ans d'expérience pratique du développement ou de l'optimisation de kernels avec la Neuron Kernel Interface (NKI) pour le matériel AWS Trainium/Inferentia2
- Solide compréhension des schémas de développement propres à NKI : calcul par tuiles, gestion de la hiérarchie mémoire SBUF/PSUM/HBM, contraintes de dimension de partition et orchestration DMA
- Expérience avérée de l'évaluation de la qualité des migrations CUDA→NKI
- Connaissance du profilage de performances spécifique à Trainium (utilisation du pipeline NeuronCore, débit du moteur de tenseurs, goulots d'étranglement de la bande passante mémoire)
- Expérience de la définition ou de l'évaluation de normes de justesse numérique inter-plateformes (ordre d'accumulation GPU vs Trainium, comportement d'arrondi, sémantique de précision mixte)
Qualifications souhaitées
- Expérience directe du SDK AWS Neuron, du fonctionnement interne du compilateur Neuron ou de contributions à des bibliothèques de kernels NKI
- Développement préalable de kernels CUDA ou Triton
- Connaissance des spécifications matérielles de Trainium (architecture NeuronCore-v2, topologie de la SRAM sur puce, types de données pris en charge : FP32/BF16/FP8/INT8)
- Expérience du benchmarking de charges de travail d'entraînement ML sur des instances Trn1/Trn2