Acerca del puesto
Evaluar la calidad, la corrección y la idoneidad para el hardware de las tareas de desarrollo con Neuron Kernel Interface (NKI) utilizadas para entrenar y evaluar los modelos de un laboratorio de IA de frontera. Usted evaluará la fidelidad de la migración de CUDA→NKI, la calidad de la optimización del rendimiento específica de Trainium y los estándares de corrección numérica multiplataforma — y proporcionará comentarios escritos claros basados en rúbricas.
Cualificaciones básicas
- 2+ años de experiencia práctica desarrollando u optimizando kernels con Neuron Kernel Interface (NKI) para hardware AWS Trainium/Inferentia2
- Sólida comprensión de los patrones de desarrollo específicos de NKI: cómputo basado en tiles, gestión de la jerarquía de memoria SBUF/PSUM/HBM, restricciones de la dimensión de partición y orquestación de DMA
- Experiencia demostrada evaluando la calidad de migraciones de CUDA→NKI
- Familiaridad con el perfilado de rendimiento específico de Trainium (utilización del pipeline de NeuronCore, rendimiento del motor de tensores, cuellos de botella de ancho de banda de memoria)
- Experiencia definiendo o evaluando estándares de corrección numérica multiplataforma (orden de acumulación en GPU frente a Trainium, comportamiento de redondeo, semántica de precisión mixta)
Cualificaciones preferidas
- Experiencia directa con el AWS Neuron SDK, el funcionamiento interno del Neuron Compiler o contribuciones a bibliotecas de kernels NKI
- Desarrollo previo de kernels en CUDA o Triton
- Familiaridad con las especificaciones del hardware Trainium (arquitectura NeuronCore-v2, topología de SRAM en chip, tipos de datos admitidos: FP32/BF16/FP8/INT8)
- Experiencia en benchmarking de cargas de trabajo de entrenamiento de ML en instancias Trn1/Trn2