关于此职位
评估用于训练和评估前沿 AI 实验室模型的 Neuron Kernel Interface(NKI)开发任务的质量、正确性和硬件适用性。您将评估 CUDA→NKI 迁移的保真度、Trainium 专用性能优化的质量以及跨平台数值正确性标准,并提供清晰的、基于评分标准(rubric)的书面反馈。
基本资格要求
- 拥有 2 年以上使用 Neuron Kernel Interface(NKI)开发或优化面向 AWS Trainium/Inferentia2 硬件的内核的实操经验
- 深入理解 NKI 特有的开发模式:基于分块(tile)的计算、SBUF/PSUM/HBM 内存层次管理、分区维度约束以及 DMA 编排
- 有评估 CUDA→NKI 迁移质量的成熟经验
- 熟悉 Trainium 专用的性能剖析(NeuronCore 流水线利用率、张量引擎吞吐量、内存带宽瓶颈)
- 有定义或评估跨平台数值正确性标准的经验(GPU 与 Trainium 的累加顺序、舍入行为、混合精度语义)
优先资格
- 直接使用 AWS Neuron SDK、Neuron 编译器内部机制的经验,或对 NKI 内核库的贡献
- 有 CUDA 或 Triton 内核开发经验
- 熟悉 Trainium 硬件规格(NeuronCore-v2 架构、片上 SRAM 拓扑、支持的数据类型:FP32/BF16/FP8/INT8)
- 有在 Trn1/Trn2 实例上对机器学习训练工作负载进行基准测试的经验