关于此职位
Anyone AI 正在为一项专注于审查、调试和评估 AI 工作负载中使用的高性能计算内核的专项项目招募经验丰富的 GPU 内核工程师。
我们正在寻找在 CUDA、Triton、NKI 或 Pallas 等框架中具有编写和优化内核实践经验，并对数值正确性、GPU 性能、内存优化和基准测试有深入理解的工程师。
你将参与的工作
你将参与涉及以下内容的 GPU 和加速器内核任务：
- 内核实现与调试
- CUDA 和 Triton 优化
- 内核框架之间的转换
- 硬件迁移
- 算子融合
- 性能分析与基准测试
- 数值正确性验证
- 编译与运行时调试
- 内存层次结构优化
- 内核级 AI 工作负载性能
你将评估实现是否在技术上正确、设计高效、可复现，并针对目标硬件进行了适当优化。
我们正在寻找
- 3+ 年开发、优化或调试 GPU 或加速器内核的实践经验
- 在以下至少两项中具有丰富经验：
- CUDA
- Triton
- NKI / AWS Neuron
- Pallas / JAX
- 对 GPU 性能优化有深入理解
- 具有使用 Nsight、NCU、roofline 分析或框架原生分析器等内核分析工具的经验
- 理解：
- 内存带宽
- 计算吞吐量
- GPU 占用率
- 共享内存
- 寄存器压力
- 内存合并
- 存储体冲突
- 对浮点数值正确性和容差阈值有深入理解
- 具有调试内核编译和运行时问题的经验
- 能够区分软件缺陷、环境问题和真正的优化挑战
相关经验
候选人应具备以下若干类工作的经验：
- 根据技术规格编写内核
- 在 CUDA、Triton 或其他框架之间转换内核
- 跨硬件平台迁移内核
- 调试错误的内核实现
- 优化内核性能
- 将多个操作融合为优化内核
加分项
- 同时具备 NVIDIA GPU 和自定义加速器生态系统的经验
- 具有 AWS Trainium、TPU、JAX 或其他加速器的经验
- 编译器工程经验
- 熟悉 MLIR、XLA 或中间表示降级
- 对 GPU 或 ML 内核库的贡献
- 具有 cuBLAS、cuDNN、Triton 社区内核或 JAX/XLA 自定义调用的经验
- 具有 AI 模型评估、RLHF 或技术基准开发的经验
你将负责
- 审查 GPU 和加速器内核实现的正确性
- 将输出与参考实现进行比较
- 评估数值容差阈值
- 审查内核基准测试并判断比较是否公平
- 识别性能瓶颈和优化机会
- 评估性能目标在硬件限制下是否现实
- 审查内核转换和硬件迁移
- 识别编译、驱动、内存、形状和运行时问题
- 判断技术任务是否确实困难或配置有误
- 提供清晰、可操作的技术反馈
合作方式
工作类型：远程 合作方式：兼职、项目制咨询 重点：GPU 内核、性能工程、调试和技术评估
该职位非常适合喜欢贴近硬件工作、优化 GPU 工作负载、调试底层性能问题并推动 AI 计算系统达到性能极限的工程师。