关于此职位
加入一家领先 AI 实验室的尖端 GenAI 团队，置身 AI 革命的核心，您的专业知识将推动最先进大语言模型的发展。
1\. 概述
加入一家领先 AI 实验室的尖端 GenAI 团队，从零开始协助构建基础 AI 模型。我们正在寻找 MLOps 和 ML 系统工程师，他们在大语言模型基础设施的以下四个领域中的任一领域拥有一线经验：加速器内核编程、性能剖析与追踪分析、加速与分布式工作负载的调试，以及高吞吐量推理服务。具有 JAX、XLA 或 TPU 经验尤为宝贵。该职位涉及 AI 模型训练与评估工作，包括撰写和评估 ML 系统任务及解答，为前沿 AI 系统生成高质量的训练数据。
这是一个完全远程的职位，面向全球候选人开放。根据您所在的地点，您的合作将通过 Cincinnatus LLC 或其在您所在国家/地区的可信法定雇主合作伙伴来安排，并有机会作为其扩展劳动力的一部分被安排到一家领先的 AI 实验室工作。这是一项 40 小时的全职合作，不得存在冲突/不得有其他工作。
2\. 主要职责
- 围绕内核、性能剖析、调试和推理服务设计具有挑战性的任务，包括暴露前沿模型在加速器代码（例如 TPU 上的 Pallas 内核）上哪里会失败的对抗性问题，并为这些任务撰写准确、结构良好的解答。
- 指导研究和工程团队弥合知识差距，提升 AI 模型在 ML 系统、编译器和训练基础设施主题上的表现。
- 评估 ML 系统任务及解答，并提供经得起专家审查的清晰书面技术反馈。
- 制定涵盖内核优化、性能分析器输出解读、分布式系统推理，以及推理服务吞吐量与延迟权衡的指南和详细评分标准。
- 与其他领域专家协作，保持训练数据的一致性和准确性。
3\. 核心资质
- 拥有 2 年及以上 ML 系统、ML 基础设施、模型推理服务或加速器性能工程方面的一线专业经验。这是一个偏动手的系统类职位，而非应用建模或数据科学类职位。
- 在以下至少一个方面具有实践经验，具备多项更佳：编写或优化自定义内核（Pallas、Triton、CUDA、CUTLASS）；性能剖析与追踪分析（JAX/XLA profiler、Kineto、torch.profiler、Nsight）；调试分布式或受加速器限制的工作负载；大规模部署大语言模型推理服务（vLLM、SGLang、TensorRT-LLM、JetStream、KV cache、paged attention、continuous batching）。
- 具有 JAX 和/或 PyTorch 的实际生产经验。框架层面的深度是很大的加分项：自定义算子、分片与分布式训练（pjit/shard_map、FSDP、Megatron、MaxText），或编译器和计算图层面的工作（XLA/StableHLO、torch.compile、MLIR）。
- 具有现代加速器的使用经验，例如 TPU（v4 至 v6e）、H100、B200、Trainium 或 MI300，并能够分析吞吐量、延迟和内存之间的权衡。
- 有可证明的职业晋升轨迹。
- 能够在工作日每周可靠地投入至少 40 小时。
- 出色的书面沟通能力，能够清晰解释复杂的技术决策。
关于 Cincinnatus LLC： Cincinnatus LLC 是一家企业人力资源公司，与领先的科技公司合作，为临时性和合同制岗位寻找并聘用高技能专业人才。Cincinnatus 直接或通过当地法定雇主合作伙伴，在各国负责雇佣或合同关系、薪资发放、适用情况下的福利以及合规事务，同时将专业人才直接安排到客户团队中参与高影响力的项目。
平等就业机会： Cincinnatus 以作为平等就业机会雇主为荣。我们不会基于种族、宗教、肤色、国籍、性别（包括怀孕、分娩、生育健康决定或相关医疗状况）、性取向、性别认同、性别表达、年龄、受保护退伍军人身份、残障人士身份、基因信息、政治观点或活动，或任何其他受法律保护的特征而实施歧视。