この求人について
Anyone AIは、AIワークロードで使用される高性能コンピューティングカーネルのレビュー、デバッグ、評価に特化したプロジェクトのために、経験豊富なGPUカーネルエンジニアを募集しています。
CUDA、Triton、NKI、Pallasなどのフレームワークでカーネルの作成と最適化に実務経験があり、数値的正確性、GPUパフォーマンス、メモリ最適化、ベンチマークに関する深い理解を持つエンジニアを求めています。
担当する作業
GPUおよびアクセラレータカーネルに関する以下のタスクに携わっていただきます：
- カーネルの実装とデバッグ
- CUDAおよびTritonの最適化
- カーネルフレームワーク間の変換
- ハードウェア移行
- オペレータフュージョン
- パフォーマンスプロファイリングとベンチマーク
- 数値的正確性の検証
- コンパイルおよびランタイムのデバッグ
- メモリ階層の最適化
- カーネルレベルのAIワークロードパフォーマンス
実装が技術的に正確で、効率的に設計され、再現可能で、対象ハードウェアに適切に最適化されているかを評価していただきます。
求める人物像
- GPUまたはアクセラレータカーネルの開発、最適化、デバッグにおける3年以上の実務経験
- 以下のうち少なくとも2つに関する強い経験：
- CUDA
- Triton
- NKI / AWS Neuron
- Pallas / JAX
- GPUパフォーマンス最適化に関する深い理解
- Nsight、NCU、ルーフライン分析、フレームワークネイティブのプロファイラなどのカーネルプロファイリングツールの使用経験
- 以下に関する理解：
- メモリ帯域幅
- 計算スループット
- GPU占有度
- 共有メモリ
- レジスタプレッシャー
- メモリコアレッシング
- バンクコンフリクト
- 浮動小数点の数値的正確性と許容誤差閾値に関する深い理解
- カーネルのコンパイルおよびランタイム問題のデバッグ経験
- ソフトウェアの欠陥、環境の問題、真の最適化課題を区別する能力
関連する経験
候補者は以下の種類の業務のうち複数について経験があることが望まれます：
- 技術仕様書からのカーネル作成
- CUDA、Triton、その他のフレームワーク間でのカーネル変換
- ハードウェアプラットフォーム間でのカーネル移行
- 不正なカーネル実装のデバッグ
- カーネルパフォーマンスの最適化
- 複数のオペレーションを最適化されたカーネルへフュージョン
歓迎する経験
- NVIDIA GPUとカスタムアクセラレータの両エコシステムでの経験
- AWS Trainium、TPU、JAX、その他のアクセラレータの経験
- コンパイラエンジニアリングの経験
- MLIR、XLA、中間表現のローワリングに関する知識
- GPUまたはMLカーネルライブラリへの貢献
- cuBLAS、cuDNN、Tritonコミュニティカーネル、JAX/XLAカスタムコールの経験
- AIモデル評価、RLHF、技術ベンチマーク開発の経験
担当する責任
- GPUおよびアクセラレータカーネル実装の正確性レビュー
- 参照実装との出力比較
- 数値許容誤差閾値の評価
- カーネルベンチマークのレビューと比較が公平かどうかの判断
- パフォーマンスのボトルネックと最適化機会の特定
- ハードウェアの制限を踏まえたパフォーマンス目標の現実性評価
- カーネル変換とハードウェア移行のレビュー
- コンパイル、ドライバ、メモリ、形状、ランタイムの問題の特定
- 技術タスクが本当に困難なのか、設定が誤っているのかの判断
- 明確で実行可能な技術的フィードバックの提供
雇用条件
勤務形態：リモート 雇用形態：パートタイム、プロジェクトベースのコンサルティング 重点：GPUカーネル、パフォーマンスエンジニアリング、デバッグ、技術評価
このポジションは、ハードウェアに近い領域で働き、GPUワークロードの最適化、低レベルのパフォーマンス問題のデバッグ、AIコンピューティングシステムを性能限界まで引き上げることにやりがいを感じるエンジニアに最適です。