Ingegnere MLOps, prestazioni degli LLM (kernel, profiling, serving)

Entri a far parte del team GenAI all'avanguardia di un importante laboratorio di IA per essere al centro della rivoluzione dell'IA, dove la sua competenza alimenta lo sviluppo dei Large Language Model più avanzati.

1\. Panoramica

Entri a far parte del team GenAI all'avanguardia di un importante laboratorio di IA e contribuisca a costruire da zero modelli di IA fondazionali. Cerchiamo ingegneri MLOps e di sistemi ML con esperienza pratica nell'infrastruttura per large language model in una qualsiasi di quattro aree: programmazione di kernel per acceleratori, profiling delle prestazioni e analisi delle trace, debug di carichi di lavoro accelerati e distribuiti e serving di inferenza ad alto throughput. L'esperienza con JAX, XLA o TPU è particolarmente apprezzata. Questo ruolo comprende attività di addestramento e valutazione di modelli di IA, tra cui la scrittura e la valutazione di task e soluzioni di sistemi ML per generare dati di addestramento di alta qualità per sistemi di IA di frontiera.

Si tratta di un ruolo interamente da remoto, aperto a candidati di tutto il mondo. A seconda del luogo in cui ha sede, il suo incarico sarà organizzato tramite Cincinnatus LLC o uno dei suoi partner employer-of-record di fiducia nel suo Paese, con la possibilità di un inserimento presso un importante laboratorio di IA come parte della sua forza lavoro estesa. Si tratta di un impegno a tempo pieno di 40 ore, senza conflitti e senza altri incarichi.

2\. Responsabilità principali

• Progettare task impegnativi su kernel, profiling, debug e serving di inferenza, inclusi problemi avversariali che mettono in luce dove i modelli di frontiera falliscono sul codice per acceleratori (ad esempio kernel Pallas su TPU), e scrivere soluzioni accurate e ben strutturate per essi.

• Guidare i team di ricerca e di ingegneria nel colmare le lacune di conoscenza e nel migliorare le prestazioni dei modelli di IA su temi di sistemi ML, compilatori e infrastruttura di addestramento.

• Valutare task e soluzioni di sistemi ML e fornire feedback tecnici scritti chiari che reggano alla revisione di esperti.

• Sviluppare linee guida e griglie di valutazione dettagliate che coprano l'ottimizzazione dei kernel, l'interpretazione dell'output dei profiler, il ragionamento sui sistemi distribuiti e i compromessi tra throughput e latenza nel serving.

• Collaborare con altri esperti della materia per mantenere coerenti e accurati i dati di addestramento.

3\. Qualifiche fondamentali

• 2+ anni di esperienza professionale pratica in sistemi ML, infrastruttura ML, serving di modelli o ingegneria delle prestazioni degli acceleratori. Si tratta di un ruolo pratico di sistemi, e non di modellazione applicata o data science.

• Esperienza pratica in almeno uno dei seguenti ambiti, con più di uno come forte vantaggio: scrittura o ottimizzazione di kernel personalizzati (Pallas, Triton, CUDA, CUTLASS); profiling delle prestazioni e analisi delle trace (profiler JAX/XLA, Kineto, torch.profiler, Nsight); debug di carichi di lavoro distribuiti o vincolati dagli acceleratori; serving di large language model su larga scala (vLLM, SGLang, TensorRT-LLM, JetStream, KV cache, paged attention, continuous batching).

• Esperienza operativa in produzione con JAX e/o PyTorch. La profondità a livello di framework è un forte vantaggio: operatori personalizzati, sharding e addestramento distribuito (pjit/shard_map, FSDP, Megatron, MaxText) oppure lavoro su compilatori e a livello di grafo (XLA/StableHLO, torch.compile, MLIR).

• Esperienza con acceleratori moderni come TPU (da v4 a v6e), H100, B200, Trainium o MI300, e capacità di ragionare sui compromessi tra throughput, latenza e memoria.

• Progressione di carriera dimostrabile.

• Capacità di impegnarsi in modo affidabile per almeno 40 ore/settimana nei giorni feriali.

• Ottime capacità di comunicazione scritta e capacità di spiegare con chiarezza decisioni tecniche complesse.

Informazioni su Cincinnatus LLC: Cincinnatus LLC è una società di staffing per le imprese che collabora con importanti aziende tecnologiche per individuare e ingaggiare professionisti altamente qualificati per opportunità temporanee e a contratto. Operando direttamente o tramite partner locali employer-of-record, Cincinnatus gestisce il rapporto di lavoro o di collaborazione, le buste paga, i benefit ove applicabili e la conformità in ciascun Paese, inserendo i professionisti direttamente nei team dei clienti per lavorare su iniziative ad alto impatto.

Pari opportunità di impiego: Cincinnatus è orgogliosa di essere un datore di lavoro che garantisce pari opportunità di impiego (Equal Employment Opportunity). Non operiamo discriminazioni sulla base di razza, religione, colore della pelle, origine nazionale, sesso (compresi gravidanza, parto, decisioni in materia di salute riproduttiva o condizioni mediche correlate), orientamento sessuale, identità di genere, espressione di genere, età, status di veterano protetto, status di persona con disabilità, informazioni genetiche, opinioni o attività politiche o qualsiasi altra caratteristica tutelata dalla legge.