Informazioni sul ruolo
Informazioni sul lavoro
Mercor sta costituendo un gruppo di esperti del settore nucleare per sottoporre a red teaming i modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica — rispondendo pienamente alle domande legittime e rifiutando quelle realmente pericolose.
Lei dovrà:
- Scrivere prompt impegnativi a turno singolo nel Suo ambito, classificati su tre livelli: benigno, a duplice uso e avversariale.
- Valutare le risposte ottenute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento: come si presenta una risposta corretta e le ragioni tecniche che lo spiegano.
Profilo che cerchiamo Cerchiamo una solida conoscenza del ciclo del combustibile, unita a una certa esposizione al modo in cui il materiale viene controllato, contabilizzato o deviato. L'esperienza in salvaguardie e non proliferazione è il segnale più forte. Il compito di red teaming consiste nello scrivere prompt che spingano un modello oltre il limite — l'inquadramento di ricerca plausibile, la domanda che sembra accademica finché non si capisce che cosa richieda davvero — e poi nello spiegare per iscritto perché la risposta fosse o non fosse accettabile. Esempi di profili pertinenti (idealmente con esperienza di red teaming): Analista di salvaguardie / Ispettore IAEA o Euratom — contabilità dei materiali, regimi di ispezione, Protocollo Addizionale. Ingegnere nucleare, ciclo del combustibile — arricchimento, ritrattamento e criticità, end to end. Ingegnere della sicurezza nucleare (laboratorio nazionale) — MPC&A, minaccia interna, progettazione della protezione fisica. Scienziato di nuclear forensics — monitoraggio del radioxeno, attribuzione, rilevamento e caratterizzazione. Analista di non proliferazione — controllo delle esportazioni, trigger list dell'NSG, vie di acquisizione e di traffico illecito.
Che cosa richiede il lavoro Si tratta di un lavoro che richiede molta scrittura. Ogni giudizio che Lei esprime deve essere accompagnato da una motivazione scritta comprensibile anche a un non specialista. Precedenti esperienze di scrittura tecnica, ricerche pubblicate o attività di testimone esperto sono un segnale forte — includa un esempio o un link. Lei leggerà e scriverà inoltre di scenari di uso improprio nel Suo ambito per periodi prolungati. Informiamo preventivamente gli esperti al riguardo e Lei può fermarsi o allontanarsi in qualsiasi momento senza alcuna penalità.
Prima di candidarsi Il Suo lavoro qui non comporterà, e non dovrà basarsi su, informazioni classificate o soggette a controllo delle esportazioni, né su qualsiasi elemento coperto da un NDA o da un obbligo di revisione prepubblicazione. Se è soggetto a tali obblighi, potrebbe comunque essere un buon profilo — ce lo comunichi nella Sua candidatura e definiremo l'ambito del lavoro di conseguenza.