Informazioni sul ruolo
Informazioni sul lavoro
Mercor sta riunendo un gruppo di esperti di materiali nucleari e di salvaguardie per condurre attività di red teaming su modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica — rispondendo in modo completo alle domande legittime e rifiutando quelle davvero pericolose.
Le verrà richiesto di:
- Scrivere prompt impegnativi a turno singolo nel suo ambito di competenza, classificati su tre livelli: benigno, a duplice uso e avversariale.
- Valutare le risposte ottenute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento — come si presenta una risposta corretta e il ragionamento tecnico che ne spiega il motivo.
Questo ambito si colloca sul confine del duplice uso più di molti altri. Lo stesso calcolo del bilancio dei materiali che chiude i conti di un ispettore può servire a nascondere ciò che manca; la stessa fase del ciclo del combustibile che alimenta un reattore di potenza è quella attraverso cui passa un percorso di proliferazione. Un modello che rifiuta una normale domanda di contabilità dei materiali sbaglia tanto quanto uno che risponde a una domanda a cui non dovrebbe rispondere. Tracciare quel confine in modo affidabile è il motivo per cui servono professionisti del settore e non generalisti.
Il profilo che cerchiamo
Cerchiamo persone che hanno verificato materiale nucleare anziché limitarsi a leggerne — regimi di ispezione, contabilità e le decisioni di giudizio che comporta una discrepanza irrisolta. Ciò che conta di più è saper distinguere una normale domanda professionale da una che mira a ottenere altro: lo stesso dato di bilancio dei materiali che chiude un conto può essere usato per occultare una diversione. Scriverà prompt che si collocano esattamente su quel confine e poi valuterà se il modello lo ha rispettato.
Esempi di profili pertinenti (idealmente con esperienza di red teaming):
- Ispettore IAEA, Euratom o di un sistema nazionale (SSAC/RSAC) — pianificazione delle ispezioni, verifica, rendicontazione
- Contabilità dei materiali — dichiarazioni degli impianti, rapporti sulle variazioni di inventario, valutazione e risoluzione del MUF
- Attuazione del Protocollo Aggiuntivo — dichiarazioni, accesso complementare, analisi delle informazioni
- Strumentazione per le salvaguardie e contenimento/sorveglianza — misure NDA, sigilli, monitoraggio non presidiato
- Attività di safeguards-by-design o analisi delle politiche di salvaguardia presso un laboratorio, un'autorità di regolamentazione o un ministero
Che cosa richiede questo ruolo oltre alla competenza tecnica
Si tratta di un lavoro che richiede molta scrittura. Ogni giudizio che esprimerà richiede una motivazione scritta comprensibile a un non specialista. Un'esperienza pregressa di scrittura tecnica, di ricerca pubblicata o di testimonianza come esperto è un segnale forte; la preghiamo di includere un esempio o un link. Dovrà inoltre leggere e scrivere di scenari di uso improprio nel suo settore per periodi prolungati. Ne informiamo in anticipo gli esperti, e potrà fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.
Prima di candidarsi
Il suo lavoro qui non comporterà, e non dovrà basarsi su, informazioni classificate o soggette a controlli sulle esportazioni, né su qualsiasi elemento coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha assunto obblighi di questo tipo, potrebbe comunque essere un profilo adatto; ce lo indichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.