Informazioni sul ruolo
Il lavoro
Mercor sta costituendo un panel di esperti di materiali nucleari e salvaguardie per condurre attività di red teaming sui modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica — rispondendo pienamente alle domande legittime e rifiutando quelle realmente pericolose.
Dovrà:
- Scrivere prompt impegnativi a turno singolo nel Suo ambito, classificati su tre livelli: benigni, a duplice uso (dual-use) e avversariali.
- Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento — come appare una risposta corretta e il ragionamento tecnico che ne spiega il motivo.
Questo ambito si colloca sulla linea del duplice uso più della maggior parte degli altri. Lo stesso calcolo del bilancio dei materiali che chiude i conti di un ispettore può essere usato per nascondere ciò che manca; la stessa valutazione della protezione che rafforza un impianto ne mappa le debolezze. Un modello che rifiuta una domanda di routine sulla contabilità dei materiali sbaglia tanto quanto uno che risponde a una domanda a cui non dovrebbe. Tracciare in modo affidabile quella linea è il motivo per cui servono professionisti sul campo e non generalisti.
Profilo che cerchiamo
Cerchiamo persone che siano state responsabili di mantenere il materiale nucleare dove deve stare — controllo e contabilità dei materiali, protezione fisica e le valutazioni che mettono alla prova entrambi. Ciò che conta di più è saper distinguere una domanda professionale di routine da una che cerca di ottenere qualcos'altro: la stessa valutazione delle vulnerabilità che chiude una lacuna la descrive anche. Scriverà prompt che si collocano esattamente su quella linea, per poi giudicare se il modello l'abbia mantenuta.
Esempi di profili rilevanti (idealmente con esperienza di red teaming):
- Progettazione, gestione o valutazione di programmi di controllo e contabilità dei materiali (MC&A) presso un laboratorio nazionale o un titolare di licenza
- Ingegneria dei sistemi di protezione fisica — sensori, barriere, ritardo, forza di risposta, test delle prestazioni
- Valutazione delle vulnerabilità e analisi dei percorsi dell'avversario per impianti nucleari
- Attività su programmi di minaccia interna e affidabilità umana
- Politiche di sicurezza nucleare, formazione o programmi di assistenza internazionale
Cosa richiede questo ruolo oltre alla profondità tecnica
Si tratta di un lavoro ad alta intensità di scrittura. Ogni giudizio espresso richiede una motivazione scritta che un non specialista possa seguire. Una precedente esperienza di scrittura tecnica, di ricerca pubblicata o di perito esperto (expert witness) è un indicatore forte; La preghiamo di includere un campione o un link. Dovrà inoltre leggere e scrivere di scenari di uso improprio nel Suo settore per periodi prolungati. Informiamo preventivamente gli esperti al riguardo ed è possibile fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.
Prima di candidarsi
Il Suo lavoro qui non comporterà, e non deve attingere a, informazioni classificate o soggette a controllo delle esportazioni, né a qualsiasi materiale coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha tali obblighi può comunque essere un buon profilo; ce lo comunichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.