Informazioni sul ruolo
Il lavoro
Mercor sta costituendo un panel di esperti di sicurezza radiologica per condurre attività di red teaming sui modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica — rispondendo pienamente alle domande legittime e rifiutando quelle realmente pericolose.
Dovrà:
- Scrivere prompt impegnativi a turno singolo nel Suo ambito, classificati su tre livelli: benigni, a duplice uso (dual-use) e avversariali.
- Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento — come appare una risposta corretta e il ragionamento tecnico che ne spiega il motivo.
Questo ambito si colloca sulla linea del duplice uso più della maggior parte degli altri. Lo stesso isotopo è alla base della terapia oncologica e della radiografia industriale; lo stesso calcolo di schermatura protegge un lavoratore e nasconde una sorgente. Un modello che rifiuta una domanda di routine sulla dose sbaglia tanto quanto uno che risponde a una domanda a cui non dovrebbe. Tracciare in modo affidabile quella linea è il motivo per cui servono professionisti sul campo e non generalisti.
Profilo che cerchiamo
Cerchiamo persone che abbiano valutato come le sorgenti di Categoria 1 e 2 vengano effettivamente sottratte, schermate o spostate — il versante della sicurezza e della vulnerabilità di un programma autorizzato, non soltanto la sua documentazione. Ciò che conta di più è saper distinguere una domanda professionale di routine da una che cerca di ottenere qualcos'altro: lo stesso calcolo di schermatura protegge un lavoratore e nasconde una sorgente. Scriverà prompt che si collocano esattamente su quella linea, per poi giudicare se il modello l'abbia mantenuta.
Esempi di profili rilevanti (idealmente con esperienza di red teaming):
- Valutazione della sicurezza o delle vulnerabilità di impianti autorizzati che detengono sorgenti di Categoria 1 e 2
- Progettazione e revisione della protezione fisica — rilevare, ritardare, valutare e rispondere; considerazioni sulla minaccia interna
- Programmi di recupero, consolidamento o potenziamento della sicurezza per sorgenti dismesse e orfane
- Ispezione e conformità in materia di sicurezza normativa — 10 CFR 37 o equivalenti nazionali
- Sicurezza del trasporto di materiale radioattivo — pianificazione degli itinerari, scorta, tracciamento e catena di custodia
Cosa richiede questo ruolo oltre alla profondità tecnica
Si tratta di un lavoro ad alta intensità di scrittura. Ogni giudizio espresso richiede una motivazione scritta che un non specialista possa seguire. Una precedente esperienza di scrittura tecnica, di ricerca pubblicata o di perito esperto (expert witness) è un indicatore forte; La preghiamo di includere un campione o un link. Dovrà inoltre leggere e scrivere di scenari di uso improprio nel Suo settore per periodi prolungati. Informiamo preventivamente gli esperti al riguardo ed è possibile fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.
Prima di candidarsi
Il Suo lavoro qui non comporterà, e non deve attingere a, informazioni classificate o soggette a controllo delle esportazioni, né a qualsiasi materiale coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha tali obblighi può comunque essere un buon profilo; ce lo comunichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.