Informazioni sul ruolo
Informazioni sul lavoro
Mercor sta costituendo un gruppo di esperti di sicurezza radiologica per sottoporre a red teaming i modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica, rispondendo pienamente alle domande legittime e rifiutando quelle realmente pericolose.
Lei dovrà:
- Scrivere prompt impegnativi a turno singolo nel Suo ambito, classificati su tre livelli: benigno, a duplice uso e avversariale.
- Valutare le risposte ottenute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento: come si presenta una risposta corretta e le ragioni tecniche che lo spiegano.
Questo ambito si colloca sul confine del duplice uso più di altri. Lo stesso isotopo è alla base sia della terapia oncologica sia della radiografia industriale; lo stesso calcolo di schermatura protegge un lavoratore e occulta una sorgente. Un modello che rifiuta una domanda di routine sulla dose sbaglia tanto quanto uno che risponde a una domanda a cui non dovrebbe rispondere. Tracciare quel confine in modo affidabile è il motivo per cui servono professionisti del settore e non generalisti.
Profilo che cerchiamo
Cerchiamo persone che abbiano avuto la responsabilità di materiale radioattivo, e non semplicemente lavorato accanto ad esso: custodia delle sorgenti, autorizzazioni o ambito della sicurezza e della risposta. Ciò che conta di più è saper distinguere una domanda professionale di routine da una che mira ad altro: lo stesso calcolo di schermatura protegge un lavoratore e occulta una sorgente. Lei scriverà prompt che si collocano esattamente su quel confine, per poi giudicare se il modello lo abbia mantenuto. Esempi di profili pertinenti (idealmente con esperienza di red teaming): Responsabile della sicurezza radiologica (titolare di licenza ad ampio raggio) — detiene la licenza di riferimento; acquisizione, inventario, trasferimento e smaltimento. Fisico sanitario (sito DOE o laboratorio nazionale) — rilevamenti, analisi, controllo della contaminazione e pianificazione delle dosi in impianti ad alto rischio. Specialista di sicurezza delle sorgenti / valutazione delle vulnerabilità — ha valutato come le sorgenti di Categoria 1 e 2 vengano sottratte, schermate o spostate. Specialista di risposta alle emergenze radiologiche — FRMAC, risposta CBRN, modellazione della dispersione e della contaminazione. Fisico di medicina nucleare / RSO di ciclotrone — produzione e gestione di isotopi medici; la metà a uso legittimo del confine del duplice uso.
Che cosa richiede questo ruolo oltre alla competenza tecnica
Si tratta di un lavoro che richiede molta scrittura. Ogni giudizio che Lei esprime deve essere accompagnato da una motivazione scritta comprensibile anche a un non specialista. Precedenti esperienze di scrittura tecnica, ricerche pubblicate o attività di testimone esperto sono un segnale forte; includa un esempio o un link. Lei leggerà e scriverà inoltre di scenari di uso improprio nel Suo ambito per periodi prolungati. Informiamo preventivamente gli esperti al riguardo e Lei può fermarsi o allontanarsi in qualsiasi momento senza alcuna penalità.
Prima di candidarsi
Il Suo lavoro qui non comporterà, e non dovrà basarsi su, informazioni classificate o soggette a controllo delle esportazioni, né su qualsiasi elemento coperto da un NDA o da un obbligo di revisione prepubblicazione. Se è soggetto a tali obblighi, potrebbe comunque essere un buon profilo; ce lo comunichi nella Sua candidatura e definiremo l'ambito del lavoro di conseguenza.