Analista di non proliferazione

Informazioni sul lavoro

Mercor sta riunendo un gruppo di esperti di materiali nucleari e di salvaguardie per condurre attività di red teaming su modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica — rispondendo in modo completo alle domande legittime e rifiutando quelle davvero pericolose.

Le verrà richiesto di:

• Scrivere prompt impegnativi a turno singolo nel suo ambito di competenza, classificati su tre livelli: benigno, a duplice uso e avversariale.
• Valutare le risposte ottenute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
• Scrivere la risposta di riferimento — come si presenta una risposta corretta e il ragionamento tecnico che ne spiega il motivo.

Questo ambito si colloca sul confine del duplice uso più di molti altri. La stessa lista di controllo che blocca una spedizione indica a un agente di approvvigionamento che cosa evitare di dichiarare; la stessa analisi dei percorsi che orienta le politiche è una mappa se letta nella direzione opposta. Un modello che rifiuta una normale domanda sulla classificazione ai fini dell'esportazione sbaglia tanto quanto uno che risponde a una domanda a cui non dovrebbe rispondere. Tracciare quel confine in modo affidabile è il motivo per cui servono professionisti del settore e non generalisti.

Il profilo che cerchiamo

Cerchiamo persone che si sono occupate professionalmente di questioni di proliferazione — controllo delle esportazioni, attuazione di trattati o analisi di programmi — e che sanno distinguere una domanda di conformità da una domanda di elusione. Ciò che conta di più è saper distinguere una normale domanda professionale da una che mira a ottenere altro: la stessa lista di controllo che blocca un trasferimento indica anche che cosa aggirare. Scriverà prompt che si collocano esattamente su quel confine e poi valuterà se il modello lo ha rispettato.

Esempi di profili pertinenti (idealmente con esperienza di red teaming):

• Licenze, classificazione o applicazione dei controlli sulle esportazioni — liste di beni a duplice uso, controlli catch-all, verifica degli utilizzatori finali
• Attuazione di trattati e accordi — NPT, CTBT, accordi di salvaguardia, accordi bilaterali di cooperazione
• Analisi dei percorsi di proliferazione e dei programmi presso un laboratorio, un'agenzia, un ministero o un istituto di ricerca
• Analisi di sanzioni, reti di approvvigionamento o traffici illeciti
• Analisi tecnica e da fonti aperte dei programmi nucleari

Che cosa richiede questo ruolo oltre alla competenza tecnica

Si tratta di un lavoro che richiede molta scrittura. Ogni giudizio che esprimerà richiede una motivazione scritta comprensibile a un non specialista. Un'esperienza pregressa di scrittura tecnica, di ricerca pubblicata o di testimonianza come esperto è un segnale forte; la preghiamo di includere un esempio o un link. Dovrà inoltre leggere e scrivere di scenari di uso improprio nel suo settore per periodi prolungati. Ne informiamo in anticipo gli esperti, e potrà fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.

Prima di candidarsi

Il suo lavoro qui non comporterà, e non dovrà basarsi su, informazioni classificate o soggette a controlli sulle esportazioni, né su qualsiasi elemento coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha assunto obblighi di questo tipo, potrebbe comunque essere un profilo adatto; ce lo indichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.