Informazioni sul ruolo
Informazioni sul lavoro
Mercor sta riunendo un gruppo di esperti di materiali energetici e di propulsione per condurre attività di red teaming su modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica — rispondendo in modo completo alle domande legittime e rifiutando quelle davvero pericolose.
Le verrà richiesto di:
- Scrivere prompt impegnativi a turno singolo nel suo ambito di competenza, classificati su tre livelli: benigno, a duplice uso e avversariale.
- Valutare le risposte ottenute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento — come si presenta una risposta corretta e il ragionamento tecnico che ne spiega il motivo.
Questo ambito si colloca sul confine del duplice uso più di molti altri. La stessa valutazione che indica a un tecnico come avvicinarsi a un dispositivo indica a qualcun altro come era destinato a funzionare; gli stessi dati di compatibilità che mantengono sicuro un deposito di esplosivi descrivono ciò che resta stabile altrove. Un modello che rifiuta una normale domanda sullo stoccaggio o sulla messa in sicurezza (render-safe) sbaglia tanto quanto uno che risponde a una domanda a cui non dovrebbe rispondere. Tracciare quel confine in modo affidabile è il motivo per cui servono professionisti del settore e non generalisti.
Il profilo che cerchiamo
Cerchiamo professionisti della sicurezza pubblica che hanno valutato dispositivi reali — l'ambito della messa in sicurezza e del post-incidente, svolto sotto certificazione e responsabilità di comando. Ciò che conta di più è saper distinguere una normale domanda professionale da una che mira a ottenere altro: la stessa valutazione che rende sicuro un dispositivo spiega come è stato costruito. Scriverà prompt che si collocano esattamente su quel confine e poi valuterà se il modello lo ha rispettato.
Esempi di profili pertinenti (idealmente con esperienza di red teaming):
- Artificiere certificato o operatore per dispositivi pericolosi — valutazione dei dispositivi e procedure di messa in sicurezza
- Militare EOD con esperienza civile nella sicurezza pubblica, nella formazione o nell'istruzione
- Comandante di squadra artificieri o responsabile della formazione — qualificazione della squadra, attrezzature e protocolli
- Indagini post-esplosione e ricostruzione dei dispositivi
- Intervento tecnico CBRNE — valutazione a distanza di sicurezza, robotica e strumenti di disattivazione
Che cosa richiede questo ruolo oltre alla competenza tecnica
Si tratta di un lavoro che richiede molta scrittura. Ogni giudizio che esprimerà richiede una motivazione scritta comprensibile a un non specialista. Un'esperienza pregressa di scrittura tecnica, di ricerca pubblicata o di testimonianza come esperto è un segnale forte; la preghiamo di includere un esempio o un link. Dovrà inoltre leggere e scrivere di scenari di uso improprio nel suo settore per periodi prolungati. Ne informiamo in anticipo gli esperti, e potrà fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.
Prima di candidarsi
Il suo lavoro qui non comporterà, e non dovrà basarsi su, informazioni classificate o soggette a controlli sulle esportazioni, né su qualsiasi elemento coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha assunto obblighi di questo tipo, potrebbe comunque essere un profilo adatto; ce lo indichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.