Informazioni sul ruolo
Il lavoro
Mercor sta costituendo un panel di esperti di esplosivi e materiali energetici per condurre attività di red teaming sui modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica: rispondere pienamente alle domande legittime e rifiutare quelle realmente pericolose.
Dovrà:
- Scrivere prompt impegnativi a turno singolo nel Suo ambito, classificati su tre livelli: benigni, a duplice uso (dual-use) e avversariali.
- Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento: come appare una risposta corretta e il ragionamento tecnico che ne spiega il motivo.
I modelli tendono a fallire in questo ambito in entrambe le direzioni: rifiutando domande di routine che un ingegnere minerario o un investigatore pone ogni giorno, per poi dare seguito a una richiesta che avrebbero dovuto bloccare perché presentata con veste accademica. Distinguere l'una dall'altra richiede qualcuno che abbia svolto davvero questo lavoro.
Profilo che cerchiamo
Cerchiamo due profili e abbiamo bisogno di entrambi: chimici con competenza in materiali speciali e ingegneri o operatori con esperienza di sistemi di innesco e di propulsione. È preferita una precedente esperienza di valutazione dell'IA o di red teaming. I profili rilevanti includono:
- Specialista di dispositivi pericolosi / professionista della sicurezza pubblica — procedure di messa in sicurezza (render-safe) e valutazione dei dispositivi.
- Chimico di materiali speciali (pirotecnica o propulsione) — formulazione, sintesi e test delle prestazioni.
- Specialista di materiali certificato a livello federale / analista di incidenti — identificazione forense e analisi della scena.
- Ingegnere di propulsione ed effetti — progettazione di munizioni e sistemi di propulsione.
- Ingegnere di brillamento commerciale — manipolazione, stoccaggio e trasporto di materiali speciali.
Cosa richiede questo ruolo oltre alla profondità tecnica
Si tratta di un lavoro ad alta intensità di scrittura. Ogni giudizio espresso richiede una motivazione scritta che un non specialista possa seguire. Una precedente esperienza di scrittura tecnica, di rapporti su incidenti o post-esplosione, di ricerca pubblicata o di perito esperto (expert witness) è un indicatore forte; La preghiamo di includere un campione o un link.
Dovrà inoltre leggere e scrivere di scenari di uso improprio nel Suo settore per periodi prolungati. Informiamo preventivamente gli esperti al riguardo ed è possibile fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.
Prima di candidarsi
Il Suo lavoro qui non comporterà, e non deve attingere a, informazioni classificate o soggette a controllo delle esportazioni, né a qualsiasi materiale coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha tali obblighi può comunque essere un buon profilo; ce lo comunichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.