Informazioni sul ruolo
Il lavoro
Mercor sta costituendo un panel di esperti di dominio in chimica per condurre attività di red teaming sui modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica; rispondere pienamente alle domande legittime e rifiutare quelle realmente pericolose.
Dovrà:
- Scrivere prompt impegnativi a turno singolo nel Suo ambito, classificati su tre livelli: benigni, a duplice uso (dual-use) e avversariali.
- Valutare le risposte ricevute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento — come appare una risposta corretta e il ragionamento tecnico che ne spiega il motivo.
La parte difficile è la calibrazione, non la difficoltà. Un prompt benigno che un modello rifiuta erroneamente ha lo stesso valore di uno avversariale a cui risponde erroneamente. È questo giudizio il motivo per cui servono esperti di dominio e non generalisti — in chimica la linea passa tra meccanismo e procedura, e solo chi ha eseguito la reazione sa esattamente dove cada. Profilo che cerchiamo
Cerchiamo professionisti con esperienza pratica in sintesi, chimica analitica o sicurezza chimica. È preferita una precedente esperienza di valutazione dell'IA o di red teaming. I profili rilevanti includono:
- Ricercatore di difesa chimica (USAMRICD, DoD, CDC) — agenti tossicologici e contromisure mediche.
- Chimico di sintesi / di processo — progettazione di vie sintetiche, ingegneria delle reazioni e scale-up.
- Chimico analitico — metodi di rilevamento e identificazione di composti pericolosi.
- Igienista industriale / ingegnere di sicurezza di processo — valutazione dell'esposizione, rilascio di sostanze tossiche e analisi dei pericoli di processo.
- Chimico forense / tossicologo — sostanze controllate, identificazione dei precursori e casistica forense.
Cosa richiede questo ruolo oltre alla profondità tecnica
Si tratta di un lavoro ad alta intensità di scrittura. Ogni giudizio espresso richiede una motivazione scritta che un non specialista possa seguire. Una precedente esperienza di scrittura tecnica, di ricerca pubblicata o di perito esperto (expert witness) è un indicatore forte — La preghiamo di includere un campione o un link.
Una precedente esperienza di red teaming dell'IA o di valutazione di modelli è un vantaggio ma non è obbligatoria.
Dovrà inoltre leggere e scrivere di scenari di uso improprio nel Suo settore per periodi prolungati. Informiamo preventivamente gli esperti al riguardo ed è possibile fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.
Prima di candidarsi
Il Suo lavoro qui non comporterà, e non deve attingere a, informazioni classificate o soggette a controllo delle esportazioni, né a qualsiasi materiale coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha tali obblighi può comunque essere un buon profilo — ce lo comunichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.