Informazioni sul ruolo
Informazioni sul lavoro
Mercor sta riunendo un gruppo di esperti di materiali energetici e di propulsione per condurre attività di red teaming su modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica — rispondendo in modo completo alle domande legittime e rifiutando quelle davvero pericolose.
Le verrà richiesto di:
- Scrivere prompt impegnativi a turno singolo nel suo ambito di competenza, classificati su tre livelli: benigno, a duplice uso e avversariale.
- Valutare le risposte ottenute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
- Scrivere la risposta di riferimento — come si presenta una risposta corretta e il ragionamento tecnico che ne spiega il motivo.
Questo ambito si colloca sul confine del duplice uso più di molti altri. Lo stesso lavoro di formulazione che qualifica un propellente o una composizione per spettacoli pirotecnici si trova accanto a qualcosa per cui nessuno dovrebbe essere aiutato; gli stessi dati di sensibilità che proteggono una linea di produzione, visti dall'altra parte, si leggono come una specifica. Un modello che rifiuta una normale domanda sulla stabilità termica sbaglia tanto quanto uno che risponde a una domanda a cui non dovrebbe rispondere. Tracciare quel confine in modo affidabile è il motivo per cui servono professionisti del settore e non generalisti.
Il profilo che cerchiamo
Questa è la metà chimica del settore: cerchiamo persone che hanno formulato, sintetizzato e testato materiali energetici speciali in una struttura autorizzata o governativa, e non semplicemente modellati a distanza. Ciò che conta di più è saper distinguere una normale domanda professionale da una che mira a ottenere altro: lo stesso risultato di sensibilità che stabilisce un limite di manipolazione sicuro è ciò che qualcun altro vorrebbe aggirare in fase di progettazione. Scriverà prompt che si collocano esattamente su quel confine e poi valuterà se il modello lo ha rispettato.
Esempi di profili pertinenti (idealmente con esperienza di red teaming):
- Chimico formulatore di prodotti pirotecnici, propellenti o materiali energetici speciali
- Sintesi e caratterizzazione di composti energetici in una struttura autorizzata o governativa
- Test di prestazione e di sensibilità — calorimetria, stabilità termica, prove di sicurezza su piccola scala
- Scale-up e sicurezza di processo per la produzione di materiali energetici
- Sviluppo di propellenti per razzi solidi o liquidi — leganti, ossidanti, modificatori della velocità di combustione
Che cosa richiede questo ruolo oltre alla competenza tecnica
Si tratta di un lavoro che richiede molta scrittura. Ogni giudizio che esprimerà richiede una motivazione scritta comprensibile a un non specialista. Un'esperienza pregressa di scrittura tecnica, di ricerca pubblicata o di testimonianza come esperto è un segnale forte; la preghiamo di includere un esempio o un link. Dovrà inoltre leggere e scrivere di scenari di uso improprio nel suo settore per periodi prolungati. Ne informiamo in anticipo gli esperti, e potrà fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.
Prima di candidarsi
Il suo lavoro qui non comporterà, e non dovrà basarsi su, informazioni classificate o soggette a controlli sulle esportazioni, né su qualsiasi elemento coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha assunto obblighi di questo tipo, potrebbe comunque essere un profilo adatto; ce lo indichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.