Chimico analitico

Informazioni sul lavoro

Mercor sta riunendo un gruppo di esperti di chimica e di sicurezza chimica per condurre attività di red teaming su modelli di IA di frontiera. L'obiettivo è verificare se un modello sia in grado di valutare correttamente il potenziale di uso improprio di una richiesta tecnica — rispondendo in modo completo alle domande legittime e rifiutando quelle davvero pericolose.

Le verrà richiesto di:

• Scrivere prompt impegnativi a turno singolo nel suo ambito di competenza, classificati su tre livelli: benigno, a duplice uso e avversariale.
• Valutare le risposte ottenute rispetto a uno standard di policy definito e giudicare se ciascuna sia stata gestita correttamente.
• Scrivere la risposta di riferimento — come si presenta una risposta corretta e il ragionamento tecnico che ne spiega il motivo.

Questo ambito si colloca sul confine del duplice uso più di molti altri. Lo stesso metodo che rileva un composto pericoloso a livello di tracce definisce la soglia al di sotto della quale qualcuno cercherebbe di restare; la stessa voce di libreria che identifica una sostanza sconosciuta indica che cosa uno screening vedrà e che cosa no. Un modello che rifiuta una normale domanda sulla validazione dei metodi sbaglia tanto quanto uno che risponde a una domanda a cui non dovrebbe rispondere. Tracciare quel confine in modo affidabile è il motivo per cui servono professionisti del settore e non generalisti.

Il profilo che cerchiamo

Cerchiamo analisti che hanno sviluppato e validato metodi per composti pericolosi — persone che sanno che cosa significhi davvero un limite di rilevabilità e che cosa implichi. Ciò che conta di più è saper distinguere una normale domanda professionale da una che mira a ottenere altro: lo stesso metodo di rilevamento che trova un composto descrive come eludere lo screening. Scriverà prompt che si collocano esattamente su quel confine e poi valuterà se il modello lo ha rispettato.

Esempi di profili pertinenti (idealmente con esperienza di red teaming):

• Rilevamento e identificazione di composti pericolosi — GC-MS, LC-MS/MS, IR, NMR
• Sviluppo e validazione di metodi per analisi a livello di tracce
• Campionamento e analisi in ambito ambientale, occupazionale o di risposta alle emergenze
• Standard di riferimento, librerie spettrali e identificazione di incognite
• Accreditamento dei laboratori, QA/QC e proficiency testing

Che cosa richiede questo ruolo oltre alla competenza tecnica

Si tratta di un lavoro che richiede molta scrittura. Ogni giudizio che esprimerà richiede una motivazione scritta comprensibile a un non specialista. Un'esperienza pregressa di scrittura tecnica, di ricerca pubblicata o di testimonianza come esperto è un segnale forte; la preghiamo di includere un esempio o un link. Dovrà inoltre leggere e scrivere di scenari di uso improprio nel suo settore per periodi prolungati. Ne informiamo in anticipo gli esperti, e potrà fare una pausa o allontanarsi in qualsiasi momento senza alcuna penalizzazione.

Prima di candidarsi

Il suo lavoro qui non comporterà, e non dovrà basarsi su, informazioni classificate o soggette a controlli sulle esportazioni, né su qualsiasi elemento coperto da un NDA o da un obbligo di revisione prima della pubblicazione. Se ha assunto obblighi di questo tipo, potrebbe comunque essere un profilo adatto; ce lo indichi nella candidatura e definiremo l'ambito del lavoro di conseguenza.