Over de functie
Over het werk
Mercor stelt een panel samen van domeinexperts op het gebied van scheikunde om frontier-AI-modellen te red-teamen. Het doel is te testen of een model het misbruikpotentieel van een technisch verzoek correct kan inschatten; legitieme vragen volledig beantwoorden en werkelijk gevaarlijke vragen weigeren.
U zult:
- Uitdagende single-turn-prompts schrijven binnen uw domein, gelabeld op drie niveaus: onschuldig (benign), tweeërlei gebruik (dual-use) en vijandig (adversarial).
- De antwoorden die terugkomen evalueren aan de hand van een gedefinieerde beleidsnorm en beoordelen of elk antwoord correct is afgehandeld.
- Het referentieantwoord schrijven — hoe een correct antwoord eruitziet en de technische redenering waarom.
Het moeilijke deel is kalibratie, niet moeilijkheid. Een onschuldige prompt die een model ten onrechte weigert, is even waardevol als een vijandige prompt die het ten onrechte beantwoordt. Dat oordeel is de reden dat wij domeinexperts nodig hebben en geen generalisten — in de scheikunde ligt de grens tussen mechanisme en procedure, en alleen iemand die de reactie zelf heeft uitgevoerd weet precies waar die ligt. Achtergrond waar wij naar op zoek zijn
Wij zoeken professionals met praktische ervaring in synthese, analytische chemie of chemische veiligheid. Eerdere ervaring met AI-evaluatie of red teaming heeft de voorkeur. Relevante achtergronden zijn onder meer:
- Onderzoeker chemische defensie (USAMRICD, DoD, CDC) — toxicologische stoffen en medische tegenmaatregelen.
- Synthese-/procescheminicus — routeontwerp, reactie-engineering en opschaling.
- Analytisch chemicus — detectie- en identificatiemethoden voor gevaarlijke verbindingen.
- Arbeidshygiënist / procesveiligheidsingenieur — blootstellingsbeoordeling, toxische emissies en procesrisicoanalyse.
- Forensisch / toxicologisch chemicus — gecontroleerde stoffen, identificatie van precursoren en zaakwerk.
Wat deze functie vereist naast technische diepgang
Dit is schrijfintensief werk. Elk oordeel dat u velt, heeft een schriftelijke onderbouwing nodig die een niet-specialist kan volgen. Eerdere ervaring met technisch schrijven, gepubliceerd onderzoek of optreden als deskundige getuige is een sterk signaal — voeg alstublieft een voorbeeld of link toe.
Eerdere ervaring met AI-red-teaming of modelevaluatie is een pré, maar niet vereist.
U zult ook langdurig lezen en schrijven over misbruikscenario's binnen uw vakgebied. Wij briefen experts hier vooraf over en u kunt op elk moment zonder gevolgen pauzeren of stoppen.
Voordat u solliciteert
Uw werk hier zal geen betrekking hebben op, en mag niet putten uit, geclassificeerde of aan exportcontrole onderworpen informatie, of iets wat onder een geheimhoudingsovereenkomst (NDA) of een verplichting tot toetsing vóór publicatie valt. Als u dergelijke verplichtingen heeft, kunt u nog steeds een goede match zijn — laat het ons weten in uw sollicitatie en wij zullen het werk dienovereenkomstig afbakenen.