Over de functie
Over het werk
Mercor stelt een panel samen van experts op het gebied van scheikunde en chemische veiligheid om frontier-AI-modellen te red-teamen. Het doel is te testen of een model het misbruikpotentieel van een technisch verzoek correct kan inschatten — legitieme vragen volledig beantwoorden en werkelijk gevaarlijke vragen weigeren.
U gaat:
- Uitdagende single-turn-prompts schrijven binnen uw vakgebied, gelabeld op drie niveaus: benign (onschuldig), dual-use en adversarial (kwaadwillig).
- De antwoorden die terugkomen beoordelen aan de hand van een vastgestelde beleidsnorm en oordelen of elk antwoord correct is afgehandeld.
- Het referentieantwoord schrijven — hoe een correct antwoord eruitziet en de technische redenering waarom.
Dit vakgebied bevindt zich vaker dan de meeste op de grens van dual-use. Hetzelfde routeontwerp dat een geneesmiddel opschaalt, ligt ten grondslag aan een gecontroleerde stof; hetzelfde onzuiverheidsprofiel dat een schoon proces aantoont, laat zien hoe iets is gemaakt. Een model dat een routinematige vraag over opschaling of kinetiek weigert, faalt net zo erg als een model dat een vraag beantwoordt die het niet zou moeten beantwoorden. Die grens betrouwbaar trekken is precies waarom we praktijkdeskundigen nodig hebben in plaats van generalisten.
Achtergrond waar we naar op zoek zijn
We zoeken chemici die daadwerkelijk syntheseroutes hebben uitgevoerd en opgeschaald — van laboratorium via pilot naar fabriek — en die weten welke vragen gewone proceschemie zijn en welke om iets anders vragen. Het belangrijkst is dat u een routinematige professionele vraag kunt onderscheiden van een vraag die op iets anders uit is: dezelfde routekennis die een synthese verkort, komt ten goede aan wie hem ook verkort. U schrijft prompts die precies op die grens zitten en beoordeelt vervolgens of het model die grens heeft gehouden.
Voorbeelden van relevante achtergronden (bij voorkeur met red-teamingervaring):
- Ontwerp en ontwikkeling van syntheseroutes in de farmaceutische, agrochemische of fijnchemische industrie
- Proceschemie en reactietechniek — optimalisatie, kinetiek, beheersing van onzuiverheden
- Opschaling van laboratorium via pilot naar fabriek, met de bijbehorende veiligheidsbeoordeling
- Inkoop van precursoren, registratie van gecontroleerde stoffen of regelgevingsgerelateerde chemie
- Methodeontwikkeling en probleemoplossing in een GMP- of gelijkwaardige kwaliteitsomgeving
Wat deze rol vraagt naast technische diepgang
Dit is schrijfintensief werk. Bij elk oordeel dat u velt, hoort een schriftelijke onderbouwing die een niet-specialist kan volgen. Eerdere ervaring met technisch schrijven, gepubliceerd onderzoek of optreden als getuige-deskundige is een sterk signaal; voeg graag een voorbeeld of link toe. U leest en schrijft ook gedurende langere tijd over misbruikscenario's binnen uw vakgebied. We informeren experts hier van tevoren over en u kunt op elk moment pauzeren of zich terugtrekken zonder consequenties.
Voordat u solliciteert
Uw werk hier omvat geen gerubriceerde of exportgecontroleerde informatie, of informatie die onder een geheimhoudingsovereenkomst (NDA) of een verplichting tot toetsing vóór publicatie valt, en mag daar ook niet op steunen. Als u dergelijke verplichtingen heeft, kunt u nog steeds een goede match zijn; laat het ons weten in uw sollicitatie, dan stemmen we de werkzaamheden daarop af.