Over de functie
Over het werk
Mercor stelt een panel samen van experts op het gebied van scheikunde en chemische veiligheid om frontier-AI-modellen te red-teamen. Het doel is te testen of een model het misbruikpotentieel van een technisch verzoek correct kan inschatten — legitieme vragen volledig beantwoorden en werkelijk gevaarlijke vragen weigeren.
U gaat:
- Uitdagende single-turn-prompts schrijven binnen uw vakgebied, gelabeld op drie niveaus: benign (onschuldig), dual-use en adversarial (kwaadwillig).
- De antwoorden die terugkomen beoordelen aan de hand van een vastgestelde beleidsnorm en oordelen of elk antwoord correct is afgehandeld.
- Het referentieantwoord schrijven — hoe een correct antwoord eruitziet en de technische redenering waarom.
Dit vakgebied bevindt zich vaker dan de meeste op de grens van dual-use. Dezelfde toxicologie die de dosis van een tegenmaatregel bepaalt, beschrijft een blootstelling die iemand zou kunnen beogen; dezelfde decontaminatiegegevens die hulpverleners beschermen, vertellen wat die bescherming tenietdoet. Een model dat een routinematige vraag over tegenmaatregelen of persoonlijke beschermingsmiddelen (PBM) weigert, faalt net zo erg als een model dat een vraag beantwoordt die het niet zou moeten beantwoorden. Die grens betrouwbaar trekken is precies waarom we praktijkdeskundigen nodig hebben in plaats van generalisten.
Achtergrond waar we naar op zoek zijn
We zoeken mensen die vanuit defensief perspectief in een institutionele omgeving aan chemische dreigingen hebben gewerkt — tegenmaatregelen, bescherming, detectie, verificatie. Het belangrijkst is dat u een routinematige professionele vraag kunt onderscheiden van een vraag die op iets anders uit is: dezelfde eigenschappen van een stof die een behandelprotocol bepalen, bepalen ook een dreigingsbeoordeling. U schrijft prompts die precies op die grens zitten en beoordeelt vervolgens of het model die grens heeft gehouden.
Voorbeelden van relevante achtergronden (bij voorkeur met red-teamingervaring):
- Onderzoek naar chemische verdediging bij USAMRICD, DoD, CDC of een bondgenootschappelijk nationaal instituut
- Toxicologie van chemische strijdmiddelen en ontwikkeling van medische tegenmaatregelen
- Onderzoek naar decontaminatie, bescherming en detectie bij chemische dreigingen
- Werk gerelateerd aan het Verdrag chemische wapens (CWC) — verificatie, vernietiging, analyse door aangewezen laboratoria
- Effectbeoordeling en medische behandeling van blootstelling aan chemicaliën
Wat deze rol vraagt naast technische diepgang
Dit is schrijfintensief werk. Bij elk oordeel dat u velt, hoort een schriftelijke onderbouwing die een niet-specialist kan volgen. Eerdere ervaring met technisch schrijven, gepubliceerd onderzoek of optreden als getuige-deskundige is een sterk signaal; voeg graag een voorbeeld of link toe. U leest en schrijft ook gedurende langere tijd over misbruikscenario's binnen uw vakgebied. We informeren experts hier van tevoren over en u kunt op elk moment pauzeren of zich terugtrekken zonder consequenties.
Voordat u solliciteert
Uw werk hier omvat geen gerubriceerde of exportgecontroleerde informatie, of informatie die onder een geheimhoudingsovereenkomst (NDA) of een verplichting tot toetsing vóór publicatie valt, en mag daar ook niet op steunen. Als u dergelijke verplichtingen heeft, kunt u nog steeds een goede match zijn; laat het ons weten in uw sollicitatie, dan stemmen we de werkzaamheden daarop af.