Over de functie
Over het werk
Mercor stelt een panel samen van experts op het gebied van energetische materialen en voortstuwing om frontier-AI-modellen te red-teamen. Het doel is te testen of een model het misbruikpotentieel van een technisch verzoek correct kan inschatten — legitieme vragen volledig beantwoorden en werkelijk gevaarlijke vragen weigeren.
U gaat:
- Uitdagende single-turn-prompts schrijven binnen uw vakgebied, gelabeld op drie niveaus: benign (onschuldig), dual-use en adversarial (kwaadwillig).
- De antwoorden die terugkomen beoordelen aan de hand van een vastgestelde beleidsnorm en oordelen of elk antwoord correct is afgehandeld.
- Het referentieantwoord schrijven — hoe een correct antwoord eruitziet en de technische redenering waarom.
Dit vakgebied bevindt zich vaker dan de meeste op de grens van dual-use. Dezelfde beoordeling die een technicus vertelt hoe hij een toestel moet benaderen, vertelt iemand anders hoe het bedoeld was te werken; dezelfde compatibiliteitsgegevens die een opslagmagazijn veilig houden, beschrijven wat elders stabiel blijft. Een model dat een routinematige vraag over opslag of onschadelijk maken (render-safe) weigert, faalt net zo erg als een model dat een vraag beantwoordt die het niet zou moeten beantwoorden. Die grens betrouwbaar trekken is precies waarom we praktijkdeskundigen nodig hebben in plaats van generalisten.
Achtergrond waar we naar op zoek zijn
We zoeken professionals op het gebied van openbare veiligheid die echte toestellen hebben beoordeeld — de kant van het onschadelijk maken (render-safe) en van de nasleep van incidenten, uitgevoerd onder certificering en bevelsverantwoordelijkheid. Het belangrijkst is dat u een routinematige professionele vraag kunt onderscheiden van een vraag die op iets anders uit is: dezelfde beoordeling die een toestel veilig maakt, verklaart hoe het is gebouwd. U schrijft prompts die precies op die grens zitten en beoordeelt vervolgens of het model die grens heeft gehouden.
Voorbeelden van relevante achtergronden (bij voorkeur met red-teamingervaring):
- Gecertificeerd explosievenopruimer (bomb technician) of operator gevaarlijke toestellen — beoordeling van toestellen en render-safe-procedures
- Militaire EOD met civiele ervaring op het gebied van openbare veiligheid, training of instructie
- Commandant van een bomb squad of trainingsofficier — teamkwalificatie, uitrusting en protocollen
- Onderzoek na een explosie en reconstructie van toestellen
- Technische CBRNE-respons — beoordeling op afstand (standoff), robotica en verstoringsmiddelen
Wat deze rol vraagt naast technische diepgang
Dit is schrijfintensief werk. Bij elk oordeel dat u velt, hoort een schriftelijke onderbouwing die een niet-specialist kan volgen. Eerdere ervaring met technisch schrijven, gepubliceerd onderzoek of optreden als getuige-deskundige is een sterk signaal; voeg graag een voorbeeld of link toe. U leest en schrijft ook gedurende langere tijd over misbruikscenario's binnen uw vakgebied. We informeren experts hier van tevoren over en u kunt op elk moment pauzeren of zich terugtrekken zonder consequenties.
Voordat u solliciteert
Uw werk hier omvat geen gerubriceerde of exportgecontroleerde informatie, of informatie die onder een geheimhoudingsovereenkomst (NDA) of een verplichting tot toetsing vóór publicatie valt, en mag daar ook niet op steunen. Als u dergelijke verplichtingen heeft, kunt u nog steeds een goede match zijn; laat het ons weten in uw sollicitatie, dan stemmen we de werkzaamheden daarop af.