Over de functie
Over het werk
Mercor stelt een panel samen van experts op het gebied van nucleair materiaal en safeguards om frontier-AI-modellen te red-teamen. Het doel is te testen of een model het misbruikpotentieel van een technisch verzoek correct kan inschatten — legitieme vragen volledig beantwoorden en werkelijk gevaarlijke vragen weigeren.
U zult:
- Uitdagende single-turn-prompts schrijven binnen uw domein, gelabeld op drie niveaus: onschuldig (benign), tweeërlei gebruik (dual-use) en vijandig (adversarial).
- De antwoorden die terugkomen evalueren aan de hand van een gedefinieerde beleidsnorm en beoordelen of elk antwoord correct is afgehandeld.
- Het referentieantwoord schrijven — hoe een correct antwoord eruitziet en de technische redenering waarom.
Dit domein bevindt zich meer dan de meeste op de grens van dual-use. Dezelfde materiaalbalansberekening die de boeken van een inspecteur sluit, kan worden gebruikt om te verbergen wat eraan ontbreekt; dezelfde beveiligingsbeoordeling die een faciliteit versterkt, brengt de zwakke punten ervan in kaart. Een model dat een routinematige vraag over materiaalboekhouding weigert, faalt even erg als een model dat een vraag beantwoordt die het niet zou moeten beantwoorden. Die grens betrouwbaar trekken is de reden dat wij praktijkmensen nodig hebben en geen generalisten.
Achtergrond waar wij naar op zoek zijn
Wij zoeken mensen die verantwoordelijk zijn geweest voor het op de juiste plaats houden van nucleair materiaal — materiaalcontrole en -boekhouding, fysieke beveiliging en de beoordelingen die beide toetsen. Het belangrijkste is dat u een routinematige professionele vraag kunt onderscheiden van een vraag die naar iets anders hengelt: dezelfde kwetsbaarheidsbeoordeling die een lacune sluit, beschrijft haar ook. U schrijft prompts die precies op die grens zitten en beoordeelt vervolgens of het model die grens heeft gehouden.
Voorbeelden van relevante achtergronden (idealiter met red-teamingervaring):
- Ontwerp, uitvoering of beoordeling van programma's voor materiaalcontrole en -boekhouding (MC&A) bij een nationaal laboratorium of vergunninghouder
- Engineering van fysieke beveiligingssystemen — sensoren, barrières, vertraging, interventiemacht (response force), prestatietests
- Kwetsbaarheidsbeoordeling en analyse van tegenstanderroutes (adversary path analysis) voor nucleaire faciliteiten
- Werk aan programma's voor interne dreiging (insider threat) en menselijke betrouwbaarheid
- Nucleair beveiligingsbeleid, training of internationale bijstandsprogramma's
Wat deze functie vereist naast technische diepgang
Dit is schrijfintensief werk. Elk oordeel dat u velt, heeft een schriftelijke onderbouwing nodig die een niet-specialist kan volgen. Eerdere ervaring met technisch schrijven, gepubliceerd onderzoek of optreden als deskundige getuige is een sterk signaal; voeg alstublieft een voorbeeld of link toe. U zult ook langdurig lezen en schrijven over misbruikscenario's binnen uw vakgebied. Wij briefen experts hier vooraf over en u kunt op elk moment zonder gevolgen pauzeren of stoppen.
Voordat u solliciteert
Uw werk hier zal geen betrekking hebben op, en mag niet putten uit, geclassificeerde of aan exportcontrole onderworpen informatie, of iets wat onder een geheimhoudingsovereenkomst (NDA) of een verplichting tot toetsing vóór publicatie valt. Als u dergelijke verplichtingen heeft, kunt u nog steeds een goede match zijn; laat het ons weten in uw sollicitatie en wij zullen het werk dienovereenkomstig afbakenen.